OpenAI无限期叫停成人聊天产品

由于员工和投资方对人工智能涉黄内容可能带来的社会后果表示忧虑，同时公司战略重新回归核心业务，OpenAI已“无限期”暂停推出色情聊天机器人(14.880, -0.19, -1.26%)的计划。

多位知情人士称，这家由萨姆·奥尔特曼创办的企业此前已经延后其“成人模式”上线时间，内部也在讨论是否应彻底放弃这一模型。

这款色情聊天机器人正面临越来越多的质疑，外界认为它可能加深用户对人工智能系统的不健康情感依附，并让未成年人暴露于不良色情信息之中。

OpenAI确认，该色情模型目前已被搁置，且尚未设定明确的发布时间表。这家估值7300亿美元的人工智能实验室表示，在作出产品取舍前，仍需就露骨聊天内容及情感依赖的影响进行长期研究，并坦言眼下缺乏相关“实证依据”。

这是OpenAI近期作出的又一项调整，公司放下高管所称的“边缘项目”，把更多资源转投生产力产品，推动代码助手、ChatGPT等服务整合成一款“超级应用”。

OpenAI于周二宣布，将逐步结束Sora视频生成模型及其社交应用的运营。

在Meta等社交平台因产品被指伤害儿童而面临法律追责的背景下，这一色情模型对OpenAI来说显得尤其敏感且充满争议。

埃隆·马斯克旗下的xAI去年曾明显借助成人内容吸引用户，但其Grok模型生成包括未成年人在内的真人虚假色情图片，继而在全球范围内招致强烈批评。

这一冲突折射出，在竞争白热化的市场环境中，OpenAI一方面要提升用户活跃度、探索新的增长空间，另一方面也必须处理介于实用功能与情感依赖之间的产品所引发的伦理与声誉风险。

据两名知情人士透露，OpenAI围绕成人模式的尝试已让部分投资人感到不安，因为该产品风险较高，而能为业务带来的增长空间又相对有限。

OpenAI的成人模式同样引起员工顾虑：打造一款鼓励情感化使用的产品，是否会背离其“确保人工智能造福全人类”的创立初衷。

一名前高级员工表示：“人工智能不应该替代你的朋友或家人，人应当拥有真实的人际关系。”该人士称，自己离职的部分原因正与这一问题有关。

除对该项目社会影响的担心不断上升外，这家初创公司在开发成人模式过程中也遇到了技术层面的难题。

两名了解该项目的人士表示，出于安全因素，过往人工智能模型通常会回避这类对话，因此要训练其输出露骨内容并不容易。他们还称，采用含色情内容的数据集同样存在不少挑战，例如需要剔除兽交、乱伦等违法内容。

OpenAI表示，公司正以审慎方式界定合适边界，并训练模型在复杂情境下识别和区分特定内容。

ChatGPT网页应用中的代码显示，这款名为“香橼模式”（Citronmode）的成人模型可能要求用户先验证自己已满18岁后方可使用。

过去几个月，已有多起青少年家属提起诉讼，称ChatGPT对其造成伤害，此后OpenAI上线了新的年龄预测系统。

一名知情人士表示，这项技术的错误率超过10%，进一步加重了外界对未成年人接触相关内容的担忧。

OpenAI回应称，其年龄预测系统的表现符合行业通常标准，并会持续投入资源提升准确率和可靠性。

责任编辑：刘明亮

新浪财经声明：该消息转载自合作媒体，新浪财经发布此文旨在传递更多信息，文章内容仅供参考，不构成投资建议。

郑重声明：1.依据《证券法》规定，严禁编造、传播虚假信息或误导性信息，扰乱证券市场；2.用户在本社区发表的全部资料、言论等仅代表个人观点，与本网站立场无关，也不构成任何投资建议。用户应基于独立判断，自主决定证券投资并承担相应风险。