OpenAI无限期搁置成人色情项目

3月26日消息，据金融时报报道，由于员工和投资者担心性化人工智能内容对社会的影响，OpenAI 已“无限期”搁置发布色情聊天机器人的计划，并将重心重新放在核心产品上。

据多位知情人士透露，萨姆·奥特曼的这家初创公司此前已经推迟了“成人模式”的发布，因为公司内部一直在讨论是否要完全放弃该模式。

这款性聊天机器人因可能助长对人工智能系统的不健康依赖以及使未成年人接触到有害的性内容而面临越来越大的反对声浪。

OpenAI证实，情色模型项目已被搁置，目前尚无发布时间表。这家市值7300亿美元的人工智能实验室表示，希望在做出产品决策之前，对露骨的性聊天和情感依恋的影响进行长期研究，并承认目前尚无“实证证据”。

这是 OpenAI 最新做出的决定，放弃高管们所谓的“支线任务”，转而将资源投入到生产力工具中，将编码助手和 ChatGPT 等产品整合到一个“超级应用”中。

OpenAI 周二表示，将逐步停止其 Sora 视频生成模型和社交应用程序的开发。

对于 OpenAI 而言，这款情色模型尤其引发争议，而此时 Meta 等社交媒体集团正因其产品对儿童造成的伤害而面临法律诉讼。

去年，埃隆·马斯克的 xAI 大力推广成人内容以吸引用户，但其 Grok 模型却因创建包括儿童在内的真实人物的虚假性图像而遭到全球强烈反对。

这种紧张局势凸显了 OpenAI 在竞争激烈的市场中提升用户参与度和寻找新的增长途径所面临的压力，同时还要应对那些模糊了实用性和情感依赖之间界限的产品所带来的伦理和声誉风险。

据两位知情人士透露，OpenAI 对成人模式的尝试引起了部分投资者的不安，因为这类产品存在风险，而且对公司而言收益相对较小。

OpenAI 的成人模式也引起了员工的担忧，他们担心开发一款鼓励浪漫用途的产品是否与其确保人工智能造福全人类的创立使命相悖。

“人工智能不应该取代你的朋友或家人；你应该拥有人际关系，”一位前高级员工说道，他表示自己离职的部分原因就是这个问题。

除了人们越来越关注该项目的社会影响之外，这家初创公司在创建成人模式方面也面临着技术挑战。

两位知情人士透露，OpenAI在训练人工智能模型生成露骨内容时遇到了困难，这些模型此前出于安全考虑会避免此类对话。他们补充说，使用包含性内容的数据集也带来了挑战，例如需要移除兽交或乱伦等非法行为。

OpenAI 表示，他们正在仔细界定正确的边界，并训练模型以区分细微场景中的某些内容。

ChatGPT 网络应用程序中的代码表明，名为“Citron 模式”的成人模式可能会要求用户验证他们是否已年满 18 岁才能访问。

过去几个月，OpenAI 推出了一款新的年龄预测系统，此前一些青少年家庭提起诉讼，声称 ChatGPT 对他们造成了伤害。

一位知情人士透露，该技术的错误率超过10%，加剧了人们对未成年人可能接触到该技术的担忧。《华尔街日报》率先报道了这一错误率，并指出OpenAI的福祉专家顾问委员会已对这款成人产品表达了担忧。

OpenAI 表示，其年龄预测系统符合行业标准，并将继续投资以提高其准确性和可靠性。（鞭牛士、AI普瑞斯编译）