OpenAI放宽成人内容引争议，奥尔特曼回应

IT之家 10 月 16 日消息，当地时间周三，OpenAI 首席执行官萨姆・奥尔特曼（Sam Altman）在面对外界对其放宽内容限制政策的批评时回应称，该公司“并非世界选出的道德警察”。

图源：OpenAI 官网

此前，奥尔特曼宣布将放松对旗下聊天机器人 ChatGPT 的内容管制，允许包括情色内容在内的成人主题内容上线，此举引发了广泛争议。作为回应，奥尔特曼于周三表示，OpenAI 并不打算充当全球用户行为的道德裁决者。

IT之家注意到，这家人工智能初创公司在过去数月已逐步加强安全管控措施，以应对外界日益增长的质疑 —— 即其如何保护用户，尤其是未成年人的安全。

然而，奥尔特曼周二在社交媒体 X 平台发帖称，随着公司开发出新的技术工具，并成功缓解了“严重的心理健康问题”，现在已能够“安全地放宽”大部分内容限制。

去年 12 月，奥尔特曼称 OpenAI 已决定向“经验证的成年人”开放更多内容，包括情色题材。

周三，奥尔特曼再次发文试图澄清这一政策调整。他表示，OpenAI“非常重视将成年用户视为成年人来对待”的原则，但同时强调，平台仍不会允许任何可能对他人造成伤害的内容存在。

他写道：“正如社会在其他领域设定适当界限（例如 R 级电影）一样，我们也希望在此采取类似的区分方式。”

这一立场与奥尔特曼今年 8 月在一档播客节目中的表态形成鲜明对比。当时他表示，自己为 OpenAI 拒绝推出某些可能提升用户活跃度的功能（如“性爱机器人头像”）感到“自豪”。“有很多短期手段可以显著推动增长或增加收入，但这些做法与我们的长期目标严重背道而驰。”奥尔特曼当时说道。

今年 9 月，美国联邦贸易委员会（FTC）启动对 OpenAI 及其他科技公司的调查，关注诸如 ChatGPT 之类的聊天机器人是否会对儿童和青少年产生负面影响。此外，OpenAI 还卷入一起过失致死诉讼案，一个家庭指控 ChatGPT 导致其青少年儿子自杀身亡。

自上述调查和诉讼发生以来，OpenAI 已采取多项公开举措以提升 ChatGPT 的安全性。上个月底，公司推出了一系列家长控制功能，并正在开发一套年龄预测系统，可自动为 18 岁以下用户启用适合青少年的设置。

就在周二，OpenAI 宣布成立一个由八位专家组成的顾问委员会，旨在深入研究人工智能对用户心理健康、情绪状态及内在动机的影响。同一天，奥尔特曼发布了关于放宽内容限制的声明，随即引发公众困惑和社会媒体上的迅速反弹。

奥尔特曼坦言，舆论反应“远超预期”。

他的言论也引起了多个倡导组织的关注。其中，美国全国反性剥削中心（National Center on Sexual Exploitation, NCOSE）呼吁 OpenAI 撤销允许情色内容上线的决定。该组织执行主任海莉・麦克纳马拉（Haley McNamara）周三发表声明指出：“性化的 AI 聊天机器人本质上具有高风险，会在缺乏明确行业安全标准的情况下，因‘合成亲密关系’而引发真实的心理健康危害。”