北京
- 01 OpenAI首席执行官萨姆·奥特曼宣布，计划从12月起放宽限制，允许聊天机器人ChatGPT为通过身份认证的成年用户生成情色内容。
- 02 此决定引发了广泛争议。美国多个组织呼吁撤销，警告虚拟亲密关系会造成真实心理健康伤害。同时，报道指出此举可能刺激立法者加强对AI内容的监管。
- 03 面对由此引发的争议，奥特曼回应称，公司“并非世界道德警察”，但仍会禁止对他人造成伤害的内容。
10月16日消息，OpenAI首席执行官萨姆·奥特曼（Sam Altman）有关放宽限制、允许聊天机器人ChatGPT生成情色内容的决定引发了争议，他对此于周三回应称，公司“并非世界道德警察”。
近几个月来，由于在用户保护（尤其是未成年人保护）方面面临着日益严格的审查，OpenAI已强化了其安全管控。
但奥特曼周二在社交媒体平台X发帖称，鉴于公司已拥有新工具，并能够缓解“严重心理健康问题”，OpenAI现在将可以“安全放宽”大部分限制。他补充说：“我们曾对ChatGPT施加了相当严格的限制，以确保在处理心理健康问题时足够谨慎，但这也导致其对许多没有这类问题的用户而言，实用性与趣味性均有所降低。”
奥特曼还表示，从12月起，ChatGPT将面向“通过身份认证的成年用户”开放包括情色内容在内的更多内容。
周三，奥特曼试图在X平台澄清这一举措。他表示，OpenAI“高度重视 ‘将成年用户视为成年人对待’的原则”，但仍会禁止“对他人造成伤害的内容”。
奥特曼写道，“就像社会对其他领域设有适当边界（比如R级电影），我们希望采取类似做法。”
这番言论与今年8月份奥特曼在一次播客节目中的表态形成强烈反差。当时他曾自豪地表示，OpenAI能够抵制“虚拟性爱机器人”等某些可能提升ChatGPT用户参与度的功能。
他当时说道，“有很多短期手段确实可以刺激增长或收入，但与我们的长期目标严重不符。”
去年9月份，美国联邦贸易委员会（FTC）就ChatGPT等聊天机器人可能对儿童和青少年产生的负面影响，对OpenAI及其他科技公司展开调查。OpenAI还卷入了一起过失致死诉讼，有家庭指责ChatGPT导致他们十几岁的儿子自杀身亡。
在遭遇调查及诉讼后的数月间，公司采取多项公开措施来加强ChatGPT的安全防护。上月底，OpenAI推出一系列家长控制功能，并且还在开发能自动为18岁以下用户应用青少年适用模式的年龄预测系统。
本周二，OpenAI宣布成立由8名专家组成的委员会，专门评估AI对用户心理健康、情绪以及动机的影响。也正是在当日，奥特曼发布了一则关于放宽限制的推文，在社交媒体上引发了困惑和大量争议。
奥特曼坦言，此事引发的反响“远超他的预期”。
奥特曼的最新言论也引起美国“国家反性剥削中心”（National Center on Sexual Exploitation）等组织的注意。该机构周三发表声明，呼吁OpenAI撤销在ChatGPT上放开情色内容的决定。
该中心执行董事海莉·麦克纳马拉（Haley McNamara）在周三的一份声明中表示，“在行业安全标准尚不明确的背景下，性化的AI聊天机器人存在固有风险，其产生的虚拟亲密关系会造成真实的心理健康伤害。”
科技媒体The Verge提到，涉足情色领域的公司并非只有OpenAI。埃隆·马斯克（Elon Musk）创办的人工智能公司xAI此前就曾推出具有调情功能的AI伴侣，在Grok应用中以3D动漫模型的形象出现。
新闻网站Axios则指出，OpenAI的这一举措可能有助于其吸引付费订阅用户，但也很可能刺激立法者加强对AI内容的监管力度。报道称，参议员乔希·霍利（Josh Hawley）正在传阅一份法案草案，该法案将禁止未成年人使用AI伴侣。
Axios的报道还提到，从历史上看，从录像机到数字视频以及互动游戏，色情产业一直在推动技术前沿的发展。尽管成人娱乐并非顶尖人工智能研发背后的主要驱动力，但一个庞大的AI生成色情内容产业已然形成。其中，马斯克的Grok在此方面一直最为宽容，尤其是其还提供了专为性角色扮演设计的AI伴侣。Meta公司也因其聊天机器人与未成年人进行涉性对话而备受抨击，其中一些机器人还模仿了特定名人。
但Axios的另一篇报道则引述了著名科技投资人马克·库班（Mark Cuban）的反对意见。他公开批评此举可能“适得其反”，特别担忧年龄验证机制被突破后，导致未成年人接触到不当内容的风险。
《福布斯》的报道也提到，随着OpenAI和其他人工智能公司的聊天机器人日益普及，它们会受到越来越严格的审查。一些心理健康和儿童安全组织要求OpenAI对ChatGPT实施进一步限制，因为他们指出，用户在情绪困扰时会更多地使用这款聊天机器人，而且儿童可能会接触到露骨的性内容；而专家们则声称，对于寻求情感认同的年轻用户而言，这项技术可能构成心理威胁。（辰辰）
