从“谨慎保护”到“信任成年人” ChatGPT将允许生成成人内容？｜科技观察

封面新闻记者 边雪

近日，OpenAI首席执行官山姆·奥特曼（Sam Altman）宣布，公司计划在2025年12月推出新版ChatGPT，对经过年龄验证的成年用户开放更宽松的内容生成权限，其中包括在明确请求的情况下允许创作“成人内容”。

OpenAI首席执行官兼联合创始人山姆·奥特曼。图据视觉中国

这意味着，ChatGPT将从以往的“严格过滤”走向“条件式开放”，这是OpenAI内容政策自成立以来最大的一次调整，并引发了关于人工智能伦理边界的广泛争议。

“AI在成人内容上的放开，可能带来一种‘情感替代效应’，使部分用户逐渐以人工智能取代真实的情感关系，从而影响社会互动的健康生态。”某头部人工智能算法工程师张昊在接受记者采访时指出，AI平台即使通过技术手段“加锁”，仍无法完全规避伦理风险。

从“谨慎保护”到“信任成年人”

奥特曼在公开声明中表示，OpenAI将“在确保安全的前提下，逐步放宽对ChatGPT生成成人内容的限制”。他称：“我们相信，模型现在可以像对待成年人一样对待成年用户。”

“这一新功能仅适用于经过验证的成年人，且必须在‘用户明确要求’的前提下才会触发相关内容。”奥特曼强调，“除非你请求，否则你不会得到它。”

OpenAI同时表示，将在新版ChatGPT中为用户提供更高的个性化自由：用户可以调整聊天语气、表达风格，甚至选择更“人性化”或“情感化”的互动模式。这一版本也被描述为“更成熟的ChatGPT”。

青少年保护机制已上线

封面新闻注意到，在放宽成人内容限制之前，OpenAI刚刚推出了针对青少年的安全保护措施。9月，该公司宣布允许父母与青少年的ChatGPT账户进行关联，可监控模型的回应方式并限制聊天记录功能。

此外，OpenAI还引入了心理健康安全机制。当系统检测到未成年用户出现极度痛苦或自杀倾向时，平台将尝试通知其父母或监护人，必要时联系相关部门。

奥特曼当时表示：“我们将安全置于青少年的隐私和自由之上。这项技术仍然强大而新颖，未成年人需要更强有力地保护。”

对此，美国科技投资人马克·库班（Mark Cuban）公开表示担忧：“没有任何家长会希望孩子接触到一个能生成成人内容的ChatGPT。”

业内人士告诉封面新闻记者，OpenAI的这一系列措施显示出其试图在“未成年人保护”与“成年人自由”之间寻找新的平衡。

AI“自由”与伦理的“边界”

该如何划定？

奥特曼的声明一经发布，立刻在科技与伦理领域引发巨大争议。批评者认为，AI生成成人内容不仅是技术问题，更是社会与心理层面的伦理挑战。

从事人工智能伦理研究者刘奚岩指出，AI成人内容面临许多的风险。“首先是年龄验证难题，目前尚无完全可靠的在线年龄验证系统，漏洞可能导致未成年人绕过限制，AI可能成为虚拟‘恋人’，造成情感依赖或现实关系障碍。”

刘奚岩指出，深度伪造成人图像与文本的传播，或将进一步加剧隐私侵害问题；而AI模型在生成相关内容时，也可能强化对女性形象的物化与性别偏见。

“技术上我们可以设定触发条件、身份验证、关键词过滤等，但伦理问题不是加几道锁就能解决的。”张昊说，“尤其是在AI被赋予情感或欲望表达能力时，必须重新思考人与机器的界限。”

允许AI生成成人内容的行为，是在重新定义“数字亲密关系”的边界。目前，多数国家尚未就“AI生成成人内容”建立完善的法律框架。平台的责任边界、用户隐私保护、数据滥用监管等问题，仍处于灰色地带。

部分业内人士呼吁，AI企业应设立独立伦理审查委员会，公开算法治理流程，以防止系统被用于非法或非自愿内容生产。

清华大学社科学院长聘副教授、博士生导师孟天广表示，未来要建立适应人工智能社会更有效、更有伦理性的治理结构，必然是一个双边甚至多边的关系，人工智能治理可能是大量主体同时形成共识，设立一个联合契约，这会是比较好的方法。

从全面禁止到有限开放，ChatGPT的转变反映出人工智能时代伦理观念的动摇与重构。与此同时，业内观察人士指出，OpenAI此举也反映了商业层面的竞争压力。随着Character.AI、Replika等“虚拟伴侣”类产品吸引大量用户，OpenAI或正尝试扩大ChatGPT的应用场景，以维持领先地位。