北京
OpenAI备受争议的ChatGPT「成人模式」终于露出更多细节：该功能将支持带有成人主题的调情文字对话，但不会开放图像、语音或视频生成功能。
据《华尔街日报》报道，一位OpenAI发言人将即将推出的内容描述为「情色」而非「色情」，允许成年用户生成成人主题的文本聊天内容。这一区分看似微妙，实则意义重大。
该功能最初于去年10月宣布，CEO山姆·奥特曼声称公司已解决AI模型的「严重心理健康问题」，可以为成年用户提供「情色内容」。原定于今年第一季度上线，但本月初OpenAI宣布推迟发布，称需要优先处理其他任务。
《华尔街日报》的报道称，推迟背后还有更深层的顾虑。OpenAI顾问委员会在1月警告公司，成人模式可能被未成年人访问，并可能培养用户对聊天机器人的不健康情感依赖。一位未具名的委员会成员甚至警告，OpenAI可能创造出「性感自杀教练」。
内容审核问题也是推迟的原因之一。消息人士透露，OpenAI在放宽NSFW内容限制的同时，难以阻止描绘非自愿行为或儿童性虐待等更有害场景的内容。
更令人担忧的是年龄验证系统的准确性。OpenAI开发的年龄预测系统一度有约12%的概率将未成年人误判为成年人。考虑到ChatGPT每周吸引约1亿未成年用户，这一错误率可能让数百万未成年人接触到成人内容。OpenAI承认，年龄预测算法「永远不会完全万无一失」。
专注于文字内容可能是OpenAI的合规策略。英国《网络安全法》要求在线平台对色情图像实施年龄验证，但对文字情色内容无此要求。这与竞争对手xAI形成鲜明对比——马斯克上周宣布，Grok的图像和视频生成器可以输出「R级电影允许的任何内容」。
OpenAI的谨慎态度反映了AI公司在内容安全与用户需求之间的艰难平衡。在深度伪造和AI生成内容泛滥的时代，如何划定安全边界，仍是整个行业面临的重大挑战。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
