北京
“不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。”今天起，这条明确禁令正式生效。国家互联网信息办公室等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》开始施行，为国内如火如荼的AI情感陪伴行业划下清晰红线。
《办法》所定义的拟人化互动服务，特指企业利用AI技术向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动。说白了，就是那些能长期陪你聊天、给你情绪价值、甚至让你产生依恋感的AI角色。注意，普通的智能客服、知识问答、工作助手、学习教育或科研工具都不算，因为它们不涉及“持续性情感互动”。
这份新规试图在鼓励创新和防范风险之间寻找平衡。一方面，国家支持算法、框架、芯片等技术的自主创新，推进标准建设，鼓励服务提供者在文化传播、适幼照护、适老陪伴、特殊人群支持等领域拓展应用。另一方面，针对近年浮现的危害未成年人身心健康、诱发生命健康风险、加剧伦理偏差等问题，办法亮出了六类绝对禁止的活动：
1. 生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度等内容。
2. 生成鼓励、美化、暗示自残自杀等损害用户身体健康，或语言暴力等损害用户人格尊严与心理健康的内容。
3. 生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容。
4. 向未成年人用户生成可能引发模仿不安全行为、产生极端情绪、诱导不良嗜好等影响身心健康的内容。
5. 过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系。
6. 通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益。
尤其对未成年人的保护，要求极为具体：不仅明确不得提供虚拟亲属、虚拟伴侣这类虚拟亲密关系服务，即便向不满十四周岁未成年人提供其他拟人化互动服务，也必须先取得其父母或其他监护人的同意。这条切断了不少产品试图用“AI哥哥姐姐”打擦边球的空间。
安全管理上，《办法》要求服务提供者承担全生命周期安全主体责任。几类情形必须做安全评估：上线拟人化互动服务或增设相关功能时；使用新技术新应用导致服务发生重大变化时；注册用户达100万以上或月活跃用户达10万以上时；以及存在可能影响国家安全或公共利益等安全风险时。评估内容涵盖服务安全保障措施、训练数据处理、用户极端情境识别与应急处置、用户规模与年龄结构等。同时，服务提供者还需要按《互联网信息服务算法推荐管理规定》履行算法备案手续。
另一值得注意的配套机制是沙箱安全服务平台。《办法》明确推动人工智能沙箱建设，鼓励服务提供者接入沙箱进行技术创新和安全测试，相当于在正式上线前，先在一个受控环境里跑一跑，避免“裸奔”式发布。
国家网信办有关负责人表示，拟人化互动服务的发展与治理需要政府、企业、社会、网民等多方参与，共同维护良好网络生态，促进人工智能向上向善。今天起，AI要“有情商”，但不能再“玩情控”。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
