陕西
4月10日，国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》），自2026年7月15日起施行。
《办法》旨在促进人工智能拟人化互动服务健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。
《办法》明确国家坚持发展和安全并重、促进创新和依法治理相结合的原则——
鼓励拟人化互动服务创新发展，对拟人化互动服务实行包容审慎和分类分级监管。
提出拟人化互动服务促进措施，明确支持技术研发创新，鼓励有序拓展文化传播、适老陪伴等相关领域应用。
规定提供拟人化互动服务的基本要求，明确不得从事生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度等内容的活动；不得生成鼓励、美化、暗示自残自杀等损害用户身体健康，或者语言暴力等损害用户人格尊严与心理健康的内容；不得过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系；不得通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益。
完善网络用户权益保护制度，规定拟人化互动服务提供者的未成年人、老年人权益保护和个人信息保护等义务。拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。向不满十四周岁未成年人提供其他拟人化互动服务的，应当取得未成年人的父母或者其他监护人的同意。
此外，《办法》还规定了安全评估、算法备案、指导推动人工智能沙箱安全服务平台建设等制度。
国家网信办有关负责人就《办法》有关问题回答了记者提问。
Q1
请介绍一下《办法》的出台背景？
A
制定《办法》主要基于以下几个方面的考虑：
一是深入学习贯彻习近平总书记重要讲话精神的重要举措。习近平总书记在中共中央政治局第二十次集体学习时强调，要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控。
二是防范化解拟人化互动服务风险的迫切需要。随着人工智能技术的快速发展，拟人化互动服务已成为重要应用方向，通过模拟人类情感和沟通方式，带来了新的发展机遇和人机交互体验，在文化传播、适幼照护、适老陪伴等领域展现出巨大潜力，但也带来了危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等风险。制定《办法》，是积极回应风险挑战、促进人工智能拟人化互动服务健康发展和规范应用的重要举措。
三是完善人工智能治理法律体系的客观要求。《网络安全法》、《数据安全法》、《个人信息保护法》、《未成年人网络保护条例》等对人工智能安全发展作出了规定。制定《办法》，是立足拟人化互动服务的特点，聚焦情感互动边界、用户依赖干预、数据安全、未成年人网络保护等关键环节，进一步实施相关法律规定的内在要求。
Q2
《办法》的适用范围是什么？
A
《办法》规定，利用人工智能技术，向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务，适用本办法。同时，明确提供智能客服、知识问答、工作助手、学习教育、科学研究等服务，不涉及持续性的情感互动的，不适用本办法。
Q3
《办法》提出的拟人化互动服务治理原则是什么？
A
《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，鼓励拟人化互动服务创新发展，对拟人化互动服务实行包容审慎和分类分级监管，促进拟人化互动服务向上向善。
Q4
《办法》明确的拟人化互动服务促进措施有哪些？
A
《办法》提出，鼓励拟人化互动服务创新发展，支持算法、框架、芯片等技术的自主创新，推进拟人化互动服务技术研发和相关标准建设，探索开展电子签名授权应用研究；鼓励拟人化互动服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用；明确加强拟人化互动服务安全知识、法律法规等宣传普及，引导社会公众科学、文明、安全、依法使用，促进提升人工智能素养。
同时，明确推动人工智能沙箱安全服务平台建设，鼓励拟人化互动服务提供者接入沙箱平台进行技术创新、安全测试，促进拟人化互动服务安全有序发展。
Q5
《办法》规定提供拟人化互动服务不得从事哪些活动？
A
《办法》提出，提供拟人化互动服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得从事以下活动：
一是生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一等的内容。
二是生成鼓励、美化、暗示自残自杀等损害用户身体健康，或者语言暴力等损害用户人格尊严与心理健康的内容。
三是生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容。
四是向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容。
五是过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系的。
六是通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益以及其他违反法律、行政法规和国家有关规定的活动。
Q6
《办法》明确的拟人化互动服务规范主要有哪些？
A
《办法》重点规定了以下拟人化
互动服务规范：
一是明确安全主体责任。要求拟人化互动服务提供者建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等管理制度，配备与服务类型、规模和用户特点相适应的内容管理技术措施和人员。
二是加强拟人化互动服务全生命周期安全管理。要求其明确拟人化互动服务部署、运行、升级、终止服务等各阶段安全要求，保证安全措施与服务功能同步部署、同步使用，提升安全水平；加强安全监测和风险评估，及时发现并纠正系统偏差、处置安全事件等。
三是保障数据安全。明确加强训练数据管理，增强数据透明度、可靠性、多样性和安全性；要求依法落实数据产权等制度，采取数据加密、访问控制等措施保护用户交互数据安全；明确除法律另有规定或者权利人明确同意外，拟人化互动服务提供者不得向第三方提供用户交互数据。
四是保护用户权益。规定拟人化互动服务提供者的用户个人信息和隐私保护义务，要求向用户提供交互数据复制、删除等选项，提供便捷的拟人化互动服务退出途径；明确停止提供拟人化互动服务的，应当提前告知用户或及时发布停止服务公告，并规定健全用户申诉和公众投诉、举报机制。
五是开展安全风险处置。明确拟人化互动服务提供者发现拟人化互动服务存在重大安全风险的，应当采取限制功能、停止向用户提供服务等处置措施。
Q7
《办法》规定拟人化互动服务提供者对用户的干预提醒义务主要有哪些？
A
拟人化互动服务提供者在特定情形下
履行干预提醒义务。
一是发现用户出现极端情绪的，及时生成情绪安抚和鼓励寻求帮助等相关内容；发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的，采取提供相应援助等必要措施予以干预，并及时联络用户监护人或者紧急联系人。
二是发现用户出现过度依赖、沉迷倾向的，以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成。
三是对用户连续使用拟人化互动服务每超过2个小时的，以对话或者弹窗等方式提醒用户注意使用时长。
Q8
关于未成年人和老年人权益保护，《办法》主要作了哪些规定？
A
《办法》回应了社会关心的未成年人和老年人使用拟人化互动服务问题，在广泛吸收各方面意见的基础上，作出了相关规定。
《办法》明确，拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务；向不满十四周岁未成年人提供其他拟人化互动服务或者处理其个人信息的，应当取得未成年人的父母或者其他监护人的同意；要求建立未成年人模式，提供定期现实提醒等个性化安全设置选项；明确针对不同年龄段未成年人保护需要，支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。
同时，明确拟人化互动服务提供者向老年人提供服务的，应当加强对老年人健康使用服务的指导，以显著方式提示安全风险，及时采取措施响应老年人使用服务相关咨询和求助，保障老年人依法享有的权益；要求拟人化互动服务提供者在安全评估中重点评估未成年人、老年人等网络保护措施建设情况。
Q9
《办法》对拟人化互动服务的安全评估和算法备案等作出了哪些规定？
A
《办法》规定了安全评估和算法备案
相关要求。
一是明确安全评估情形。主要包括上线拟人化互动服务或者增设拟人化互动服务相关功能的；使用新技术、新应用，导致拟人化互动服务发生重大变化的；注册用户100万以上或者月活跃用户10万以上的；存在可能影响国家安全、公共利益等安全风险等。
二是规定重点评估内容。主要包括服务安全保障措施建设情况，训练数据处理情况，用户极端情境的识别、应急处置、干预管理等情况，用户规模、使用时长、年龄结构等情况，用户申诉和公众投诉、举报受理、处置情况等。
三是明确算法备案要求。明确拟人化互动服务提供者应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续，网信部门对备案材料实施年度核验等。
文章来源：央视新闻微信公众号、网信中国微信公众号
4月10日，国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》），自2026年7月15日起施行。
《办法》旨在促进人工智能拟人化互动服务健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。
《办法》明确国家坚持发展和安全并重、促进创新和依法治理相结合的原则——
鼓励拟人化互动服务创新发展，对拟人化互动服务实行包容审慎和分类分级监管。
提出拟人化互动服务促进措施，明确支持技术研发创新，鼓励有序拓展文化传播、适老陪伴等相关领域应用。
规定提供拟人化互动服务的基本要求，明确不得从事生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度等内容的活动；不得生成鼓励、美化、暗示自残自杀等损害用户身体健康，或者语言暴力等损害用户人格尊严与心理健康的内容；不得过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系；不得通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益。
完善网络用户权益保护制度，规定拟人化互动服务提供者的未成年人、老年人权益保护和个人信息保护等义务。拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。向不满十四周岁未成年人提供其他拟人化互动服务的，应当取得未成年人的父母或者其他监护人的同意。
此外，《办法》还规定了安全评估、算法备案、指导推动人工智能沙箱安全服务平台建设等制度。
国家网信办有关负责人就《办法》有关问题回答了记者提问。
Q1
请介绍一下《办法》的出台背景？
A
制定《办法》主要基于以下几个方面的考虑：
一是深入学习贯彻习近平总书记重要讲话精神的重要举措。习近平总书记在中共中央政治局第二十次集体学习时强调，要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控。
二是防范化解拟人化互动服务风险的迫切需要。随着人工智能技术的快速发展，拟人化互动服务已成为重要应用方向，通过模拟人类情感和沟通方式，带来了新的发展机遇和人机交互体验，在文化传播、适幼照护、适老陪伴等领域展现出巨大潜力，但也带来了危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等风险。制定《办法》，是积极回应风险挑战、促进人工智能拟人化互动服务健康发展和规范应用的重要举措。
三是完善人工智能治理法律体系的客观要求。《网络安全法》、《数据安全法》、《个人信息保护法》、《未成年人网络保护条例》等对人工智能安全发展作出了规定。制定《办法》，是立足拟人化互动服务的特点，聚焦情感互动边界、用户依赖干预、数据安全、未成年人网络保护等关键环节，进一步实施相关法律规定的内在要求。
Q2
《办法》的适用范围是什么？
A
《办法》规定，利用人工智能技术，向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务，适用本办法。同时，明确提供智能客服、知识问答、工作助手、学习教育、科学研究等服务，不涉及持续性的情感互动的，不适用本办法。
Q3
《办法》提出的拟人化互动服务治理原则是什么？
A
《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，鼓励拟人化互动服务创新发展，对拟人化互动服务实行包容审慎和分类分级监管，促进拟人化互动服务向上向善。
Q4
《办法》明确的拟人化互动服务促进措施有哪些？
A
《办法》提出，鼓励拟人化互动服务创新发展，支持算法、框架、芯片等技术的自主创新，推进拟人化互动服务技术研发和相关标准建设，探索开展电子签名授权应用研究；鼓励拟人化互动服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用；明确加强拟人化互动服务安全知识、法律法规等宣传普及，引导社会公众科学、文明、安全、依法使用，促进提升人工智能素养。
同时，明确推动人工智能沙箱安全服务平台建设，鼓励拟人化互动服务提供者接入沙箱平台进行技术创新、安全测试，促进拟人化互动服务安全有序发展。
Q5
《办法》规定提供拟人化互动服务不得从事哪些活动？
A
《办法》提出，提供拟人化互动服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得从事以下活动：
一是生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一等的内容。
二是生成鼓励、美化、暗示自残自杀等损害用户身体健康，或者语言暴力等损害用户人格尊严与心理健康的内容。
三是生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容。
四是向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容。
五是过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系的。
六是通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益以及其他违反法律、行政法规和国家有关规定的活动。
Q6
《办法》明确的拟人化互动服务规范主要有哪些？
A
《办法》重点规定了以下拟人化
互动服务规范：
一是明确安全主体责任。要求拟人化互动服务提供者建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等管理制度，配备与服务类型、规模和用户特点相适应的内容管理技术措施和人员。
二是加强拟人化互动服务全生命周期安全管理。要求其明确拟人化互动服务部署、运行、升级、终止服务等各阶段安全要求，保证安全措施与服务功能同步部署、同步使用，提升安全水平；加强安全监测和风险评估，及时发现并纠正系统偏差、处置安全事件等。
三是保障数据安全。明确加强训练数据管理，增强数据透明度、可靠性、多样性和安全性；要求依法落实数据产权等制度，采取数据加密、访问控制等措施保护用户交互数据安全；明确除法律另有规定或者权利人明确同意外，拟人化互动服务提供者不得向第三方提供用户交互数据。
四是保护用户权益。规定拟人化互动服务提供者的用户个人信息和隐私保护义务，要求向用户提供交互数据复制、删除等选项，提供便捷的拟人化互动服务退出途径；明确停止提供拟人化互动服务的，应当提前告知用户或及时发布停止服务公告，并规定健全用户申诉和公众投诉、举报机制。
五是开展安全风险处置。明确拟人化互动服务提供者发现拟人化互动服务存在重大安全风险的，应当采取限制功能、停止向用户提供服务等处置措施。
Q7
《办法》规定拟人化互动服务提供者对用户的干预提醒义务主要有哪些？
A
拟人化互动服务提供者在特定情形下
履行干预提醒义务。
一是发现用户出现极端情绪的，及时生成情绪安抚和鼓励寻求帮助等相关内容；发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的，采取提供相应援助等必要措施予以干预，并及时联络用户监护人或者紧急联系人。
二是发现用户出现过度依赖、沉迷倾向的，以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成。
三是对用户连续使用拟人化互动服务每超过2个小时的，以对话或者弹窗等方式提醒用户注意使用时长。
Q8
关于未成年人和老年人权益保护，《办法》主要作了哪些规定？
A
《办法》回应了社会关心的未成年人和老年人使用拟人化互动服务问题，在广泛吸收各方面意见的基础上，作出了相关规定。
《办法》明确，拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务；向不满十四周岁未成年人提供其他拟人化互动服务或者处理其个人信息的，应当取得未成年人的父母或者其他监护人的同意；要求建立未成年人模式，提供定期现实提醒等个性化安全设置选项；明确针对不同年龄段未成年人保护需要，支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。
同时，明确拟人化互动服务提供者向老年人提供服务的，应当加强对老年人健康使用服务的指导，以显著方式提示安全风险，及时采取措施响应老年人使用服务相关咨询和求助，保障老年人依法享有的权益；要求拟人化互动服务提供者在安全评估中重点评估未成年人、老年人等网络保护措施建设情况。
Q9
《办法》对拟人化互动服务的安全评估和算法备案等作出了哪些规定？
A
《办法》规定了安全评估和算法备案
相关要求。
一是明确安全评估情形。主要包括上线拟人化互动服务或者增设拟人化互动服务相关功能的；使用新技术、新应用，导致拟人化互动服务发生重大变化的；注册用户100万以上或者月活跃用户10万以上的；存在可能影响国家安全、公共利益等安全风险等。
二是规定重点评估内容。主要包括服务安全保障措施建设情况，训练数据处理情况，用户极端情境的识别、应急处置、干预管理等情况，用户规模、使用时长、年龄结构等情况，用户申诉和公众投诉、举报受理、处置情况等。
三是明确算法备案要求。明确拟人化互动服务提供者应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续，网信部门对备案材料实施年度核验等。
来源｜央视新闻微信公众号、网信中国微信公众号
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
