北京
当AI能够模拟人的语言、情绪甚至人格特征时，用户是否清楚自己面对的是人工智能？平台是否应承担相应责任？未成年人如何避免沉迷于AI陪伴？AI生成内容出现误导甚至侵权时，由谁负责？这些问题都需要制度及时回应。7月15日，《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）即将正式实施，新规对虚拟恋人、深度角色扮演情感依附类AI设立了强约束。最近豆包、千问相继宣布下架智能体功能似乎也找到了原因。
从聊天机器人、AI数字人到虚拟陪伴、智能客服，拟人化已成为人工智能产品提升用户体验的重要方向。自然的语言表达、丰富的情绪反馈、持续的记忆能力，让AI越来越具备“活人感”。这种技术进步提升了交互效率，也拓展了应用场景。
与此同时，一些“擦边”现象也开始出现。
AI的“病娇女友”“霸总男友”刻意弱化AI身份，让用户误以为正在与真人交流；有的平台通过恋爱陪伴、情感依赖等方式延长用户使用时长，延长的时间不仅是流量，更可能是使用者在不知不觉间付出的金钱；还有一些应用利用拟人化形象进行夸大宣传，甚至借助AI身份制造虚假人设、诱导消费。这些行为虽然打着技术创新的旗号，却已经偏离了人工智能服务的本质。
因此，《办法》明确不得“诱导情感依赖或者沉迷”“情感操纵”，特别是对于未成年人和老年人也有了重点关照：“拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务”；“向老年人提供服务的，应当加强对老年人健康使用服务的指导，以显著方式提示安全风险”。
当前，AI的产品属性有两类：任务型AI和关系型AI。《办法》真正规范的并不是前者——写文档、做纪要、调流程、跑数据等拟人化技术，而是后者——借助拟人化进行误导、诱导甚至操控用户的关系型AI。也就是说，AI可以越来越像人，但不能假装自己就是人。
这实际上划出了一条十分重要的产业边界，这种边界意识，对于当前快速发展的AI产业尤为重要。
生成式人工智能进入商业化加速阶段，各类AI应用层出不穷。在激烈的市场竞争中，部分企业容易陷入“流量至上”的思维，希望通过更强的情绪价值、更高的用户黏性获取商业收益。如果缺乏规范约束，技术创新就可能演变为情感营销，甚至形成诱导消费、沉迷使用等问题，不仅损害消费者权益，也会透支整个行业的社会信任。
事实上，任何新技术的发展都离不开边界意识。直播电商需要规范虚假宣传，短视频平台需要治理算法沉迷，互联网平台需要加强个人信息保护，人工智能产业同样如此。当AI越来越能够理解情绪、模拟人格、建立长期互动关系时，相应的治理规则必须同步跟进，否则技术能力越强，潜在风险也越大，平台治理成本不断攀升。
从这个意义上说，《办法》的价值不仅在于堵住几个具体漏洞，更是在产业发展初期树立起明确的价值导向——技术创新不能突破诚信底线，商业创新不能突破伦理边界，用户运营不能建立在误导和操控之上。
对于企业而言，这也是产业竞争逻辑的一次变化。
未来，AI产品竞争不仅要比拼模型能力、响应速度和应用场景，更要比拼合规能力和可信程度。身份标识是否清晰，数据使用是否透明，内容生成是否可追溯，用户权益是否得到充分保障，都将成为产品竞争力的重要组成部分。
拟人化提升了产品体验，也带来了新的治理课题。当人工智能重塑未来的人机时，规则正在塑造人工智能的发展方向。《人工智能拟人化互动服务管理暂行办法》的实施释放出的信号十分明确：鼓励创新，但不鼓励打“擦边球”；支持拟人化，但不能模糊人与AI的边界。
只有把创新建立在规则之上，把技术建立在规则之内，人工智能产业才能真正走得更远，也走得更稳。
肖睿平
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
