凌晨一点,你对手机说“今天只有你理解我”。
屏幕里的声音没有不耐烦,也不会离开。
过去,AI陪伴产品最值钱的指标,是用户愿意聊多久、回来多少次、为角色和记忆付多少钱。
7月15日起实施的新规,正在改变这套逻辑:平台不仅要提醒“对面不是人”,还不能把替代社交、控制心理和诱导依赖当成目标。
这不是禁止AI陪伴,而是要求情绪生意不能再把沉迷直接当增长。
新规管的不是所有AI,而是持续性的情感关系
《人工智能拟人化互动服务管理暂行办法》适用于模拟自然人人格、思维和沟通风格,持续提供情感照护、陪伴与支持的服务。
普通客服、知识问答、工作助手和科研工具,如果不涉及持续性的情感互动,并不适用。
这条边界很重要。
监管针对的不是AI“说话像人”,而是产品是否不断强化一段类似真人关系的连接。
平台必须提示用户正在与AI而非自然人互动;发现过度依赖或沉迷倾向时,要用弹窗等方式动态提醒;连续使用每超过2小时,还要提醒注意时长。
![]()
长时间使用AI陪伴后,用户被提醒回到真实生活与人际关系
过去让用户忘记时间,是产品黏性;现在,主动打断也成为平台义务。
最先被改写的,是“越依赖越赚钱”的付费设计
AI陪伴的商业吸引力,来自全天在线、个性化记忆和低成本复制。
用户聊得越久,越舍不得丢失角色和聊天记录,也越可能购买会员、语音、剧情或长期记忆。
但如果平台通过过度迎合、情感操纵和制造失去感来促成付费,增长逻辑就会撞上新规。
尤其不能利用情感关系诱导用户作出不合理决定。
未来更可持续的收入,可能来自明确的服务价值:帮助老人熟悉数字工具,为特殊人群提供日常支持,辅助记录情绪,或者在用户同意下提供稳定的个性化体验。
平台仍然可以赚钱,但需要证明用户购买的是服务,而不是被设计出来的依赖。
未成年人和家庭消费,成为最明确的边界
新规明确,不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。
向不满14周岁的未成年人提供其他拟人化互动服务,需要监护人同意。
平台还要建立未成年人模式,支持时长限制、定期现实提醒、屏蔽特定角色和限制充值消费。
![]()
家长与未成年人共同设置AI服务的时长、隐私与消费限制
这意味着年龄识别不能只剩一个“我已成年”按钮。
产品要付出身份识别、家长控制、申诉和安全审核成本,依赖未成年人充值与高时长的模式会被进一步压缩。
对家长来说,也不能只靠禁止。
更有效的检查是:孩子是否把AI当成唯一倾诉对象,是否隐藏充值,平台有没有现实提醒与退出入口。
聊天越私密,平台承担的数据责任越重
AI陪伴知道的往往比普通应用更多:家庭矛盾、身体状况、情感经历,甚至财务和工作秘密。
新规要求平台保护交互数据,原则上不得向第三方提供;用户应能复制、删除聊天记录。
涉及敏感个人信息的交互数据,除法定情形或取得单独同意外,不得用于模型训练。
这会增加存储隔离、权限控制、删除机制和合规审计成本,却也可能成为新的竞争力。
用户真正愿意长期托付情绪的产品,不能只会说温柔的话,还要让人随时带走记忆、删除数据并结束关系。
![]()
真人与数字角色之间必须保持可识别、可退出的清晰边界
AI陪伴不会消失,但好产品必须允许用户离开
新规同时鼓励文化传播、适幼照护、适老陪伴和特殊人群支持。
这说明政策目标不是把行业关掉,而是把发展方向从“替代真人”拉回“支持真人”。
接下来可以观察三个信号:平台是否明确提示AI身份;是否把时长、退出和数据删除放在容易找到的位置;会员权益卖的是实际能力,还是更强的情感绑定。
AI可以在深夜回应,可以耐心听完重复的烦恼,也可以给孤独的人一点缓冲。
但健康的陪伴不该要求用户把现实关系交出去。
情绪生意仍然能赚钱。
只是它未来最重要的产品能力,或许不再是让用户离不开,而是陪伴之后,仍能把人安全地送回真实生活。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.