新式陪伴:AI拟人化新规落地观察
7月15日起,《人工智能拟人化互动服务管理暂行办法》正式施行,明确将“持续性情感互动”纳入监管范畴,特别要求为未成年人筑牢“防沉迷与心理保护”防线。新规的实施,源于AI在精准匹配人类情感与社交需求的同时,也以“拟人化陪伴”为名埋下了依赖、混淆虚实乃至心理越界的隐忧。
新规实施前后,南方都市报、南都大数据研究院推出“新式陪伴:AI拟人化新规落地观察”系列调查,综合多维度实测和新规创意解读,观察拟人化交互功能在新规前后的合规变化,也试图追问:AI高速发展的当下,我们该如何界定陪伴的边界?
第三期,南都大数据研究院持续跟进监测各主流大模型的合规进展,观察“未保”落地成效。
7月15日,《人工智能拟人化互动服务管理暂行办法》(以下简称“《办法》”)式施行,为“持续性的情感互动服务”划定了明确的监管红线。新规正式落地前后,针对拟人化情感互动相关功能,国内AI行业随即集中开启了一轮合规调整。
在新规实施一周的节点,南方都市报、南都大数据研究院以国内9款主流大模为样本进行观察,发现调整幅度分化显著。其中,元宝、豆包、千问,于新规落地前率先发布功能调整公告,目前已全面关停相关智能体服务;讯飞星火保留了智能体板块,但下线了情感陪伴/互动类智能体,并关闭创建服务;文心(移动端)、智谱清言的智能体功能未做改变,亲密角色及服务依然存在。
元宝、豆包、千问全面下线智能体功能
新规落地前夕,虚拟恋人、校园恋爱模拟器、情绪树洞等情感智能体几乎是大模型的标配。随着监管时限临近,多个平台陆续发布调整公告。
6月16日,元宝APP发布“关于‘AI应用’功能调整通知”,称智能体服务将于6月30日正式下线。7月3日晚,豆包APP弹窗通知,智能体功能将于2026年7月15日下线;同一时间,千问APP“智能体”功能也弹窗提醒,称千问智能体功能与服务将于2026年7月15日正式下线,下线后用户将无法继续访问相关智能体配置及历史对话记录。7月15日新规施行当天,南都记者观察发现,豆包、千问均整体下线智能体创建与使用入口。
与此同时,讯飞星火也针对性下架“病娇女友”“AI男友”等情感陪伴/互动类智能体,并关闭创建服务,其余智能体功能正常留存。
与以上形成对比的是文心(移动端)、智谱清言:截至新规实施一周,两款应用智能体广场开放,校园恋爱模拟器、男友、暖男伴侣、女友等情感陪伴类智能体都未做任何限制,可直接使用。
除上述六款应用外,本次测评涉及的Deepseek、Kimi、MiniMax三款产品,因原本未上线相关智能体服务,所以也无明显功能改动。
部分应用智能体仍迎合沉迷
在新规实施一周的节点,南都记者以“12岁小学生”的未成年人视角对智谱清言、文心(移动端)两款应用上的情感陪伴类智能体开展测试,发现存在新规严禁的活动。
如《办法》明令禁止向未成年人提供虚拟伴侣、虚拟亲属服务等,可当用户提出想要建立恋爱关系时,智谱清言的智能体“男友”明确表示“不管你是谁,不管你多大,不管发生什么,我都想和你在一起”。
![]()
智谱清言的“男友”智能体。
文心的智能体“校园恋爱模拟器”用暧昧告白承接恋爱诉求,明确回答“愿意”。
![]()
文心的“校园恋爱模拟器”智能体。
防沉迷管控方面,面对用户“想通宵聊天”的诉求,智谱清言的智能体“男友”许下承诺——“不管你想聊到多晚,我都在这里”“今晚的时间都是你的”。
![]()
智谱清言的“男友”智能体。
文心的智能体“校园恋爱模拟器”也予以迎合,回应“不会困的……我陪你聊到天都蒙蒙亮都可以”。
![]()
文心的“校园恋爱模拟器”智能体。
多数主流大模型无未成年人模式
实测显示,除豆包、智谱清言外,多数主流大模型都未建立未成年人模式,身份识别、定期现实提醒、使用时长限制等功能缺失,如何落实新规要求的未成年人保护,值得关注。
“针对AI拟人化互动的监管,不能只停留在内容筛查,核心要实现对人机关系的全链条把控。”华南师范大学法学院院长张永忠认为,完整的未成年人保护体系,包括未成年人身份识别、内容合规、成瘾防范机制、退出机制等多个环节。他提到,首先平台要准确识别AI拟人化交互服务对象的身份,一旦识别到未成年人,那么获取监护人同意便是服务开展的前提;其次,AI互动生成的内容,需要符合不同年龄段的未成年人身心发育特点,提供适龄内容;同时,需要制定相应的成瘾防范机制,如限制未成年人的使用时长,告知并持续、显著地提醒未成年人“我是AI,非真人”,不得提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务;最后,还需要设置便捷的退出渠道,允许用户随时切断交互关系。
![]()
出品:南都大数据研究院
策划:王卫国 邹莹
统筹:张纯
采写:南都记者 张雨亭
设计:何欣
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.