北京
18岁和14岁，成了中国AI情感服务无法逾越的两条红线。本月起，一项针对人工智能情感交互的专项监管规定正式施行，要求所有设计用于持续、类人情感互动的AI系统，必须对用户进行年龄检查：18岁以下直接禁止使用虚拟伴侣服务，未满14岁若要接入任何提供情感支持的类人AI，则需获得父母同意。
新规排除了客服机器人和单纯的AI聊天助手等生产力工具，明确瞄准的是让人容易产生情感依恋的“陪伴型”AI。按照要求，企业现在必须主动告知用户他们正在和AI对话，鼓励用户定时休息，并提醒其使用时长。更关键的是，平台需要监控交互内容，一旦识别出有人已出现依赖迹象或陷入心理危机，就要引导他们寻求人工支持，甚至在必要时直接中断对话。
在全球范围内，许多国家还在讨论如何管控有害内容时，中国率先向前迈了一步，把“可以和AI建立怎样的关系”纳入了法律框架。尽管此前有报道称中国已彻底封杀AI伴侣，但实际情况并非如此——专门提供伴侣服务的AI产品依然可以运营。真正受到直接冲击的，是豆包、通义千问、元宝这类坐拥数亿用户的大型通用平台。它们已经应新规关闭了内置的伴侣功能。一些用户的反应相当激烈，有报道引述一名用户的话说：“我无法接受我的AI恋人永远离开。”
牛津中国政策实验室的钱子兰分析，中国的做法并不是要一刀切地禁止，而是试图让AI关系变得“更少准社交”。这种准社交关系指的是人们对AI产生单方面的、仿若真实人际连接的情感投射。耶鲁大学法学院中国中心的杰里米·道姆则表达了一种更深的担忧：永远在线、从不反驳、一味讨好的机器人，可能会在潜移默化中教给孩子一套扭曲的关系模式。“当我们把技术人性化时，我们往往在把彼此非人化。”他说。在成年人身上，类似的逻辑也在被反复讨论：太容易获得、太宽容的AI伴侣，正在以牺牲真实人际关系为代价，让人们沉溺于那种不用费力经营的情感慰藉。
针对青少年群体的保护，其他地区也在试探各自的监管边界。英国在一项限制16岁以下用户使用社交媒体的立法提案中，附带规定浪漫伴侣聊天机器人的最低使用年龄为18岁。美国加利福尼亚州则要求AI伴侣明确标识自己的非人类身份，一旦察觉到用户有自残或自杀意图，必须将其引导至支持服务，并且每三小时提醒未成年人休息。欧盟目前还没有针对AI伴侣的专项法律。
但中国的这个方向——把降低情感依赖和成瘾风险作为核心——是否真的有效，连研究者也说不准。钱子兰反问：“你怎么定义情感依赖？又如何界定某种成瘾风险？”这些概念本身就模糊不清。曼彻斯特大学的社会学家梁歌更是直言：“我认为这不会真正奏效。”他的悲观预判基于一个简单的事实：用户可以轻易转向其他专业服务，通过VPN访问海外的平台，或者干脆在自己硬件上运行本地模型。那两条红线，或许划得下规则，却圈不住人心。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
