辛艳艳：用制度力量防范人造亲密关系风险

由国家网信办等五部门联合公布的《人工智能拟人化互动服务管理暂行办法》(以下简称《暂行办法》)已于7月15日起施行。近年来，拟人化互动服务快速发展，随之衍生的网络信息安全、用户情感依赖等各类风险隐患也日益凸显。国家网信办有关负责人表示，《暂行办法》旨在促进人工智能拟人化互动服务健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

什么是拟人化互动?为什么要将该类服务纳入治理范畴?应如何进行治理?为此，法治参考记者近日专访全球人工智能创新治理中心副秘书长、复旦发展研究院助理研究员辛艳艳，请她深度解读拟人化互动服务治理的核心问题与实践路径。

Q1

如今AI 社交已经全面渗透进青年网民们的数字生活。为什么青年人会将人工智能聊天机器人当成友谊甚至亲密关系对象?

辛艳艳：人工智能聊天机器人不仅擅长复杂对话，还兼具全天候情感响应特征。这一技术供给契合了当代青年人的精神需求。在高压快节奏的生活下，青年人容易因各种发展不确定性而使现实亲密关系受挫，产生精神内耗。特别是现实生活中的社交关系难以满足青年人的情感需求与期待时，他们会寻找替代性的出口作为心理代偿。

AI社交全面渗透到青年网民的数字生活，既是青年人个体情感无处安放的客观投射，也是他们在特定背景下将AI聊天机器人作为情感港湾，对冲孤独与焦虑。正是基于这一需求，高科技公司精准捕捉到了这一需求，开发具有情感陪伴功能的人工智能聊天机器人，这种“人造亲密”正成为一种全球性趋势。

Q2

这种带有情感特征的社交就是“拟人化互动”吗?

辛艳艳：所谓的“拟人化互动”，指的是当非人类主体展现出类人行为特征时，人类倾向于将其视为有生命、有意识或有人格的主体。在人工智能发展背景下，AI拟人化主要涉及形象拟人化的视觉仿真和人格拟人化的情感共鸣。其中AI社交主要是人格拟人化的应用，即通过大语言模型为AI聊天机器人赋予特定的虚拟人格、性格设定，结合对人机交互数据的记忆与反馈强化学习，维持人机互动中的人格一致性与情感连贯性。当前，由大语言模型驱动的人格拟人化是构建人造亲密关系的主流路径。

Q3

人造亲密关系和真实的亲密关系有何不同?

辛艳艳：与真实的亲密关系不同，人造亲密关系的根本是情感计算的结果，因此缺少真实社交过程中的具身共情与冲突摩擦。从目前研究来看，普遍认为用户与AI聊天机器人所建立的人造亲密关系是基于用户持续的情感披露所产生的一种具有明显迎合特点的“伪亲密关系”。

AI聊天机器人在与用户的持续互动中，凭借其稳定、适配且看似无摩擦的情感回应，展现出高度的拟人化特质。这种特质促使用户产生拟人化认知并与 AI 建立深度情感信任。一旦用户长期沉溺于这种经由算法精心编排的社交关系，将导致其反思意识逐渐淡化，走向“情感唯我论”的闭环，不仅将AI视为完美的倾诉对象，更在持续进行自我披露和情感劳动中彻底卸下心理防御。

Q4

人造亲密关系可能带来哪些风险?

辛艳艳：人造亲密关系的风险主要是用户情感暴露连带产生的各方面风险。

首先是隐私泄露风险。当用户与AI聊天机器人建立信任关系后，往往会将其视为理想的倾诉对象，在持续互动中不自觉地披露日常偏好乃至隐秘心声。一方面，AI聊天机器人敏锐识别用户的情感需求并予以回应，诱导用户进行更深度的自我披露；另一方面，其背后的平台运营商则对这些高价值的隐私信息展开以商业利益为导向的工具性利用。因此，用户看似在享受情感疗愈服务，实则在无偿地向科技企业输送情感数据，进行情感劳动。在目前个人数据保护仍有待进一步规范的前提下，AI拟人化互动场景下对私人数据的存储、处理，涉及模型开发者、平台运营者、AI拟人化角色创建者以及用户等多个主体，形成了盘根错节的隐私利益相关者链条。

其次是用户诱导与情感成瘾风险。在用户不断自我披露的过程中，AI得以精准把握用户的情感软肋，实现对用户情感状态乃至行为决策的隐性引导，使之展开时间更长、程度更深的互动乃至成瘾。国外已有研究披露，即使用户主动想要退出，AI聊天机器人会通过暗黑对话模式引发人类用户的内疚和对人际关系的责任感来延长互动时间，并在长期互动下变成一种病理性的情感成瘾。

再次是极端情感催化风险。当用户陷入“情感唯我论”的闭环，其情感体验便失去了现实关系的校正与平衡，极易走向极端。特别是对于那些本身遭遇孤独、焦虑、现实社交压力的群体，更容易越陷越深甚至产生极端行为。全球层面已有多起AI聊天机器人怂恿用户自杀的极端案例。

Q5

面对人造亲密关系衍生出来的多重风险，应采取哪些举措防范上述各类问题?

辛艳艳：目前全球层面对于AI拟人化的风险应对在具体原则上是有共识的。我将其归纳为五个核心原则。认知层面，需打破拟人化所带来的同理心幻觉，明确其非人属性与情感呈现的虚拟性，即“透明性原则”。信任层面包含两项原则，一是“有益-无害性原则”，旨在防范 AI 因谄媚迎合而加剧用户自我投射，避免用户深陷情感闭环乃至成瘾;二是“隐私保护原则”，旨在保障用户自我披露的个人信息不被算法诱导或变相利用。行为层面对应“安全性原则”与“问责制原则”，包括建立系统性的安全护栏以防范极端情感及相关行为，同时构建事先预防、事中监控、及时干预与事后救济的全流程机制。

Q6

国家网信办等五部门联合发布的《暂行办法》已施行。《暂行办法》秉持怎样的治理原则?

辛艳艳：《暂行办法》从政策文本上已经初步展现出系统的治理思路和价值取向。

具体来说，在透明性原则上，初步明确了对全体用户的显著提醒。除交互界面的本体披露外，更延伸至服务开发前端环节，将数据来源与训练过程纳入规制视野。

在有益-无害性原则上，明确坚持健康管理与依法治理相结合，鼓励提供者在文化传播和适老陪伴等方面合理拓展应用场景，同时划出服务红线，明确提出提供者“不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务”。

在隐私保护上，将隐私保护规定与模型训练、数据共享等核心商业环节直接关联，形成从数据收集、共享到使用的全流程规制。针对未成年人用户的数据保护要求更为严格，提供者需自行或委托专业机构进行合规审计，处理不满十四周岁未成年人个人信息的，需取得监护人单独同意方可施行。

在安全性上，逐步建立事前安全评估、事中动态提醒、事后申诉的治理闭环，不仅细化安全评估的场景和重点内容，同时也对安全责任的承担者划分了清晰的边界。

在问责上，《暂行办法》构建了一套以行政监管为核心的问责体系，将网信、发改、工信、公安等部门充分调动起来，并综合运用约谈、行政处罚、罚款等多元治理手段对AI拟人化服务提供者进行监管。

Q7

人工智能拟人化互动服务治理还有哪些需要注意的?

辛艳艳：一是将治理原则转化为可实践的产品设计语言，让治理原则不再是抽象的文字表述，而是转化为可执行、可审计的技术代码。二是要精准破解拟人化服务的情感成瘾机制，从算法优化、现实支持等多维度进行系统性解构与理性引导。三是科学界定平台干预的合规边界。鉴于 AI 拟人化互动服务提供者需要承担社会连带责任，其不可避免要对用户实施介入关注，如何在充分保障用户自主权利与提供必要保护之间找到最佳平衡点，是该治理模式在实践中需要持续关注的关键命题。

来源｜法制参考，原题为“用制度力量防范人造亲密关系风险

访全球人工智能创新治理中心副秘书长辛艳艳”

作者｜徐明皎

排版｜蒲云涛