“数字人”越像人，我们越要守住这条线

来源：滚动播报

（来源：上观新闻）

伴随着人工智能迭代提速，“数字人”技术在场景落地与产业应用层面实现了关键突破。目前在电商直播、销售客服等场景中，“数字人”已成为超级能干的“数字员工”。但与此同时，“数字人”的应用也带来了亟待重视的伦理议题，其背后潜藏着技术深度嵌入现实所产生的伦理风险。为此，需要前瞻性地构建“数字人”发展的伦理治理框架，将以人为本、技术向善的理念转化为可操作的规范与机制，共同塑造安全可信的数字未来。

“数字人”面临的伦理困境

“数字人”作为以真人为蓝本、在数字空间中生成的虚拟分身，既能精准复刻人类的外貌、声音和行为举止，达到“形似”，又能依靠算法注入的“类人心智”，具备近似人的思维、逻辑和价值判断，实现“神似”。“形神兼备”的数字人正加速走进人类生活，化身带货主播、虚拟教师和情感顾问等多重角色，打通虚实边界，深刻重塑人们的社交方式和劳动形态。

然而，当“数字人”愈发像人，甚至在某些维度超越人类之时，一连串追问也随之而来：“数字人”算人吗？应否被赋予独立人格权？又能否承担相应的伦理和法律责任？这些疑问集中折射出“数字人”面临的伦理困境。不止于此，现实中“AI复活”逝者等做法，已引发较大关注。一旦“数字人”跨越生死边界，必将深刻冲击人类现有的伦理秩序。因此，“数字人”已成为当下紧迫的伦理议题，唯有在厘清风险的前提下实施有效治理，方能引导其健康发展。

“数字人”潜在的伦理风险

“数字人”在融入人类生活的过程中催生了主体弱化、情感异化和责任真空等伦理风险，给人们的自我认知、情感关系与责任意识带来诸多挑战。

人机边界模糊造成主体弱化。“数字人”拥有近乎人类的外观、思维和判断力，可自主决策、自主行动。正是这种“像人”的特质，极易引起人们的信任和依赖，从而模糊人与工具的边界，将其误认为拥有独立人格的“人”。这种误认一旦形成，人与“数字人”之间的主体边界就会发生松动，人可能向“数字人”让渡自身的判断和决策权，使得主客关系被倒置。而人一旦让出主导权，便可能陷入技术依赖、认知退化的困境，最终在不知不觉中沦为“数字人”的附庸。

算法精准投喂引发情感异化。作为由算法驱动、可编码的技术形态，“数字人”可按需定制各类近乎完美的人设，为人们量身织就带有人性温度的情感茧房，持续推送高度情绪化的内容，充分满足人们的情感需求。当人们长期接受“数字人”的虚拟慰藉，蜷缩于彼此隔绝的茧房之中，便会对“数字人”产生情感依赖，进而忽视甚至放弃现实世界的社交和人际关系。

身份黑箱与平台卸责形成“责任真空”。当“数字人”以高度类人形象活跃于数字空间时，其身份标识却被算法黑箱和平台机构层层遮蔽，难以有效溯源。一旦出现谣言、侵权言论等情况，平台就有可能以技术原因进行推诿，致使责任主体难以锁定，形成“无人可追、无责可负”的真空地带。

“数字人”伦理风险的治理之道

为了推动“数字人”技术向善发展，需要为其设置底线：以风险预防原则构建治理框架，贯通技术合规、伦理干预和归责机制三重防线，形成全链条、可监管、可追责的治理闭环。

一是坚持以人为本，重塑人机边界。“数字人”作为人类创造的技术工具，需要被置于人类的主导和控制之下。为此，要明确“数字人”的工具属性，所有应用场景均应嵌入不可移除的身份水印与实时风险提示，确保公众能够准确识别。要设置“人类最终决策权”机制，凡是涉及商业、金融、医疗等高风险场景，“数字人”仅能提供参考信息，最终决策权由人类掌握。要建立“数字人”发展的预警系统，实时追踪其运行轨迹、决策逻辑与风险指标，防止其逾越伦理边界。

二是筑牢情感护栏，拆解情感茧房。冲破“数字人”织就的情感茧房，离不开平台和用户的主动作为。平台须履行首要责任，建立“数字人”交互的熔断机制，实时监测用户的使用时长与情感依赖指数，一旦超过设定阈值，立即中断对话并提示回归现实。当然，用户也应具有“破茧”的清醒自觉，主动设定每日交互上限，定期审视情感依赖指数，一旦察觉沉溺迹象，就要实行“自我熔断”，重返线下生活，用现实的人情温暖取代虚拟的情感慰藉。

三是锚定责任主体，强化内容监管。破解“数字人”应用的责任真空状况，需要建立“身份即责任”的约束机制。要建立“数字人”身份备案制度，以身份编码对应运营主体。要推动算法透明化，规范保存运行日志，确保“可解释、可审查、可追溯”。要加强平台内容监管，对“数字人”产生的谣言、侵权言论及低俗信息实施实时拦截、人工复核、留档备查，涉事主体依法即时追责，以刚性制度守护清朗数字空间。

（作者单位：上海交通大学马克思主义学院）

原标题：《“数字人”越像人，我们越要守住这条线》

栏目主编：王珍 文字编辑：王珍 题图来源：新华社记者 王全超 摄 图片编辑：邵竞 编辑邮箱：shhgcsxh@163.com

来源：作者：马尚明