机器情感与AI陪伴的人文审度③｜张卫、张陈杰：人机情感交互的伦理反思及其规约路径

2024年被称为“人形机器人元年”。很多人预测，随着机器人大规模出现在普通人的家居生活环境中，人与机器人之间进行情感交流将成为未来智能社会的常态。所谓机器情感、AI陪伴的实质是什么，对人机交互、人机关系产生何种影响？比如说，从文化视角和性别视角，应该如何看待人机情感关系呢？人与机器的情感交流，将会产生何种社会冲击，导致何种技术风险和技术伦理问题，又应该如何应对？类似问题，已经引发诸多热议。本次笔谈聚焦“机器情感与AI陪伴的人文审度”，从哲学、马克思主义理论、文学和人工智能等进行跨学科研究，抛砖引玉，以期推动该领域研究的进一步发展。

在《建构主义视域下的机器情感》中，刘永谋和白英慧界定机器情感的概念，并从情感智能、人机情感和人机互动三个方面剖析机器情感的建构性，主张机器情感发展的有限主义进路。在《机器如何可能有情感？——基于“以生命为核心”的意识理论的探讨》中，李恒威和曹旭婷指出，基于“以生命为核心”的意识理论，通过模拟生物体的内稳态调节机制，可以为机器赋予情感能力，从而使其具备自主适应性和内在驱动力，为通用人工智能的发展提供新思路。在《人机情感交互的伦理反思及其规约路径——以AI复活技术为例》中，张卫和张陈杰认为AI复活技术使得人机情感交互出现了新的形式，但是由于情感不对称性，会形成情感依赖、情感异化、身份欺骗、认同危机以及情感资本化等伦理僭越风险，需要从制度规约、技术设计和文化调节等视角，寻找AI复活技术发展的向善之道。在《情感人工智能需要“身体”吗？》中，吴静和王隽雅认为当情感AI成为人类寻求情感互动的对象，情感的具身性特征与人类情感交互的复杂规则共同提出了对情感AI拟真性的高需求，这就使得情感AI的“身体”设计需要面临多重认知、伦理和法规上的拷问。在《非人之恋文化史视域下的当代人机恋：渊源、特点与风险》一文中，程林与张玥指出，作为非人之恋4.0阶段，当代人机恋的核心特征是在社会现实青年群体中的日常化和深度化，并具有趣缘性、生成性与游戏性等特点，但其情感和伦理风险也不容忽视。在《超越记忆—情感计算中遗忘的必要性和实现》一文中，邱德钧和李玮农批判当前情感计算中过度理想化的技术假设，提出引入自然衰减与主动选择性遗忘的现象学启发神经计算模型，强调遗忘机制在构建真实、伦理、适应性情感AI中的关键作用。（专题特邀主持：刘永谋）

本系列文章原刊《科学·经济·社会》2025年第3期，澎湃新闻经授权转载。

【摘要】AI复活技术使得人机情感交互出现了新的形式，这种情感交互方式通过重建逝者的形象，以双向互动的方式满足丧亲者的情感需求，弥补逝者生前的情感债务，让普通人也能够实现社会性永生。但是这种互动方式的情感不对称性，会形成情感依赖与沟通失能的情感异化、身份欺骗与记忆歪曲的认同危机以及情感资本化的伦理僭越风险。为此，需要从制度规约、技术设计和文化调节等多重视角，修正人与人工智能的情感关系的不对称性，寻找逝者复活技术发展的向善之道。

复活和重生一直是人类的梦想，在古代的志怪类文学和现代科幻作品中，逝者的复活和重生是经常出现的题材，但这些都仅仅存在于人的想象之中。然而，随着生成式人工智能和情感计算等数字技术的出现，与逝去的亲人双向互动的AI复活技术正在使这一想象变成现实。从本质上看，AI复活与“数字分身”“数字孪生”的技术原理是一致的，只不过前者是对过世之人的数字化呈现，而后者是对在世者的数字化呈现，在这个意义上，AI复活技术模糊了“实”与“虚”“生”与“死”的界限。这种变化在重塑生者与逝者进行情感互动的方式的同时，也会产生一些潜在的伦理风险。如何在理性对待AI复活技术所能提供的新型情感交互方式的同时，审慎应对其可能引发的伦理问题，便成为我们亟须探讨的核心议题。

一、“AI复活”的情感交互价值

当我们生命中重要之人逝去时，我们在失去其身体陪伴的同时，也失去与之进行情感互动的渠道，使生者处于无尽的哀思之中。因此，人类期盼并努力创造各种形式来实现逝者的“永生”，以弥补死亡带来的伤痛，抚慰丧亲者的心灵。在实现“永生”的方式上，大致可分为三种类型：“单向永生”（one-way immortality）、“双向永生”（two-way immortality）与“意识永生”（conscious-ness immortality）。其中，“单向永生”以记录为主，正如电影《寻梦环游记》中所说，“真正的死亡是世界上再没有一个人记得你”，只要世界上还有人记得逝者，逝者就还没有真正死亡，这种形式就属于“单向永生”；而“双向永生”不仅要将个人信息数字化保存，还要求这些信息能持续学习和进化，实现与未来的双向互动。在AI复活技术出现之前，这种永生形式并不存在，随着AI复活技术的出现“，双向永生”这种形式才真正变成现实。“意识永生”则是“通过意识上传形成数字意识”的永生方式，目前技术尚未能实现，多见于未来学家的设想与科幻作品的讨论。

AI复活的出现为人机情感交互提供了一种新的形式和途径，具有一定的积极社会价值。首先，AI复活技术能够缓解丧亲者的过度悲伤，疗愈丧亲者的思念情感。以“库伯勒—罗丝”模型（Kübler-Rossmodel）为代表的传统哀悼理论认为，人们在面对亲人去世时，通常要经历“否认—愤怒—协商—抑郁—接受”五个阶段的心理过程，进而完成情感修复，并最终适应没有逝者的生活。但在现实中，意外事故等突发因素常导致丧亲者社交联系的非预期性破坏，丧亲者突然之间失去情感支持，陷入难以解脱的悲痛循环，无法进入“哀伤整合期”，甚至罹患“延长哀伤障碍”（prolong grief disorder，PGD）。此时，运用AI复活技术为丧亲者予以情感抚慰显得尤为必要。AI复活技术所创造的“数字分身”能够积极介入丧亲者的哀伤过程，重新建立因死亡而中断的情感纽带。

其次，AI复活技术还有助于逝者弥补生前没有实现的情感债务，维系家族的稳定。AI复活技术的需求不仅来自丧亲者，当逝者带着未完成的承诺、未化解的矛盾或未尽的责任离世时，这些未竟之事往往成为逝者无法弥补的遗憾。AI复活技术运用生前数据所训练生成的数字分身，能够基于逝者的价值取向与行为逻辑代理逝者做出决策建议等行为，比如代替逝者对伴侣道歉、为子孙的行为提供建议，成为逝者“代理调节者”，完成逝者与丧亲者之间未了的心愿。同时，AI复活技术还能借助数字分身让后代与逝者建立联系，延长家族记忆与情感联结。近代以来，传统家庭伦理发生了重大变动，由于代际互惠作用的减弱、孝道观念的转变以及利己主义的兴起，家族内代际之间的情感联结极易消逝于时间洪流。而保留着作为家族网络重要节点的逝者的人格特质、互动模式与记忆数据的数字分身，将可以通过算法持续向生者输出内容，以此维护逝者的社会关系属性，增强家族的凝聚力和向心力。

最后，AI复活技术让平凡的普通人也能实现社会性“不朽”。AI复活技术不仅为人类提供情感慰藉，还深刻影响着人类对死亡本身的认知重构。海德格尔将“死亡”提升至存在论的高度，试图说明死亡的“本己性”，也即存在的可能性只有向死才能开展出来，只有意识到“终有一死”，才能摆脱日常的沉沦，通向其自身的独特生存潜能。所以自古以来，个人试图创造丰功伟绩，对后代保持持续的影响力，追求对死亡的超越，达到社会性不朽。但“不朽”并非所有人都能拥有，王侯将相的事迹会随着雄伟奇观、帝王传记等物质载体得到留存，而普通人的过往则会随着子孙的消亡而淡出社会记忆。AI复活技术的革命性在于，它为大众提供了保存自身过往的技术手段，无论是日常的言谈还是生活的决策，经技术整合，都成为构成新数字生命的基石，从而为普通人的生活赋予别样的意义。

二、人机情感交互引发的伦理挑战

虽然AI复活技术通过构建具有与生者进行双向互动能力的“数字分身”，能够疗愈丧亲者的思念情感、弥补逝者生前没有实现的情感债务、让平凡的普通人实现社会性“不朽”。但与此同时，作为“数字亡灵术”的AI复活技术将会带来新的伦理挑战。

首先，AI复活技术会导致情感慰藉的“完美逝者”幻象。就情感体验而言，运用AI复活技术让人工智能占据本应不可能存在的逝者位置进行专业的心理支持可能是“完美”的。然而，这种看似“完美”的表象实际上缺乏应有的真实情感体验。人类情感是一种复杂的心理现象，涉及生理反应、心理体验和社会背景等多重维度，其生理基础来自神经元的传递。而人工智能的情感表现则基于情感计算，是运用“关于情境和情感产生的知识，去推断最有可能产生这种表达的潜在情感状态”。同样，人与人之间的情感交流的内容也并非简单的信息传递，而是一种涉及情感共鸣、理解、反思和互相认同的复杂关系，真实的情感交往不仅有共鸣理解的愉悦，还有争论冲突的苦闷，所以人与人之间的情感交流是一个复杂的动态过程，需要双方在互动中不断调整和适应。但是出于商业利益考量，AI复活技术的提供者往往打造的是“完美逝者”，相较于真实的情感互动，这个“完美逝者”更像是即时响应情感的机器，完全是为了迎合丧亲者的主观需求，有可能与逝者的真实人格和形象不符，因此导致一种虚假的幻想。人工智能所塑造的“完美的”沟通环境，并不利于真正的人与人之间的互动沟通，反而会异化使用者对于沟通的期待。

其次，由于AI复活实现的情感交流是一个双向互动的过程，在与逝者的“数字分身”的交流过程中，丧亲者的情感状态也极易被算法反向塑造。由于数字分身的情感反应是由算法所精心设计的，其目的在于最大化用户的参与度和满意度，所以回答总是以耐心的、用户预期的方式给予回应。而使用者在与数字分身进行交流的过程中也会习惯这种以使用者为中心的回答方式，将与数字分身的理想化交互作为情感交流的基准，进而在与真实人类的互动中期待这种行为。如果处理不当，使用者将会在真实人类的互动中产生错位和偏差，当遇到不如意的地方，就会转向与数字分身互动，从而形成“数字分身鼓励—真实人类受挫”的恶性循环。这种现象在20世纪90年代的“电话交友”中就曾出现过，电话公司为了盈利，雇用专业交流者与男性用户进行电话交流，而那些沉溺于与电话公司安排好的女性进行交流的男性用户，由于现实中的女性缺乏专业交流者的沟通技巧，导致其对真实女性不再感兴趣。并且更危险的是，使用AI复活技术的往往都是带有一定心理创伤的丧亲者，如果不能正确引导，将可能阻碍丧亲者回归正常生活的进程。

再次，AI复活技术会导致逝者身份的解离，产生认同叙事危机。在人格同一性问题上，当代哲学家德里克·帕菲特（Derek Parfit）提出，个人身份依赖于现在的心理状态与过去状态之间的心理连续性。但是实际上，算法驱动的数字分身只是模拟心理状态，而无法真正拥有心理状态。此外，数字分身由于其虚拟性特征，理论上可以通过调试参数生成数量众多基于生前痕迹的数字分身，不同的数字分身之间将会在交流中出现差异，如果我们将其中一个作为逝者的延续，那么我们也有相同的理由选择其余的作为逝者的延续，此时逝者的人格同一性将会出现问题。这种以自我为中心的逝者形象的任意重建，在某种意义上也是对逝者人格尊严的一种践踏，我们不能因为逝者已经成为永远的沉默者而对他们的形象和人格进行随意的加工和改变。如果说数字分身不能被视为逝者的延续，那么数字分身所具有的连结家族情感、维护家族关系的作用也将面临质疑。算法的迭代以及丧亲者数据的补充将可能改变数字分身的行为模式与语言风格，而新旧模型之间的差异将会对“稳定”的逝者形象带来冲击，影响丧亲者对逝者的记忆和情感连接。并且人工智能的幻觉问题至今仍没有得到很好的解决，这种不稳定表现就可能输出不符合逝者真实情况的内容，从而导致丧亲者产生关于逝者的“虚假记忆”。模型迭代所产生的不一致性与人工智能难以根绝的幻觉问题将会使得使用不同版本、在不同状态下与数字分身进行交流的丧亲者收到具有差异的回复，进而造成家族内不同丧亲者之间记忆参照系产生紊乱，而相互之间的差异将会降低丧亲者对于AI复活技术的信任，最终导致数字分身失去本应作为家族锚点的作用。

最后，AI复活技术会导致数字哀悼的伦理僭越风险。AI复活技术的一个重要作用在于能够安抚无法正常走出至亲离世阴影的心理障碍人群，AI复活所营造的逝者“在世”的假象也许能够暂时缓解丧亲者的悲伤心理，但同时也使得丧亲者无法真正面对死亡和失去的现实，造成生与死的混乱和错觉。弗洛伊德认为，正常的哀悼过程能够帮助将已逝对象身上的“力比多”迅速转移至新的客体之上，以此抚平逝去客体的痛苦，而忧郁者则会将曾经对于丧失客体的情感能量回收至自身，并以逝者之名进行自我批判，从而否认客体的丧失，陷入自我贬低的泥潭。所以，AI复活将会将丧亲者困在模糊生与死边界的“非时间的心理空间之中”，使得他们不愿意接受现实，将丧亲者封闭在自我的认知之内，从而将逝者简化为自我满足与逃避现实的工具，阻碍丧亲者完成正常的哀悼进程。另外，目前大多数AI复活算法是商业软件，而商业资本的介入则可能对丧亲者带来二次伤害。AI复活算法往往免费生成数字分身，但想要使用无广告的高性能模型则需要额外收取订阅费用，当丧亲者无法支付或不愿支付维护模型的费用时，提供服务的企业往往也会删除相关模型与数据，此时对于模型进行情感投注的丧亲者将可能因为逝者相关数据的删除而受到“二次伤害”。同时，出于商业利益的考虑，提供AI复活服务的企业会延长本该结束的哀悼过程，以获得更多收益。所以，当丧亲者使用AI复活技术时就已经与企业的资本增殖进行绑定，丧亲者所产生的无法接受亲人离世或者被扭曲的情感寄托就成为企业增殖的筹码，亲人离世所产生的悲伤情感也会借由与数字分身的互动沦为待价而沽的商品。

三、人机情感交互的向善之道

AI复活技术的出现改变了传统的哀悼关系，“丧亲者—逝者”的传统哀悼模式经由AI复活技术所创造的“数字分身”中介，形成“丧亲者—数字分身—逝者”的新型哀悼模式，这种由数字分身参与的情感沟通系统存在着双重的不对称关系“：丧亲者与数字分身的情感投射关系”的不对称以及“数字分身与逝者的拟像关系”的不对称。机器人专家马蒂亚斯·舍茨（Mathias Scheutz）认为，人与机器的不对称性是社交人工智能和机器人技术最危险的特征。因此需要探究AI复活技术被误用的根源，并在对伦理风险形成原因分析的基础之上，寻找AI复活技术的向善之道。

在丧亲者与数字分身的情感投射关系中，丧亲者与数字分身之间存在不对称性，数字分身具有不同于人类的两个特点，即“情感预测能力”与“同情心的缺乏”。一方面，数字分身背后是拥有人类情感大数据的人工智能大模型，能够配合丧亲者所提供的逝者数据，做出最大幅度调动丧亲者情感的行为；另一方面，数字分身并不具有丰富的内心体验，没有人类所拥有的“同理心”（empathy）。所以数字分身不会因为他人的情感波动影响自身的情感状态，而人类却会因为其行为举止形成情感波动。正是数字分身所具有的不对称性的特点，让丧亲者将其视为“完美逝者”，将情感计算得出的话语视为真挚的情绪支撑，忽视数字分身的单向度的情感输出，最终被反向输出，陷入情感异化的困境。而在数字分身与逝者的拟像关系中，数字分身相对于逝者同样具有不对称性，数字分身对于逝者的替代，使其成为逝者的“单方面代言人”。由于数字分身完全取决于算法对逝者生前数据片段式的提取与重组，并不能完全表达逝者真实的意愿，逝者无法同意或控制自己的数字分身，而数字分身却能够以逝者之名行动，最终导致数字分身对逝者的情感权力倒置，形成对逝者意愿的扭曲，即使是来自逝者的委托也仍可能造成与逝者意愿相反的结果，如托马仕·霍拉内克（Tomasz Hollanek）等人描述的“Stay”实验①。面对这种双重不对称性，如果要实现AI复活技术的“数字向善”，使其在提供情感支持的同时，最大限度地规避潜在风险，真正维护人的尊严与福祉，就需要我们从制度规约、技术设计以及文化调节等多方面修正人机情感交互的不对称性。

首先，在制度规约层面，应针对AI复活技术的不同应用场景建立针对性的制度规范。AI复活技术对因亲人去世而引发的心理问题的缓解或辅助治疗作用，是支持AI复活技术发展辩护的重要依据。但是并非所有使用者都罹患心理障碍，也有出于纪念逝者的目的选择使用AI复活，所以针对纪念服务的使用者所设计的复活技术应与作为医疗辅助的复活技术应区别对待。作为医疗或心理辅助定位的AI复活技术应当被视为医疗器械，纳入医疗卫生部门的监管框架之下。与此同时，作为精神类医疗器械的AI复活技术应在具有相应资质的精神科医生的指导下使用，需要医生作为评定“丧亲者—数字分身”关系的责任者，调试数字分身的

输出模式，并对其风险以及宣称的效果进行科学、严谨的评估，使其变成“丧亲者—数字分身—心理医生”的安全情感模式，保障AI复活的安全性。针对纪念服务目的的使用场景，同样需要确立清晰的责任机制与权利保障。当数字分身行为失当或造成损害时，根据具体原因，明确责任应由技术开发者、平台运营商还是内容维护者承担，让技术服务提供人员成为调节“丧亲者—数字分身”的责任者。此外，还需要设立完整的数字遗产保护制度，复活技术的提供者应当保护亲属对于逝者数据的合法权利，告知丧亲者对于逝者数据的使用方式，并遵循丧亲者的意愿进行处理。丧亲者也因主动作为逝者的代言人，选择删除或者妥善保管逝者的数据，为逝者妥善处理“数字分身—逝者”的关系。

其次，在技术设计层面，应开发具有“退出机制”的情感调节算法，以应对人机之间的情感不对称性。针对人类与人工智能互动过程中可能产生过度情感依赖的风险，我们需要开发具有退出机制的情感渐隐算法，根据使用者的情感状态调节人机情感强度，以做到情感平衡。这种设计并非简单地终止服务，而是让数字分身的情感沟通能力、响应频率或情感表达的强度，能够随着时间推移呈现出一种温和的、渐进式的减弱。在丧亲者开始使用时可以全时段予以充足的情感支持，当系统判断丧亲者情感逐渐恢复正常时，则应逐渐降低情感支持强度，将话题转向鼓励丧亲者自立，最终逐渐隐去自身的存在。退出机制的引入可以使得数字分身成为帮助丧亲者的“脚手架”，引导丧亲者走向生活的正轨。

人称的叙述方式也能转换互动对象，让丧亲者明确其情感来自对不在场逝者的哀思，帮助丧亲者克制对AI复活技术的感情依赖。

四、结语

AI复活技术作为人工智能发展的前沿领域，通过逝者“数字分身”的陪伴，弥补丧亲者情感缺失，帮助逝者完成未竟的遗愿，加强和延续家族的情感联结，实现普通人的社会性永生的理想，但与此同时，由于人机情感之间的不对称性导致的情感异化、模糊现实、扭曲逝者形象等伦理僭越风险也不容忽视。因此，我们需要引导AI复活技术向善发展，从制度规约、技术设计、文化调节等多层面入手，对其可能的负面影响进行干预与引导，缓解人机情感关系中的不对称性。我们需要警惕的是，人工智能并不能缔造完美的乌托邦，成为现实世界问题的避难所，人工智能只是人类发展的“拐杖”或“脚手架”，在人机情感交互中，人类仍然要发挥自身的主导性，让技术成为我们更好地理解生命、处理悲伤的帮手，而不是成为主宰人类情感的主人。

来源：张卫（大连理工大学人文学院教授）、张陈杰（武汉理工大学马克思主义学院教授）