瞭望 | 跨越生死的数字魔法：AI“复活”影响几何

　　AI“复活”的质量取决于数据量，当前所能实现的“数字人”仅是浅层的、表象的数字映像，尽管在模拟外观和声音方面取得成功，但在复制个体情感和思维模式上仍面临绝大挑战，跟拥有逻辑智慧的真人相差甚远。从这个意义上讲，“数字永生”是个伪命题

　　AI“复活”本质是与现实生活互斥的竞争关系，所谓的“数字永生”会与现实世界争夺有限的资源，也可能弱化我们的情感

　　AI“复活”等短暂的给予只是暂时迷惑了心灵，总有一天我们依然要面临取舍，而那些关于逝者动态更新的数据，也会以某种逻辑进行勾连，进而产生新的认知困扰和遗忘难题

　　文 |《瞭望》新闻周刊记者 于雪 刘淏煜

　　仅需一张照片和一段录音，就能让逝者在数字世界“永生”。一段时间以来，曾存在于科幻电影和小说中的情节——用AI“复活”逝者在一些人口中似乎正成为现实。

　　台湾地区音乐人包小柏借助AI技术“复活”亡女，商汤科技已故创始人汤晓鸥的数字人“现身”公司年会，以及网友接连“复活”李玟、张国荣、高以翔、乔任梁等离世明星……一时间AI“复活”技术引来关注无数。

　　随着乔任梁父亲表示对此“不能接受，感到不舒适”，李玟母亲及家人认为给其“带来巨大的心理冲击和二次伤害”，对AI“复活”技术是否会被滥用、是否会侵害数据隐私等个人权益等的讨论成为舆论焦点。

　　人们注意到，在各大电商和社交平台，AI“复活”技术已成一门新生意。它们往往包装以温情的外衣，利用明星引流吸引目标客户，由专业代理利用专门话术与客户沟通，再由专门技术人员制作视频，产业链初步形成，收费从一百到数万元不等。

　　尤其让人警惕的是，迅猛发展的生成式AI技术在很多方面超越了固有观念，渐渐呈现出一种社会生活或将被全面重置的态势。在这样的语境下，AI“复活”技术为满足人们的精神与情感需求提供了新载体，却也引发争议：用AI技术能否让逝者实现“数字永生”？“复活”背后潜藏哪些风险？虚实世界的规则和秩序将会如何碰撞？其对行业发展和社会进步究竟意味着什么？特别是在新技术层出不穷的当下，我们应怎样面对新技术遭遇的伦理考问？

观众在安徽省合肥市举行的第五届世界声博会上了解“个性化3D虚拟人构建”产品（2022年11月17日摄） 张端摄/本刊

　　AI“复活”术边界何在

　　多位受访专家提出，AI“复活”是深度合成技术的一个应用场景。AI“复活”技术目前并不成熟，呈现效果参差不齐，短时间内大量公司“入局”，在规则不明的情况下存在诸多法律风险和安全隐患。

　　《互联网信息服务深度合成管理规定》要求，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。

　　民法典规定，死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的，其配偶、子女、父母有权依法请求行为人承担民事责任。

　　这意味着，如果被编辑人是逝者，理应取得近亲属同意，这是现行法规中不可逾越的红线和底线。

　　“尽管逝去的明星属于公众人物，但未经其近亲属同意便进行‘复活’无疑是侵权行为，其近亲属可依法追究行为人的法律责任。”中国互联网协会法工委副秘书长胡钢说。

　　对于一些普通人“复活”亲人的行为，浙江省公共政策研究院研究员高艳东表示，应从私域和公域两方面讨论。在私人领域“复活”自己的近亲属，并不存在法律问题。而在公共网络空间，“复活”他人需经逝者近亲属同意，如果死者生前对自己的个人信息做出约定或安排，则不能利用其个人信息“重生”一个数字人。

　　在高艳东看来，法律应采用“不管私用、严管公用”的思路，不干涉私人领域的AI“复活”，只需限制其用途，比如利用隐形水印等技术对“生成内容”进行“标识”，以防止“复活”视频用于诈骗等不法用途。而一旦进入公共网络空间，法律则应从源头预防和治理其可能带来的隐私泄露、涉诈犯罪等风险，技术开发者和平台也都应承担相应责任。

　　而在具体的操作层面，由于AI需要处理大量个人敏感数据，如面部表情、语音语调等，对于逝者生前的个人信息、聊天记录等“数字遗产”能否继承、如何继承等，目前尚无明确法律规定。对谁有权使用、如何避免不当获取、使用应遵循何种规范等，仍需进一步明确。

　　“不能放任AI‘复活’变成一门没有规矩和底线的‘生意’，尤其要保护对新技术可能普遍不敏感的中老年用户群体。”中国法学会消费者权益保护法研究会副秘书长陈音江表示。

　　另据了解，尽管我国已出台关于人工智能技术治理的相应法律法规，由于互联网技术快速衍生的特性，对于AI“复活”等新的技术应用，在责任界定、隐私保护、流通盈利等方面仍存空白。随着技术不断迭代升级，治理的最大难点在于技术发展的快速性和风险的不确定性，未来还需进一步规范完善。

　　胡钢建议，针对新兴技术的立法规范应遵循“快立频修”原则，尽快划定技术发展的红线和底线，始终要求技术的发展不能突破国家安全、社会公共利益和公序良俗的底线，并根据技术发展阶段频繁修订，让监管跟上技术发展的步伐。

　　“数字永生”能实现吗

　　业内人士介绍，AI“复活”技术依可能实现的技术水平被规划数字孪生、数字原生和“数字永生”三个阶段。

　　数字孪生阶段的技术重点在于对人物外观实现精确复制，AI通过分析处理个人照片、视频等视觉资料，生成数字化形象；数字原生阶段侧重对人物声音的特征提取、模型训练和生成，此时数字人开始具备声音等部分“内在”特征；而“数字永生”阶段则力图实现外观、声音像人，且行为和思维也能高度模拟人，达到类似“永生”状态。

　　中国社会科学院哲学所科技哲学研究室主任段伟文表示，AI“复活”的质量取决于数据量，当前所能实现的“数字人”仅是浅层的、表象的数字映像，尽管在模拟外观和声音方面取得成功，但在复制个体情感和思维模式上仍面临绝大挑战，跟拥有逻辑智慧的真人相差甚远。

　　在中国人民大学哲学院教授刘永谋看来，“数字永生”是个伪命题。他认为人类的大脑活动是宇宙间最大的谜团，“复制大脑”在技术层面无法实现。当前所谓的“数字克隆人”其原理只是通过分析人们在互联网以及各种数字设备上被记录的行为痕迹，生成能在一定程度上模仿目标主体“数字人格”的数字模型，实际无法与真正的本我对应。

　　刘永谋提醒，要警惕建立在“AI泛灵论”语境下的AI夸大宣传。他解释说，当前有人有意夸大AI技术的可能性，是在利用人们对未知事物的恐惧达到炒作目的，使其在新一轮科技革命的各项关键技术角逐中获取更多资源，必须褪去AI技术的魔幻外衣使其回归本来面目，真正为人类服务。

　　在段伟文看来，当前AI发展已进入全数据驱动阶段，通过对目标主体的各类数据进行精确分析可以在一定程度上透视其行为方式、性格特征、价值取向等人格特质，甚至可以分析其在不同时空下的人格流动，但这种分析是建立在统计学意义上的平均计算，只能大体划定目标主体的相对特征，并不能模拟其在复杂情境中的自由意志，更不具备人的能动性。

　　同时也要看到，AI技术正在重塑我们的生活空间和思维方式，它创造了一种对现实世界进行调适的新方式，并且不能简单以真假评判，更应关注其所带来的多重可能，推动我们重新定义和理解生命的本质。

　　特别是在当前技术迅猛发展的背景下，我们的数据管理水平仍处初级阶段，需要尽快提升数据治理能力和治理水平，加快建设具有国际竞争力的数据治理体系。

　　北京师范大学哲学学院教授田海平认为，目前的技术方案主要是通过来自人类的反馈训练并迭代人工智能系统，尚不能实现复杂情境下人对规则的动态把握和自我颠覆，未来让人工智能系统参与到“与人类的共同行动”中来是大势所趋，这种“相与模型”的创建必然要求预先设立具体化的“机器人宪章”，在人工智能系统与人类之间确立一种具有约束力的关系，以便AI技术能够与人类社会的法则对齐，避免AI产品从人类追责体系中逃逸。

　　从更宏大的语境观察，随着人工智能技术的跨越式发展，人与“类人”之间的问题正在出现，倒逼我们追问人类自身，审视和反思人类现有的规则体系，以更长远的视角寻求人机合作的多种可能。

　　高艳东建议兼顾AI“复活”技术的发展与安全，一是设立严格的准入门槛，完善事前审批制，严控使用用途，二是建立一套针对数字人的保存、销毁机制，以免数字人成为失控的“数字幽灵”。

徐骏图/本刊

　　技术如何与思念“对齐”

　　AI“复活”技术的发展应用使个体的身份认同变得更加复杂——当逝去的亲人以数字化的形式“复活”，是否意味着他们真的“回来”了？这种“复活”有助于缅怀逝者，还是有损于对逝者的尊重和记忆？诸多问题正在挑战我们对“人”的传统理解。

　　上海交通大学马克思主义学院数字化未来与价值研究中心教授闫宏秀表示，数字技术使人们的记忆和思念也在被技术化，在数字空间里，人类记忆在一定程度上被推进到超越时空的永久化状态，随之而来的是超大容量的数据存储难题。

　　刘永谋表示，在数字时代想要记住一个人并非难事，并且这种记忆注定与财富、权力等社会资源密切相关进而呈现阶层化的特性。“换句话说，谁有能力购买更大的存储空间，谁就有可能拥有更逼真的数字记忆甚至在某种程度上接近‘永生’，随之而来的伦理追问使人们不得不关注‘复活’的目的和可能的影响。”

　　在刘永谋看来，这种“复活”本质是与现实生活互斥的竞争关系，所谓的“数字永生”会与现实世界争夺有限的资源，也可能弱化我们的情感。“遗忘本身也是人生的一道风景，过分沉溺于虚幻的数字世界不利于我们在现实世界中寻求可能的安慰，体验人生的丰满。”刘永谋说。

　　在复旦大学科技伦理与人类未来研究院教授杨庆峰看来，AI“复活”技术让死者重新被记起，这是一种想象投射和回忆构建，它能让人们再次唤醒沉睡的记忆，同时也会形成新的记忆从而替代原有记忆，这一过程可能造成新的伤害。

　　闫宏秀认为，需要追问的是，即便是出于善意的情感需求，生者是否有权复活逝去的亲人？被“复活”的数字人触动了传统的生命观念，当时空成为一种数字化的魔幻现实，思念还有意义吗？“这些短暂的给予只是暂时迷惑了心灵，总有一天我们依然要面临取舍，而那些关于逝者动态更新的数据，也会以某种逻辑进行勾连，进而产生新的认知困扰和遗忘难题。”

　　“95后”受访者小程表示，他无法从情感上接受用AI“复活”亲人的尝试。“技术工具的冰冷无法创造出情感的温度。AI‘复活’虽然提供了新的缅怀方式，但幻境再美终是梦，珍惜眼前始为真。有时睹物思人只需一张照片、一条语音甚至是一片树叶就好，被刻意营造的似是而非的真实，带来的痛苦往往多于美丽。”小程说。

　　遗忘和割舍从来不是易事。高艳东表示，我们应该看到AI“复活”技术对情感疗愈的积极意义，也要看到其可能带来的消极影响。如果过度依赖技术，可能削弱个体应对挑战的韧性，带来社会情感空间的异化。

　　段伟文说，我们正处于一个体验型社会，个体的情绪价值被无限放大并有了实现的可能。任何新技术都要经历“魔法—技术—信仰—审美”四个周期，眼下的AI已经从魔法进入技术的实操，必然会冲击固有的虚实和生死边界。他建议监管部门应在具有高风险的技术应用领域建立伦理复核机制，确保数据隐私安全，防范可能的伦理风险。

　　他特别提到，在地缘政治风险上升的大背景下，AI技术将会在不同国家和地区呈现完全不同的发展轨迹，随着人和机器呈现更深度的纠缠互动，我们要把AI技术作为与未来世界对接的重要支点，在越来越多的应用领域探索人机协作的新模式。

　　一个容易被忽略的悖论是：遗忘恰恰是思念的必要条件，如果没有遗忘，也谈不上思念。有些人终其一生都在与过去告别，却忘了如果不抓住每一个现在，这些转瞬即逝的当下也会成为过去。

　　人类从诞生之初就在寻求永生，永生的欲望就像追求自由和爱情的本能一样，既令人沉醉，也必然带来伤痛，所有美好的事物都有这样的两面性。如果有机会能够让那些最珍贵的记忆成为体外化的存在甚至是智能体本身，会不会改变原有的社会关系？换言之，我所怀念的，还是那个“他”吗？

　　从这个意义上说，思考是必须的，结论是开放的。当记忆世界以外化的形式向我们敞开，我们终将在认知的持续更新中寻找内心的自洽。■