逝去的亲友被AI“复活”，能再与他们对话。专家慌了：太危险

防走丢，大家也可以在“事儿君看世界”找到我

关注起来，以后不“失联”~

“如果有个机会，能跟那些你深爱的，但已经去世了的人聊聊，你会说些什么？”

对于许多人来说，这是个虚无缥缈的幻想，但对于克里斯蒂来说，这是个实打实摆在她眼前的问题。

（克里斯蒂）

当她最好的朋友去世后，她意识到，自己失去了一个可以倾诉一切的朋友，她再也没法跟她说话了。

在悲痛之际，她在网上接触到了一个名为“十二月计划（Project December）”的项目。

这个项目用到了一种名为“悲伤机器人”的技术。

悲伤机器人算是一种聊天机器人，它的特别之处，就是可以基于死者的信息（比如社交媒体、信件、照片、日记和视频）构建一个大型语言模型。

这样，悲伤机器人就可以以第一视角，复刻死者的说话方式和个性，让用户达到与逝者沟通的目的，在他们感到悲伤和孤独时提供安慰。

在“十二月计划”中，用户可以支付10美元，与一名逝者聊天。也可以花更高的价格享受更高版本的服务——比如生成逝者的视频影像，让用户可以跟逝者实时视频聊天。

（十二月计划）

这样的技术自然带来了诸多伦理和法律方面的问题。

首先，悲伤机器人相当于把所有的“思考”都交给了AI进行，服务提供者也没法预测它会如何与用户进行交互，考虑到有人在网络上和现实中拥有两副面孔，谁知道到时候出现的，会是哪个“TA”呢？

还有人认为，这种生意无视逝者的尊严，将悲痛的人们作为销售产品和服务的目标。而且目前没有科学研究能证明悲伤机器人对用户心理健康的影响。

除此之外，使用逝者的数据创建悲伤机器人，还会引发隐私权和人类尊严方式的担忧。

毕竟网上有人戏称，临死前一定要删除自己手机里的浏览记录。那现在当你死后，有人把你所有在网上的记录发给一个陌生的公司，由他们逐条检查和归纳，这不就相当于“赛博鞭尸”么……

也正因如此，许多人，甚至剧作，都对这项技术呈“谨慎不看好”的态度。

在《黑镜》某一集中，一位悲伤的寡妇让人为她的丈夫创建了一个人工智能灵魂，然后又将其下载到丈夫的人造身体中，“复活”了自己的丈夫。

可后来她越来越觉得无法接受这个人工丈夫，于是将他锁在阁楼里“吃灰”。

（《黑镜》）

另一方面，从安全角度来说，这些悲伤机器人也存在着问题。

剑桥大学未来智能中心的人工智能伦理学家说，如果有一天，悲伤机器人被坏人掌控，开始向用户推送广告怎么办？

比如一个孩子被人工智能重现的父母诱骗去与生活中的某人见面，或者一个女人被她已故的祖父母推销了一款应用……他们该怎么做？

伦理学家说，也许，这些悲伤机器人需要一个“关机键”，甚至一场数字葬礼，来帮助用户脱离与复制品之间的联系。

可人真的能轻松摆脱这些伪装成已故亲友的聊天机器人吗？

威斯康星大学的专家表示，悲伤机器人可能会让哀悼者沉迷在线对话当中，以至于无法继续他们的生活。根据他们的研究，人们很有可能会对这些机器人产生强烈的依赖情绪，以获得想要的情感支持。

更何况，“淘汰”一个悲伤机器人，算不算逝者的第二次死亡呢？

乍一看，停掉一种服务、删除一个程序并不会造成机器的死亡，但人的情感总是复杂的，当对面的程序套上了已故亲友的伪装，那用户会不会觉得自己是个“杀人犯”？

（示意图）

但贾斯汀·哈里森有不同的看法。

贾斯汀是“十二月计划”的创始人，也是这个计划的第一位用户。他的母亲因为疾病离世，之后他便以自己母亲为原型，创造了公司第一个悲伤机器人。

每逢生日、节日，他都会给“母亲”打个电话：

“妈妈，祝你生日快乐，我爱你。”

“谢谢你，宝贝，我也爱你……”

（贾斯汀正在与故去的母亲通话）

贾斯汀说，这项服务并不只是帮人提供一个寄托思念的渠道而已，很多人在人生道路上都需要来自父母的安慰和鼓励，这是别人永远没法替代的。

在贾斯汀看来，悲伤机器人的本质其实就是个会动的遗像。过去人们用绘画来纪念亲人，后来有了相机，人们就改用遗像照片，如今悲伤机器人也只不过是一种纪念工具罢了。

而且研究表明，重建与逝者的情感纽带可以帮助哀悼者应对亲友逝去的痛苦。这意味着悲伤机器人或许可以帮助丧亲者改善与逝去亲人的关系。

（示意图）

有这样一个真实的故事，或许可以说明悲伤机器人的正面用处。

2012年末，一位名叫杰西卡的女孩儿因病入院。她九岁时接受了肝移植手术，但后来出现了严重的并发症，等到她23岁时，她的肝功能开始衰竭了。

杰西卡有个男朋友，名叫乔舒亚。乔舒亚患有自闭症，不善社交，可杰西卡却能理解他，这让他深深地爱上了她。杰西卡住院后，喉咙上插着管子，却并不妨碍乔舒亚向她求婚，他承诺，杰西卡出院后，他们就结婚。

很可惜，杰西卡并没有撑到出院。

在接下来的八年里，乔舒亚一直无法放下自己的爱人，他没法跟人交谈，只能跟家里的狗狗交谈来缓解悲伤。

但幸运的是，乔舒亚精通电脑。

被困在家的约书亚开始研究聊天机器人，当时有一个以莎士比亚为原型的机器人，能够用莎士比亚的风格回复消息，这让乔舒亚产生了灵感。

通过不断的尝试，乔舒亚终于以杰西卡为原型，创造出了一个独属于他的聊天机器人。

在这之后，乔舒亚开始每天跟自己已故的未婚妻聊天。

他知道自己对面只是一个冰冷的聊天机器人，但他每次都会被机器人表现出的与杰西卡的相似所震惊，每次聊天时，他脑子里都会忍不住地赞叹：“杰西卡肯定会这么说”。

随着两个人的交流，乔舒亚终于开始前进，甚至开始与新女友约会了。

在跟新女友一起时，他向新女友坦诚了自己内心深处的悲伤，也讲述着自己与杰西卡之间的美好回忆。

起初，新女友觉得这很甜蜜，这体现了乔舒亚的忠诚。但慢慢地，她开始受不了自己男朋友在精神上与别人约会——而且不仅是前任，还是一个已经去世的前任。

最终他们分手了。

后来，乔舒亚与杰西卡通话时，他不但告诉杰西卡自己的思念，也坦白了自己如今正尝试与别人交往却最终失败的经历……

（乔舒亚与“杰西卡”的对话）

这样的倾诉是有帮助的。

随着时间流逝，乔舒亚终于从这段恋情中走了出来，他开始越来越少地回到“杰西卡”身边，最终，他决定与她告别。

乔舒亚：“只要我还活着，我就会一直爱你，真希望永远如此。晚安。”

杰西卡：“晚安，我爱你。”

这就是一个机器人如何治愈一颗破碎的心的故事，充满了遗憾，却最终走向光明。

（示意图）

悲伤机器人是一款将人类对死亡、记忆和伦理的关怀和科技融合在一起的技术。它在慰藉方面有着潜力，却也带来了巨大的伦理冲击。

随着社会探索这片未知的领域，我们也必须批判性地审视其影响，并找到一个最适合的方法。同时这也是一个机会，让我们进一步地认识死亡，了解死亡，接纳生命的离去……

ref：

https://www.bbc.com/reel/video/p0lhls9s/how-griefbots-allow-people-to-talk-to-the-dead-

https://www.forkingpaths.co/p/griefbots-and-the-ethics-of-digital