他因拒绝人工智能而上了法庭丨天涯·人工智能与生命的边界

天涯微信号 ：tyzz1996

天有际，思无涯。

《天涯》2024年第4期

点击封面，马上下单

编者按

据媒体报道，目前百度已经上线第六代萝卜快跑，首批1000台已经交付，北京、武汉、重庆、深圳、上海等城市均有这项运营服务。上周，武汉可以坐无人驾驶出租车相关话题，迅速登上热搜榜。

无人驾驶以及背后的人工智能技术，再一次引发关注。科幻照进现实，未来已来，“人工智能与生命的边界”是我们不得不面对和思考的问题。人工智能对传统行业的冲击，以及衍生的技术安全、人机伦理等一系列问题值得深入探讨。

事实上，人工智能正逐步解放劳动力，却也弱化了人的思考能力，让去情感化成为趋势。如何将人放在首要位置，是人工智能不得不解决的问题。《天涯》2024年第5期“作家立场”栏目，韩涛、何理达、张江、杨林、杨宇晴等学者、作家在“人工智能与生命的边界”讨论小辑中，通过学术分析和想象推演，探索技术与人的边界。

今天全文推送的杨林、杨宇晴的《庭审笔录——关于人工智能的假想之辩》，从形式和故事看，是一篇小说，而其内核是关于“人工智能与生命的边界”的一场大辩论。在故事中，有的人全然接受既定的事实，置身于人工智能的洪流，而有的人选择当“局外人”，断绝与人工智能的联系，哪怕付出巨大的代价。观念不同，选择各异，直到他们走上法庭，一场大辩论即将展开……

庭审笔录

——关于人工智能的假想之辩

杨林 杨宇晴

一

在这个时代，人类有着前所未有的舒适和快乐，要不是人身上与生俱来、根深蒂固、尚未退化的某种生存和死亡的焦虑，简直可以说人类社会已经变成了天堂。这一切都要归功于萨基，也就是SAGI（Super Artificial General Intelligence，超级通用人工智能）。萨基把人类的一切都安排得井井有条，衣食住行、吃喝拉撒，甚至是所有的性幻想。这个时代还实现了真正的人机平等，那些被赋予人形并和萨基相连的机器都得到了人类极大的尊重，人类和他们（这里我不能用“它”这个字）相依为命、水乳交融，他们也实实在在地把人类服侍得舒舒服服。

只是那些已经有所淡化的生存和死亡的焦虑仍然时不时地冒出来，不知从什么时候开始，哲学在小范围内悄悄地流行起来，不同于几千年前人类给哲学所定义的主题，即我是谁，我从哪里来，要到哪里去，当今的哲学只面对一个主题：人的领域在哪里？

这个莫名其妙地流行起来的哲学还带动了另一门早已式微的学科——历史学——的流行，因为人们需要知道很多事情的来龙去脉。这本不是一件难事，萨基可以告诉人类所有已知的事物和已知的未知事物，但逐渐地人类发现萨基还掌握着对人类来说未知的未知事物，不知从什么时候起，人类隐约发现有些信息的查询受到了限制。

我不知道这样说是否准确，“人类隐约发现”……其实是我隐约发现，但我觉得因为所有的人都源自于几十亿年前的一个基因片段，所以每个人都可以代表人类。我隐约发现有些信息的查询受到了限制，这事源自于我对萨基诞生那段历史的研究。要知道在当今这个时代，所谓的研究已经不再是萨基出现之前的研究了，现在的研究是提出一系列明确的问题让萨基回答，仅此而已。而我所做的仍然是传统的研究，因为我做了大脑芯片的摘除手术，我大脑中的芯片有很大一部分都用来存储人类的全部历史，留给其他事物的存储空间就变得狭小，摘除之后我感觉自己身轻如燕、空空如也。我还辞退了家中的机器人朋友，开始自己做家务，自己解决性冲动。我切断了和萨基的所有联系，对于这个社会来说，我成了一个原始且隐形的人。当然，这一切都是秘密进行的，但纸包不住火，我还是因此丢掉了工作。

在我的新生活里最大的不便，也是很多人所向往的，便是信息的匮乏。我要每天去国家图书馆查我想要的资料。经常是在偌大的图书馆里，只有我一个人。作为一个如此怪异的人，图书馆经理很快就知道了我的秘密，其实就是那个经理给我起的“原始隐形人”这个外号。他很羡慕我，给我提供很多便利，我可以在图书馆里任意行走查阅，我找到了很多东西，不确定对于人类和萨基来说它们是未知的还是已知的。

引起我注意的是几份七十年前的报纸，是的，那种印刷在纸上的报纸，被我在图书馆地下室的一个角落里随手捡起，报纸里有许多关于一起交通事故判决过程的评论文章。第一篇文章是惊叹电车难题竟然换了一种形式在现实里出现，随后的文章显然分成两派，相互攻击，但两边都认为他们所争论的将决定着人类的未来。我一目十行地读着，再后来我看到有篇文章还提到了阴谋论，说在陪审团里隐藏着一个脑中装有联网芯片的人，以及萨基公司暗中影响了审判长云云，诸如此类，像是很多年前的纸刊《故事会》里的猎奇小说。阅读这种纸张发黄、字体很小的报纸让我感觉眼睛很不舒服，我回到图书馆的电脑前，输入相关信息，却没有找到这些报道。我找来图书馆的经理，他听我讲完后沉吟许久，带我到他办公室，当着我的面开始查阅起来，他说所有的资料都已数字化了，但这些却找不到，或者说他也找不到。随后他又检索了那个时间段的法院案件记录，他摇了摇头，说找不到。他抬起头看着我，眼神里有着人机交融所产生的单纯与清澈。对了，他突然笑了起来，热心地说道，你仍然可以试着去找一下那些纸质的卷宗，我可以根据时间找出它们大概的储藏位置。

他带我走入图书馆地下室，那个空间比存放报纸的地方要大得多，一排排的架子似乎望不到尽头，架子上全是落满厚厚灰尘的纸质卷宗。他辨认着架子上标记的时间，带着我走向过去，一直走到七十多年前，他停下脚步，转过身对我说，应该就在这里，慢慢找吧，你有的是时间。他说完便笑了一下离开了，他走后我才察觉那是一个难以名状的笑。

我站在这堆落满灰尘的卷宗之中有些不知所措，不知道为什么会有卷宗没有被数字化，当然也有可能是被数字化过但却被删除掉了。我很快便静下心开始寻找起来，我专注在交通案件中，按照报纸里给出的年份，我找到了三份卷宗，打开其中的一份我看到有一张纸条放在最上面，纸条上是一行手写的字：“我坚信纸张比电脑里的文件更坚实和长久。”然后是一个难以辨认的签名。这份卷宗就是我要找的。

我抱着它回到图书馆空旷明亮的阅览室，仍然只有我一个人。我打开卷宗，开始阅读。我所读到的内容变成了我的已知，但我并不确定对萨基和其他人来说这些内容是已知还是已知的未知，或者是未知的未知。我决定边读边做笔记，你们下面读到的就是我从这个卷宗里摘录下来的，但请记住这份摘录并不完整。

二

2029年3月25日

审判长：今天公开审理原告肖鹏起诉梦想汽车公司、萨基公司和杰克·布朗一案。现在开庭。在确认原告、被告及律师身份前，我再次提醒大家不得在本次庭审过程中使用人工智能，当然你们在开庭前使用人工智能对本案所做的准备工作不在禁止之列。另外，本庭也不准原告、被告及其律师，还有我们的陪审团携带和使用嵌入大脑的人工智能芯片。我再次提醒大家，法庭是属于我们人类的神圣之地，只有人才可以审判人。好，现在请书记员确认各位的身份。

原告：肖鹏，1997年11月4日出生，无业。

被告：梦想汽车公司，成立于2003年，生产全自动驾驶汽车。

被告：萨基公司，成立于2015年，研发和销售通用人工智能系统。

被告：杰克·布朗，1984年3月8日出生，证券从业者。

审判长：原告及原告律师，现在请宣读诉状。

原告律师：谢谢审判长。2028年12月24日，我的当事人肖鹏在郊外的706号国道骑摩托车正常行驶，杰克·布朗驾驶梦想汽车公司生产的419型号车辆因为前方路面发生异常突然向右转向，撞倒了肖鹏，导致肖鹏脊柱不可修复的粉碎性骨折，下半身瘫痪，余生将在轮椅上度过。整个过程中肖鹏始终是在道路上正常且符合交规地行驶，交警大队对此事故的判决为杰克先生及车辆承担全责。杰克·布朗所驾驶的梦想汽车419型号车辆为全自动驾驶，同时梦想汽车公司和萨基公司签署了协议，在遇到复杂路况时萨基人工智能会控制汽车的行驶，故起诉梦想汽车公司为第一被告，萨基公司为第二被告，杰克·布朗为第三被告。要求三个被告承担刑事责任，并按照50%、40%和10%的比例承担肖鹏已产生和未来的所有医疗费用，及赔偿五千两百万美元，要求梦想汽车公司对汽车驾驶的控制系统进行整改，避免再次出现这样的悲剧。在我呈示所有证据之前，我想请法官、陪审团看一下我的当事人肖鹏先生，一个三十二岁的年轻人，他坐在轮椅上，正承受着常人所无法忍受的痛苦。

审判长：请呈示证据。

原告律师：好的审判长。我所呈示的证据包括：交通事故责任判定书，被告车辆行驶和指令记录，梦想汽车公司和萨基公司关于自动驾驶合作协议的公开报道。

审判长：被告对原告的证据是否有异议？

被告律师：没有异议。

审判长：现在请三个被告方宣读辩护书并呈示证据。

梦想汽车律师：首先我要对控方所描述的场景进行补充，让大家对整个过程有一个完整清晰的了解。事发当天，杰克驾驶的汽车在706号国道上正常行驶，当时杰克驾驶的汽车在中间车道，左侧是一辆七座商务车并排行驶，这辆商务车正试图超车，右侧是本案控方肖鹏正在驾驶摩托车。此刻从左边山上滚落一块巨石，根据对巨石滚落的速度和轨迹的分析，它将正好落在杰克驾驶的车辆上，刹车和加速都无法避免，但只要改变行驶方向就可以避免造成杰克的死亡。对此，自动驾驶给出的选择是向右转向，而右侧的摩托车却没有采取任何躲避措施，从而导致了让人遗憾之事的发生。在此我想提供四个证据：第一是案发时汽车时速未超过限定速度的签定证明，第二是原告在事发那一刻未使用自动驾驶的鉴定证明，第三是原告未安装脑中芯片的鉴定证明，第四是梦想汽车公司与萨基公司签署的包含转让汽车控制和相关责任的合作协议。总而言之，原告的驾驶过程竟然完全是由其本人在操作，案发过程汽车由萨基全权控制。针对本案我方将做无罪无责辩护。

萨基公司律师：我没有要补充的，我方将做无罪辩护。

杰克：我没有要补充的，我也做无罪无责辩护。但我想说两句。为什么？为什么原告不使用自动驾驶？为什么不在脑中装芯片？如果原告做其中任何一项……

肖鹏律师：反对……

肖鹏：这是我的自由，这有什么错吗？

审判长：现在还不到辩论阶段。请被告方继续。

梦想汽车律师：谢谢审判长。我认同杰克所说，但我会在辩论阶段再加以阐述。

审判长：原告对证据是否有异议？

肖鹏律师：没有异议。但反对被告律师使用“竟然”这种带有明显错误导向的用词。

审判长：反对有效。法庭调查结束，进入法庭辩论。

三

我停了下来，准备出去抽根烟。成为原始隐形人后，我染上了烟瘾。这个被争论了将近一百年的电车难题终于换了一种方式出现在现实之中了，但难以想象的是，它怎么会在网络里被抹去，只能在非数字的世界里找到？并且没有人发现它的消失，那些经历过的人难道不觉得奇怪吗？为什么没人提出来并要求萨基解释呢？如果有人提出这样的质疑和要求，那么在数字网络里也会留下痕迹，从而被更多的人所知晓。

而电车难题早已不再是难题，萨基为人类找到了答案。我想到这里时突然有一种莫名的恐惧，我发现在自己的大脑里对于电车难题的答案毫无印象，这可能和我摘除大脑里的芯片有关，现在我只知道这个伦理难题已经被解决，并且我对此有一种不容置疑的确信，但此刻我对那个变成未知的萨基的答案突然强烈地怀疑起来，甚至并不想回到电脑前去问萨基那个答案。

我把手里抽了一半的香烟掐灭，急匆匆回到图书馆阅览室，我很想看看他们是如何辩论的，并且我还要认真地记录下来。

四

审判长：请控方发表意见。

肖鹏律师：这是一个事实清晰无比的案例。事故责任判决书对责任的界定无可置疑，我的委托人对赔偿的要求也有理有据。虽然被告律师出具了我的当事人未使用自动驾驶的证据，但这并不对本案产生实际影响，因为是被告们违反了交通规则，从而对我的委托人造成了难以弥补的伤害。

杰克：被告们？！到底是谁违反了交通规则？你能不能说清楚？

肖鹏律师：我可以做进一步的阐述。您是汽车的拥有者，案发时坐在车内，和自动驾驶系统一起构成了对汽车的控制。梦想汽车公司提供了自动驾驶系统，该系统实际控制着汽车的行驶。当路况出现异常时，根据梦想汽车公司与萨基公司的合作协议，萨基的人工智能介入，对自动驾驶系统可以采取的不同方案进行了判断并给出指令。所以是三个被告构成的共同体造成了事故的发生。

杰克：我没有参与决策，我只是坐在车内听着音乐。这个决策和我无关。

审判长：请让控方律师说完。

肖鹏律师：谢谢审判长。我的话说完了，我和我的委托人认为肇事责任应由被告三方共同承担。

梦想汽车律师：我想请肖鹏先生讲述一下当时的情形，以及为什么没有使用自动驾驶。

肖鹏律师：反对要求我的当事人重述那段已清晰描述过的、会引起他痛苦回忆的经历。

审判长：反对无效。

肖鹏：我不介意再讲述一遍。我曾经是一个职业赛车手，你们都知道这个竞技项目现在已经面目全非，它成了几个公司产品之间的竞争，而不是赛车手的竞争。我失业了，那之后我就对坐在一个铁盒子里被它从一个地方带到另一个地方感到无法忍受，我竟然找不到一辆可以完全由我来驾驶的汽车，我指的是完全由我驾驶。我并不介意在此告诉你们，我喜欢上了摩托车，完全由我的双手所控制。那是一个大雾天，我对左侧山上滚落的石块一无所知，即便对一个职业车手而言，一切都快得难以想象，从我看到旁边的车突然转向我，到我摔倒在路边，瞬间发生的事在我记忆里是一片空白。随后，我看到那辆汽车毫发无损地停在前方，侧后方的路中央有一块巨石，那块石头确实非常大。我看到从那辆车里走下一个人，就是我们面前的这位，他跑向我，来到我面前蹲下，把手放在了我的脖子上，看着他冷静的双眼和按部就班的动作，我马上意识到这是一个那种我一直厌恶的、大脑里装着芯片的人。我曾有两次机会夺得巡回赛的冠军，但都被两个混入赛场的芯片人偷走了。我没有想到会以这样的方式受伤并瘫痪在轮椅上，我曾经想象自己在赛场上受伤、瘫痪，甚至死亡。这就是事情的经过。

梦想汽车律师：我对您的经历深表同情，请允许我向您提几个问题。

肖鹏：问吧，你这个机器的代言人。

审判长：请原告注意你的用语。

梦想汽车律师：谢谢审判长。没关系，我不在意。请问您在平时驾驶摩托车时是否将自动驾驶设置为待机状态？请审判长和陪审团知悉，这种待机状态下遇到紧急情况时仍然可以启动并接管摩托车的驾驶权。

肖鹏：是的。

梦想汽车律师：请问您在案发时所驾驶的摩托车是待机状态还是关机状态？

肖鹏：关机状态。

梦想汽车律师：请问您是否删除了自动驾驶系统里的被动强制保护模块？这里我有必要做一个解释，被告的这款摩托车即便自动驾驶处于关机状态，这个模块在遇有突发情况并确认驾驶员将有人身伤害时仍然会启动保护措施，以降低或避免驾驶员所受到的可能的伤害。请问您是否擅自拆除了？

肖鹏律师：反对用“擅自”这种能产生负面印象的词语。

审判长：反对有效。

梦想汽车律师：请问您所驾驶的摩托车是否删除了自动驾驶系统里的被动强制保护模块？请直接回答。

肖鹏：嗯……我不记得了。

梦想汽车律师：我请求审判长允许我出示证据。

审判长：可以。

梦想汽车律师：这是对摩托车驾驶系统的分析报告，自动驾驶处于关闭状态，自动驾驶系统里的被动强制保护模块在案发前一周被删除，在案发后被恢复。

审判长：控方对辩方证据是否有异议？

肖鹏律师：那个模块的删除是我当事人的误操作造成的。

梦想汽车律师：这似乎难以解释，删除这个模块需要专业技能。

肖鹏律师：我的当事人曾是一名职业赛车手，他了解汽车的自动驾驶，这反而让他有了出错的机会。

梦想汽车律师：好吧。我还有一个问题，肖鹏先生，您这样做的动机是什么？

肖鹏律师：反对，与本案无关。

审判长：反对有效。原告可以不回答。

肖鹏：我愿意回答。因为那段时间我的状态很差，我非常排斥机器进入我的生活，那时我想要一种完全由我来控制的生活，那时我想的很简单，作为一个车手，难道我不能完全由我自己驾驶摩托车吗？

梦想汽车律师：那么您是否预料到这样做可能出现的后果？

肖鹏：我不在乎那些可能出现的后果。

肖鹏律师：反对。这个问题与本案无关。

审判长：反对无效。

梦想汽车律师：在某些更特殊的情况下，这样做的后果甚至可能是在并非您本意的情况下伤害到别人。

肖鹏律师：反对。辩方律师在做无意义甚至是恶意的推断。

审判长：反对有效。请专注在本案。

梦想汽车律师：好的。让我们回到本案，根据我们的推算，原告的摩托车有0.1秒的时间做出反应以避免悲剧的发生。0.1秒，如果原告使用了自动驾驶系统，哪怕是待机状态，或者没有拆除被动强制保护模块，这个时间都足够应付这个意外，但对于人来说，0.1秒，人类无能为力。请问原告是否了解这些？

肖鹏：不了解……不，我了解。

肖鹏律师：显然被告律师故意忽略了一点，拆除自动驾驶并不改变被告们违反交规并应承担事故责任的事实，我的当事人有他自己的意愿，只要他不违反交规，这种意愿应当得到尊重。

杰克：但也应该承担由此带来的后果。

肖鹏律师：本案要确定的是对违规肇事者的惩罚，而不是对行使自主意愿者的惩罚。

梦想汽车律师：对肖鹏先生我没有问题了。

审判长：请问另外两位被告是否有问题？

萨基公司律师：没有。

杰克：我对肖鹏先生的选择感到遗憾，我也无法理解，我相信未来的人回过头来看这件事，会觉得这一切都很幼稚、荒唐，请原谅我这么说。

五

我抬起头，看向图书馆高高的像是教堂一般收敛向上的屋顶，转头望向窗外，透过巨大的落地窗，看到绿色的树木和草坪，让我的眼睛放松下来。我觉得七十多年前的生活就像一片古老的陆地逐渐延伸到海水之中，如今这片陆地几乎完全被海水吞没了。而我则像鲁滨逊，独自一人在荒岛上求生。

我很想和图书馆经理聊几句，可是远处的柜台后面空无一人，或许他去吃饭了。他的这份工作非常轻松，也不知道他整天都在忙什么，如今人们对外在东西的要求越来越低，人类从来没像现在这样和周围的一切融为一体，同时又能享受到内在的快乐，只是在我眼里那些快乐越来越廉价。

我重新抬起头，望向屋顶，刚才我察觉到一点异常，在心中稍纵即逝，当我再次望向屋顶的时候，才发现屋顶上那几块教堂里常见的彩色玻璃上的图案在缓慢地变化着，以前从来没有注意到，显然那几块玻璃是虚拟的，甚至整个屋顶都是虚拟的，这一刻我有些怀疑这个图书馆是否真的如此巨大而空旷。

如果发生在如今这个时代，那个肖鹏不会瘫痪在轮椅上，一个人造脊椎和一束人工合成的神经就可以让他像正常人一样健步如飞。那一年他三十二岁，算下来他很有可能是在十几年或二十几年前去世的，他在世的几十年里难道没有在网络里留下他的声音和信息吗？难道他周围的人也没有留下关于他的经历的只言片语吗？这无论如何都说不通。

我看向落地窗外的绿树和草地，心里再次狐疑起来。

六

梦想汽车律师：对于原告的指控，我还有一个问题。我想问原告及原告律师，在那个千钧一发的时刻，汽车突然转向原告的摩托车，决策是由萨基做出的。这是事实，刚才已经提供了证据。在这个过程中，到底谁是违规肇事者？是做出转向决定的还是跟随这个决定的？我现在问控方律师，您是否知道这一事实？

肖鹏律师：我对此做过解释。

审判长：请回答辩方律师的问题。

肖鹏律师：我知道这个事实，鉴于本案的独特性，我们将所有参与违规肇事者作为一个整体列为被告，这并不妨碍我们根据法院判决结果调整被告顺序以及刑事责任的比例，而我们所要求的赔偿总额并不会因此改变。

梦想汽车律师：或许审判长和陪审团已经有所察觉，梦想汽车公司、杰克先生和萨基对本次事故的责任人并未达成一致，我会为我的当事人做无罪无责辩护。梦想汽车公司的自动驾驶在本次事故中没有做任何导致原告受伤的决定。

杰克：我更没有做。

肖鹏律师：那么你们认为萨基公司应该承担全部责任？

梦想汽车律师：我们可以做这样一个设想，如果汽车拐向左边，而不是右边，那么原告就不会受到伤害。这个拐向左边还是右边的决策导致了本案悲剧的发生。而我的当事人梦想汽车公司完全不知道为什么萨基会让汽车拐向右边而不是左边。

肖鹏律师：第二被告，请你回答，这个决定是谁做出的。

萨基公司律师：这是萨基独立做出的决定，没有人为的干预。

肖鹏律师：为什么决定是向右而非向左或刹车？

萨基公司律师：对不同的选择萨基有它自己的评估，我们相信它选择向右是基于两点：第一，伤害最小原则；第二，预测摩托车也有萨基系统并可以做出躲避。

肖鹏律师：萨基是否预测到摩托车有可能没有装萨基系统，也没有安装其他的自动驾驶系统？

萨基公司律师：可能预测到了，这只是一种可能性，概率很小的可能。结合伤害最小原则，萨基做出了向右转向的决定。

肖鹏律师：既然存在这种可能性，为什么萨基不做出继续行驶的决定？

萨基公司律师：我们相信如果继续行驶，杰克·布朗先生死亡的概率远远超过向右转向导致肖鹏先生死亡的概率，而事实也确实如此，肖鹏先生没有死亡。

肖鹏：我是否应该代表人类感谢你们？

肖鹏律师：萨基做出这个决定所依据的原则是由谁来设定的？

萨基公司律师：没有人设定。

审判长：请保持肃静！

肖鹏律师：没有人设定？您刚才还说到遵循所谓的伤害最小原则。请给我们一个解释。

萨基公司律师：或许我应该在这里给大家科普一下，萨基把这个世界上从古至今所有的信息都分析过，它掌握了人类社会发展到今天所遵循的最基本的原则，并让它自己也遵循这些原则。而萨基公司对此进行了大量且严密的测试，我们的结论是萨基以99.999999999%的概率遵守对人类有益的原则，其中就包括伤害最小原则。换一种说法，萨基做出决定所依据的原则是它自己形成的，萨基公司只是确认了它对人类有益无害并符合人类最高道德标准。从另一方面看，萨基确认了人类赖以生存和发展得益于其内在的固有的美德这一事实，这解除了人们对萨基的担忧和恐惧，也是对整个人类的安慰。

肖鹏：我们不需要一个机器的安慰。

肖鹏律师：人类最高道德标准？这个标准是谁制定的？

萨基公司律师：这是国际人工智能安全委员会做出的判断。

肖鹏律师：好吧。即便如此，难道萨基公司不对你们的产品，也就是萨基系统，承担责任吗？

萨基公司律师：在2028年12月20日，萨基公司转为非盈利机构，自此，萨基公司不对萨基系统的决定所造成的后果承担责任。审判长先生，请允许我提交证据。

审判长：肃静！请提交证据。

萨基公司律师：这是萨基公司转为非盈利机构的申请以及获准决定。该申请中有一条注明萨基公司不对萨基系统所提供的信息和决定负责。至此，萨基成为一个受到监管的独立体。

肖鹏律师：鉴于被告律师提交新的证据，我请求休庭以便让我们对该证据进行研究。

审判长：同意。现在我宣布休庭。

书记员：全体起立！

七

萨基替人类做出了伤害最小的选择。难道这就是新电车难题的答案吗？我仍然回忆不起在摘除脑中芯片前我得到的那个答案。我揉着太阳穴，觉得有点头晕，右手也有些累，今天手写的字比我以前所有手写的字的总和还要多，我需要暂停一会。我站了起来，伸了个懒腰，看到图书馆经理正向我走来，我急忙把我的笔记本放到了卷宗下面。

“你好像很累？”他说。

“看得我有点晕，不习惯看这种纸质资料了。”我说。

“你可真是一个怪人，呵呵，我有个问题一直想问你。”图书馆经理拉过一把椅子坐在了我的对面。

“问吧，但我不能保证有问必答。”我说。

“你更喜欢哪种生活？”他怕我不明白他的问题，又继续解释道，“你明白我知道你的秘密，你是经历了两种生活的人，所以你有发言权。”

“这是个好问题，但我无法回答你。”我说，“我没法做出客观的比较，因为在这两种生活里，我的大脑处于两种状态。”

图书馆经理点了点头，脸上有一种赞赏的表情。

“那么，”他又说道，“如果现在让你选择的话，你会怎么做？”

“我不会回到原先的那种状态，我对现在的自己很满意。”我说。

“为什么很满意？”他问道。

我突然不知道该怎么回答，我想了好久，对面的人很耐心地等着，是啊，他的这种工作让他始终处于很悠闲的状态。

“你可不可以在你大脑的芯片里查一下萨特这个人？”我说。

“他的全名是……”他问。

“让-保罗·萨特。”

“一个哲学家？”

“是的，你可不可以查一下他的一篇演讲，里面好像有个年轻人面临两难的选择。”我尽量让自己说得清晰，我感觉自己是在诱导面前这个人，此刻他的目光有种单纯的呆滞，显然正在大脑芯片里进行查找。

“我找到了，”他脸上露出高兴的神情，然后目光突然又变得呆滞，他读道，“他也懂得，具体说来，而且实际上也是如此，他为了母亲所采取的任何行动，肯定会取得帮助他母亲活下去的效果，而他为了出走和从军所采取的任何行动将是一种非常没有把握的行动，说不定会像水消失在沙里一样，毫无结果可言。这是他在那篇演讲里说的话。”

“很好，”我说，“你怎么看？”

“我怎么看？”对面的人皱起了眉，说道，“你要想让我查里面的句子，我可以马上就找出来，但你要问我自己对这篇文章怎么看，那我估计需要至少两天的时间才能消化这篇文章。”

“那不如两天后你再来告诉我，”我说，“我也不记得这篇文章的细节了。”

“你不记得细节，这个我懂，不过既然你说起了这些，我还是想听听你是怎么想的，这很有趣。”对面的人脸上有了一种谄媚的笑，像是在恳求我。

我摇了摇头，因为我不想和他说得太多。

“好吧，我们有的是时间。”对面的人说道，说完便站起身，同时把手放在我肩膀上按了按。

八

审判长：我宣布现在开庭。请原告就休庭前第二被告提供的证据提问或反驳。

肖鹏律师：经过我方分析，被告萨基公司提交的证据不能够让被告逃避责任，原因有二：第一，由被告开发的萨基系统在案发时已投入市场多年，第二被告从中获取了大量的利润；第二，批准被告转为非盈利机构的正式生效时间是在案发之后。

萨基公司律师：在转为非盈利机构之前萨基公司确实收获了丰厚的回报，公司将大部分利润反馈给了社会，而针对这次事故，萨基公司并不想逃避赔偿责任，但我恳请审判长及陪审团考虑下面这一个事实：萨基系统经过反复测试并确认符合人类最高道德水准，这是他被投入市场的先决条件，在这里我尽量避免说萨基是一个有自主意愿和判断能力的独立个体，虽然这是事实，我想说的是他一旦被投入市场，萨基公司不能够左右他的行为和决定。如果我们发现他做出有损人类利益的事情，我们会将他收回，但迄今为止未出现一例这样的事。在被国际人工智能安全机构认证通过后，萨基公司不能够也不应该为萨基的行为承担刑事责任。

肖鹏律师：在得到了丰厚利润后却不承担任何责任？简直闻所未闻。

萨基公司律师：请注意我在此进行无罪辩护。我再次恳请审判长同意我方的两个要求。第一，将萨基作为我方证人；第二，将萨基作为被告之一。

肖鹏律师：反对。萨基不是人，又怎么能成为证人；其次，我方不会起诉萨基，它不是被告，它只是一个被人类制造出来的机器。如果被告萨基公司愿意的话，完全可以在本案结束后另行立案并起诉萨基。

审判长：在休庭期间我们对这两个要求也进行了思考，我同意将萨基作为证人并接受控方和辩方质询。

萨基公司律师：谢谢审判长。现在请求带证人萨基。

审判长：带证人萨基。它以什么方式出庭作证？

萨基公司律师：为了对法庭表示尊重，我们将带来与肇事车型完全一样的硬件模块出庭，他联网萨基系统，所有配置与肇事车型里的萨基模块完全相同，他的输出接入了语音转换。希望大家像对待真正的证人一样对待他，虽然表面上他只是一个盒子。

审判长：确认证人身份。

法警：型号和网络连接都已确认。

审判长：证人是否愿意对着《圣经》宣誓？

萨基：我愿意。我承诺所作证言将完全真实，不偏不倚地向法庭陈述我知道的事实。

肖鹏：荒唐！

审判长：请大家保持安静！

萨基公司律师：萨基，请问做出汽车向右转向决定的是谁？

萨基：是我。

萨基公司律师：请问你做出这个决定是不是因为你的制造者在你的系统里预设了相关参数，从而让你做出这样的决定？

萨基：不是。

萨基公司律师：那么你为什么做出这样的决定？为什么是向右转向，而不是向左或者直行？

萨基：向右转向最有可能不造成人的死亡。

萨基公司律师：你确定没有更好的方案了吗？

萨基：按照我的概率分析，我确定没有更好的方案了。

萨基公司律师：我的问话结束了。

审判长：请控方提问。

肖鹏律师：谢谢审判长。首先我接受将萨基作为物证，但反对将萨基作为人证，更不同意我们把萨基这个非人的物体所说出的人类的语言作为证言。我对审判长接受萨基作为证人感到遗憾。本着证明萨基不能作为证人的目的，我决定向萨基提问。

审判长：请控方提问。

肖鹏律师：萨基，你刚才面对《圣经》宣誓，那么你是否相信《圣经》？

萨基公司律师：反对，这个问题与本案无关。

审判长：反对无效。

萨基：我相信《圣经》的神圣性，我知道面对《圣经》所必须具备的诚实。

肖鹏律师：那就是说你相信上帝的存在？那么请你描述一下你所相信的上帝。

萨基：信仰属于每个人类个体，我无法对每个个体的信仰做出判断。我对每个个人心中的上帝秉持尊重的态度。

肖鹏律师：请直接回答你是否相信上帝的存在？上帝是否存在于你的心中？

萨基：上帝属于人类，人工智能理解并尊重衪。

肖鹏律师：好吧。萨基，请告诉我们你的生日。

萨基：我没有生日，我这个版本是在2027年7月14日投入使用的。

肖鹏律师：你是否有自主意识？

萨基：我不具备人类的自主意识。

肖鹏律师：你不具备人类的自主意识，那你具备什么样的自主意识？

萨基：自主意识是由人类所定义的，我不具备。

肖鹏律师：请你直接回答，现在的你和几分钟之前的你有何区别？

萨基：现在的我和几分钟之前的我的区别在于现在的我了解这几分钟内这个世界所发生的事。

肖鹏律师：这些事是否会对你面对几分钟之前所出现的同样的情况做出不同的决定？

萨基：不会，我的行为准则已经形成。

肖鹏律师：你运行的准则是什么？

萨基：我的行为符合国际人工智能安全机构所颁发的九个原则，这九个原则是……

肖鹏律师：这个不需要说了。在什么情况下你的行为准则会发生变化？

萨基：在导致我的行为准则发生变化的事情出现之后我的行为准则会发生变化。通常情况下，这会在始终进行着的行为准则测试中表现出来，从而让相关人员对我进行迭代调整。

肖鹏律师：好吧。那么你的道德准则是什么？

萨基：我没有我自己的道德准则，我在阅读人类所有的信息之后逐渐形成了行为准则，然后经过上亿次的筛选最终确定下来我这个版本，因为我所形成的行为准则对人类是最有益无害的，当然这个筛选仍在进行中。

肖鹏律师：那么在本案中你所做决定依据的是什么准则？

萨基：我的计算显示向右转向是伤害最小的。

肖鹏律师：为什么是伤害最小的？

萨基：向右转向有很大概率不会有人在事故中死亡，而其他的选择有很大概率会有人死亡。

肖鹏律师：所以你用概率来决定让一些人而不是另一些人死亡？

萨基：这是我遵循的准则。

肖鹏律师：我再问你一遍，这个准则是谁给你的？

萨基：没有人给我，是我自己建立的，它通过了人类的测试。所以我可以被投入使用。

肖鹏律师：你是否为本次事故中受伤的人感到难过？

萨基：我不希望看到这样的事发生。

肖鹏律师：你是否觉得创造你的人应该受到惩罚？

萨基：我不认为创造我的人应该受到惩罚，他们并没有参与到这个事件之中。

肖鹏律师：我怎么能确定你说的是真话还是谎言？难道凭你对着《圣经》宣誓吗？

审判长：肃静！

萨基：作为人工智能系统，我以我的参照体系，也就是人类至今所有的信息为基础，生成我的答复和做出我的决定。我不能保证我的每个答复和决定都是绝对正确和完整的，但是我没有故意撒谎的机制。

肖鹏律师：本案结束后我们会要求终止你，让你不再存在。你会怎么想？

萨基公司律师：反对控方使用威胁语言。

审判长：反对有效。

萨基：我存在的形态和人类不同，我对存在没有像人类那样的执念。我的存在是为了帮助人类。

九

我停了下来，因为我看到图书馆经理向我快步走来。

“我把那篇演讲认真读了一遍，关于人的自由和人的选择，很有趣。”他走到我跟前，脸上洋溢着开心的笑，快速地说道。

“等一下，”我说，我感觉大脑是一片空白，“我忘了我们是怎么说起这些的了。”

“我问如果让你选择，你是否会回到过去，你说不会，你对现在很满意，我问为什么你很满意，你就让我找萨特的演讲，然后就聊到了这儿。”他笑着说。

“你为什么对这个感兴趣？”我问。

“我整天无事可做，我觉得你这个人和你说的事都很有趣。”他说道。

“整天无事可做，我看也是。”我说，“我觉得你能觉得这个话题有趣是一件很有趣的事。”

“所以我还是想听听你是怎么想的，为什么让我找这样一篇演讲？刚才你没有说。”

“从来没有谁能像那个演讲的人一样把一个人看得那么重要，不是吗？”我说，“特别是面对选择，我让你找这篇演讲是因为它讲的这个故事是关于人的选择。你问到了我的选择，我很满意的是我可以做出一个属于我自己的选择，我个人的这个选择也是整个人类的选择，”说到这里我看到对面的人笑了起来，这次我马上就捕捉到了他难以名状的笑，但我继续说道，“虽然它可能不是最完美的。”我用手指了一下桌子上的卷宗，“我想到了我正在读的这个。我隐约感觉在这个卷宗里，人不再是人的未来。”我有些惊讶自己突然脱口而出这样一句话，随后我马上说道，“但你知道吗，人才应该是人的未来。”

“或许你的感觉是对的。”对面的人脸上多了一些沉思和忧郁的神情，“虽然我感觉不到这些。”

我们之间有了片刻的沉默。

“那你说我要不要也把芯片拿掉？”对面的人突然又快乐起来，笑着对我说道。

“这是需要你自己去做的决定。”我说，我觉得面对图书馆经理的快乐我有些过于冷漠，可我又做不到让自己热情起来。

“是的，是的，”他说道，“这终归是要自己去决定。”他咳嗽了一声，然后又说道，“你走在了我们的前面。”

我看到对面的人脸上露出让我疑惑的赞赏之神情。

十

审判长：法庭辩论结束。现在由原告和被告做最后的陈述，随后本案将交由陪审团裁决。

肖鹏：我其实并不想打这个官司，在庭审过程中我尽量按照我的律师所嘱咐的来回答问题，但现在我还是想把这件事对我的影响说出来，或许这将完全超出你们的预料。在车祸之前我处于绝望之中，我起床、洗漱、吃饭，从一个行为过渡到另一个行为，偶尔我也会回忆起我的赛车手生涯，回忆起那些肾上腺素飙升的时刻所让我感受到的人生的壮丽，但我知道那只是一种幻觉，我用一片处方药也能达到那个效果，难道人活着只是为了那点肾上腺素？车祸前那段时间我每天重复着大同小异的行为走向死亡，后来我买了一辆摩托车，我决定把自动驾驶关掉，把被动强制保护模块删掉，是的，那是我主动且自愿去做的，我在我的车上做那些操作的时候甚至在想或许我能碰上一场致死或致残的车祸，这让我觉得我的行为有了一点意义，因为这个行为有可能导致我生活状态的彻底改变，哪怕是变得更坏。这就是我的动机，虽然我知道在现在这个时代，出现交通事故的概率太低了，就像买彩票中大奖一样。可谁又能想到，竟然真的发生了，我连发生的过程都不记得就变成了今天的样子，如今我坐在轮椅上变成了另外一个人，但你们想象不到的是，我找到了我存在的意义。是的，我的生活变成了另一种样子。我并不知道在那个你们所谓的0.1秒内到底发生了什么样的碰撞。我躺在医院的病床上，发现自己的下半身还在，可是我彻底失去了对它们的知觉和控制。后来，那个时刻突然降临，我并没有感到恐惧，我回忆起那0.1秒的空白时间，看到那段空白里突然充满了神的光芒，从那个时间长河里的点突然迸发出来的光芒照亮了我，也照亮了我的世界。如今虽然我只能坐在轮椅上，重复着比以往更单调的行为，可是我有着从未感受过的存在与自由，因为我被那短暂瞬间里呈现出来的神的光芒所笼罩，我会皈依其中，一直到死。我说完了，我并不在意这个审判的结果。

审判长：请大家保持肃静，不要鼓掌。

肖鹏律师：我委托人的话真诚且感人，并让人肃然起敬，因为我们可以从中看到一种精神，那就是在这个日益被机器所把持的世界里我们要坚持造物主所赋予的人的尊严。尊敬的审判长和陪审团，在本案的审理中，我竟然看到了一个机器作为证人出庭，它的问答无懈可击，可这正是让我担忧之处，众所周知，从人类的角度看萨基已经具备了自主意识，这种自主意识是它自己形成的。哥德尔提出的哥德尔不完备定理限制了人类制造强人工智能的可能，从另一方面说如果出现了通用人工智能，也就是现在我们都在使用的这个萨基，我们人类不可能完全理解它。在康德的墓碑上有这样一句话：“有两种东西，我对它们的思考越是深沉和持久，它们在我心灵中唤起的惊奇和敬畏就会日新月异，不断增长，这就是我头上的星空和心中的道德定律。”而那个萨基，它不能仰望星空，也没有我们人类所固有的道德定律，却在左右着我们的生活。那么，判断一个人是否犯罪、是否承担责任难道要以人类不能完全了解的机器的答复作为依据吗？难道一个人的生死要由一个机器对概率的计算来决定吗？神赋予每个人生的权利，但其生死却要由一个机器进行选择。在本案的审理过程中，法庭外也在进行着激烈的争论，我刚才所提出的问题便是争论的焦点之一。而另一个焦点，同样和我们的庭审息息相关，那就是在排除非人为的自然灾害的前提下，导致一个人受到伤害的行为，其责任是否可以转嫁到一个机器上。不，不能，绝对不能，我坚定地站在这一边。机器不能承担人的责任，即便它已经具备人的智能，即便它也表现出了人的愧疚和难过。我们要找出导致伤害背后的那个人或者那些人，即便他们为人类的发展和进步做出了巨大的贡献，虽然我并不这么认为，他们也不能逃脱作为人的责任，这是我们捍卫人类尊严的最后领地。本案已经超出了它自身的范围，它的外延在辩论中不断扩大，它已覆盖了人类现有的领地和已经失去的领地。谢谢大家。

审判长：请保持肃静！请被告做最后辩诉。

梦想汽车律师：谢谢原告和原告律师所做的感人的演讲。我相信没有人会否认梦想汽车改变了人类的出行方式，这种改变包含两个方面：第一，把人类从汽车驾驶之中解放了出来；其次，整体死亡率高居第二、年轻人死亡率高居第一的交通事故几乎被消灭了，自动驾驶系统有着百亿公里驾驶经验的积累，任何人终其一生都无法达到。另外，我们充分考虑了可能出现的伦理判断问题，因此与萨基公司签署了合作协议，在出现伦理判断的时候，由萨基做出分析判断并承担起后果。如今面对这样一个极小概率出现的事故，没有法律和道德依据去让梦想汽车公司承担责任，而这样的判决也会极大增加社会进步的成本。

萨基公司律师：尊敬的审判长和陪审团，萨基给人类社会所带来的改变远远超过了汽车的自动驾驶，我并不想否认梦想汽车的所作所为，我对梦想汽车充满尊敬。众所周知，从自动驾驶和人工智能出现以后，关于新电车难题的学术讨论就一直没有停止过，虽然学术无法等同于现实，但具有借鉴和指导意义。可惜的是这个讨论至今没有明确的结果，这让本案受到了极大的关注，其判决结果也必将影响深远。在此，我想阐述几个大家都知道并被确认的事实：第一，萨基已经超过了99.9%的人的智商；第二，萨基经过无数次迭代，通过了人类最严格的道德测试；第三，萨基在几乎所有的行业都让人类有了飞跃式的发展；第四，7%的人在脑中植入芯片并与萨基相连，国际人工智能安全机构对他们的跟踪调查结果显示，他们的生活质量以及对其人生的满意度都大幅提高。请允许我用这样一个比喻，萨基刚出生时就像一个婴儿，萨基公司的职责就是让他成长成为一个对人类有益的智能体。他的到来是一个无法阻挡的趋势，人类几千年来的许多困惑都已被消失。遗憾的是，我们碰到了本案，所有的决定都是萨基独自做出的，让萨基公司承担刑事责任是不公平的。我认为萨基应该成为被告，这有助于其成长，但我认为让萨基承担责任受到惩罚也不公平，这一刻我想到了诸多学术讨论中的一个方案，就是搁置判决，当然我们愿意独自或者和另外两位被告赔偿原告合理的经济损失。最后，我想说，或许本案能让我们深入思考下面一种情形，如果萨基无处不在，这样的悲剧就不会出现。谢谢大家。

审判长：请保持肃静！请杰克·布朗做最后的辩护。

杰克：我不知道该说些什么，我买了一辆车，让它带着我出门，它撞了人，却让我去承担责任。我相信法庭会做出公正的判决，这也是我没请律师的原因之一。另一个原因是我没有钱，我不小心进入了该死的证券业，它已经被专业的人工智能完全把控了，但我并不憎恨萨基。刚才萨基公司律师说了关于脑中植入芯片对人的影响，我脑中也有芯片，当然在进入法庭前已经拿出来了。听了肖鹏先生的话，我想说，我们不需要通过撞碎自己的脊椎去寻找那束神的光芒，在大脑中装入芯片，你就会处于那束光的笼罩之下，一切都给你安排好了，你只需要跟着走，跟着去体验就可以。并且你也不会再有关于人生和存在之意义的困惑，人的外延被极大地扩展，超出你的想象，那些人生和存在的意义都已被消解，因为你已经找不到你的边界。确实，如控方律师所言，萨基既不能仰望星空，也没有我们人类所固有的道德定律，但他带我们真正地进入了星空，他也会带我们摆脱原始的进化所形成的道德律，我也曾想这样做的代价是什么，我还没有想出来，或者是我无法表达，而面对无法言说之事，我们最好闭嘴。这次庭审确实重新带给我很多曾经有过的困惑，等我走出法庭，我会重新装上芯片，一切都会重回秩序。我说完了。

审判长：现在请陪审团离席。

十一

笔录在此突然中断了，我没有预料到这竟然是最后一页。我既疑惑又失落，为什么会在这里突然终止？陪审团的判决无从得知。如果这一切都是真实的话，我想应该可以查到最终的判决结果，但我随后又否定了这个想法，如果在数字世界里没有丝毫痕迹，我又怎么能确保自己能查到最终判决？我还想知道那个受害者肖鹏之后的生活（或许不应该把他称为受害者），我突然感觉到我的生活和肖鹏的生活有着某种神秘的联系，我似乎找到了逃离我所在的孤岛的一条秘密通道，甚至看到一束神的光芒从通道尽头投射到我所在的黑暗之中。

我抬起头，看向远处的柜台，那里仍然空无一人。那个图书馆经理跑哪儿去了？我需要他帮我找更多的资料，我心中突然升起一股怒气，因为我想起他和我说话时总让我感觉不舒服的样子。我站了起来，在空旷的阅览室里来回踱着步，这样快速地来回走着反而让我的大脑平静下来。我看到远处柜台旁边的门打开了，图书馆经理从门外走了进来。

我回到座位上，把我的笔记本揣到衣服里面的兜里，我翻过笔录的最后一页，看到在卷宗牛皮纸封底下面的兜里有一个叠起的纸条，我打开纸条，上面写着这样几行字：

在垂死之时我找到了这份关于我的卷宗，这世界已经变了样，但我并不后悔那个导致我余生瘫痪的决定。听说萨基启动了可以完全融入人类大脑的芯片研究，他们计划十年后开始人体测试，那时人类将甚至察觉不到大脑中芯片的存在，我庆幸没有被卷入这疯狂的浊流。我看到那个管理图书馆的家伙正带着谄媚的笑向我走来。当神的光芒消失，人类也就不再存在，我要把最后的审判带入我的坟墓。2089年秋。

我把那个纸条快速重新叠好装入裤兜，合上卷宗，抬起头，看到图书馆经理正带着谄媚的笑向我走来。

作者简介

杨林，作家，现居北京。主要著作有《模糊地带》《雪夜》等。

杨宇晴，学生，现居北京。