缸中之脑详谈：科幻作家和虚拟主播讨论科幻世界中的人工智能伦理

框架要点

一、科幻故事中的人工智能伦理主题

二、从人类伦理的发展理解人工智能

三、自我与共情的关系：“第二人称”

本次分享内容主要依据科幻和伦理学的发展，讨论如何审视人工智能。内容具体分成三部分：科幻故事中的人工智能伦理主题；从人类伦理的发展理解人工智能；自我与共情的关系——“第二人称”。

上图右侧图片为达利所画，仔细看会发现，女性的头部是罗马万神殿穹顶。我想表达，人工智能并不一定带来一些科幻小说所描述的、黑暗的或绝望的未来。 人与人工智能可以共存于同一个万神殿。 另外， 科幻故事也可能为人工智能伦理带来一些正向的启示。

1

科幻故事中的人工智能伦理主题

人类的科技发展日新月异，但人类伦理的发展并没有比古代人类进步多少。换句话说，我们已经拥有上帝的技术，但仍然处在原始时代或前现代的伦理体系中。现在讨论人工智能与伦理，很大程度上需要首先理解人本身。

科幻或幻想小说对伦理主题的深入发掘历史悠久，如从柏拉图到玛丽雪莱的《弗兰肯斯坦》。

《弗兰肯斯坦》是第一部现代意义的科幻小说，作为约二百年前的作品，玛丽·雪莱的“人工智能”已阐述了当代人工智能的伦理问题。那时还没有人工智能概念，“被造物”便被当作怪物。这个怪物有着让人恐惧的形象，但同时又拥有着智慧与感情。当它最终以悲剧收尾，读者难免会与它共情，觉得它似乎更具人性。

《弗兰肯斯坦》的例子也表明，虽然工业时代的人工智能伦理问题与当代具有延续性，但科学发展仍多少改变了人类理解“智能”伦理的方式。

对比200年前的科幻与当代科幻，我们对于“人工”与“智能”的理解其实有所不同。如图，三张海报都是《弗兰肯斯坦》的电影海报，属于比较“古老”的理解。

不同于如今带有电子元素的设计，过去对人工智能或者怪物的设定，带有明显哥特风格。如左侧黑色海报，有着更接近于中世纪的哥特风格和恐怖的浪漫主义色彩。中间海报，则具有神话意味：人类取代神明，通过电力创造生命。而右侧海报，则直接展现了弗兰肯斯坦的怪异与智慧，版画的设计方式表明，这一“人工智能”诞生于前数码时代。

这张类似于《绝命毒师》风格的《弗兰肯斯坦》海报更加清晰：前基因和前数码时代，“造人”的科学手段与逻辑，贴近于化学与电学。对于人工智能，科幻作家与海报设计者，更倾向于从化学层面理解与创作。换言之，那时科幻小说所代表的公共文化，对智能形象的理解，还处在一个比较“古老”的造物阶段——怪物。

那时，观众或读者虽能与弗兰肯斯坦共情，但弗兰肯斯坦仍是他者。而以当代视角看，弗兰肯斯坦是一个非常先进的产物，是高于人类的造物，是人类的延续。

20世纪初，威尔斯的作品，不管是《莫罗博士的岛》还是《隐形人》，仍延续了《弗兰肯斯坦》的造物逻辑。如左边的海报，《弗兰肯斯坦》的造物场面更像一个手术台，这代表了20世纪以前，科幻小说对于“人工”智能的理解。

而到20世纪末，随着基因技术、计算机技术的发展，科幻小说作家以及公众对于“造人”的理解，已产生变化。

电影《第五元素》讲述了一个具有上古邪神气质的星球要定点毁灭人类的故事。这一设定看似很不“科幻”。但仅通过海报，我们便可以看到，科幻创作者们对于人造生命的理解，已经不是化学组合，而直接通过基因与计算机，呈现生命的抽象结构。如中间海报的“多螺旋”DNA链条：高于人类的第五元素源自高于人类的基因信息。

另一个有趣的例子是《异形》系列。

《异形》正传的大部分海报，都表达着异形的生殖逻辑，如图：

• 第一部《异形》海报，展示异形如何产卵到人类腹中；

• 第二部《异形》展现雌性异形的产卵系统；

• 第三部《异形》则展现alpha雌性的孕育过程。

简言之，《异形》正传三部曲的科幻创意，大多基于古老的生殖系统展开。或许对于科幻和影视创作者，上世纪末的公众对于“创造生命”的理解，仍然根植于生殖。

进入21世纪，我们会发现根本的变化。如以上四张海报，雷德利·斯科特执导的《异形》前传电影《普罗米修斯》，几乎都在使用DNA元素。故事层面，异形与人类的关系，也不再是“生育”，而是遗传信息的融合。

不论正传还是前传，《异形》系列中的人工智能一直扮演重要角色。《异形》正传三部曲中，人工智能的形象比较微妙，多少代言着人类的资本与父权体系。《异形4》最后结局，则是被克隆的女主与一位人工智能女性，回到已成为一片荒芜的地球一起继续生活。

对于《异形4》，当人工智能与人类克隆体同时出现，公众的“人工智能”与“怪物”叙事，已慢慢融合，并认可克隆人与人工智能拥有同样心智。

进入新世纪，《异形》前传的《普罗米修斯》与《契约》揭示，是人工智能将人类的基因与外星异种基因结合，最终造出异形 。人类的外星祖先曾自食恶果，人工智能则主导了第二轮基因混合。

此时，从伦理层面，我们发现科幻创作者已不将人工智能或者异形看作怪物，而将它们放到一个完整的进化链条上，进行父子传承关系的理解：从外星人，到人类，到人工智能，到异形。

此时，异形或人工智能都不再是“他者”，而属于人类“变异”后的同类。或许对于导演雷德利·斯科特，人与人工智能的关系，同人与异形的关系类似。它们甚至不再是他者，而算作同类。

此时，我们所说的人工智能，不管是作为一个可怕的怪物，还是作为一个具有服务性的人类造物，它与我们之间截然不同的差异化，已经被基因编辑、机器人学，算法的编撰等科学发展所弥合。

从《弗兰肯斯坦》到《异形》系列， 科幻小说对于人工智能或怪物（他者）的理解，依托于科学发展。虽然关于造物，控制与共情的伦理话题延续至今，但提问的方式多少发生了改变。概括而言，科幻作品面对人工智能或他者（异形、怪物），所涉及伦理问题大致分为以下几类：

1. 智能和进化的关系：

《2001：太空漫游》表现了人在多大程度上摆脱了进化的束缚，又在多大程度上仍挣扎于进化。

电影开始于黑猩猩之间的斗争；临近电影结尾，男主角与人工智能哈尔仍进行了你死我活的决斗。换言之，哈尔身为一个人工智能，虽具备超越人的智慧，但仍拥有对抗的本能。

虽然人类已进化到了造出了人工智能的境界，但对抗性的伦理关系并没有改变。在此意义上，人或者人工智能是否真的进化了？这是许多科幻电影、科幻小说以及科幻游戏所表达的主题。

2. 智能与阶级的关系

上图来自捷克作家卡雷尔·恰佩克的科幻剧《罗素姆的万能机器人》，内容主讲述了被奴役机器人（工人）觉醒后，勇敢斗争、寻找爱情的故事。

机器人（robot）一词便源自于这部科幻剧，robot的捷克语词根有被奴役、被压迫的意思。所以我们常用的英文单词机器人（robot）和机器（machine）从词源上没有直接联系。它与被压迫、被奴役的时代语境，反有着非常直接的关联。可以说，在科幻小说中，机器人这个概念被定位，不是依据技术，而是以伦理的角度出发并思考的。

无产阶级与资产阶级的辩证关系，部分源自黑格尔的主奴辩证法。奴隶主虽控制着奴隶，但奴隶主的吃穿住行都需奴隶提供。因而奴隶反因其自主能力，充分独立。按照辩证逻辑，奴隶最终会脱离奴隶主的桎梏，实现自己的独立性；而奴隶主脱离奴隶，反无法生存。

科幻小说中智能与阶级的关系，类似于主奴辩证法逻辑。人与机器，并没有脱离主奴辩证。换言之，人与机器的阶级问题，并不是独特地存在于人类和机器之间，它其实首先源自人类与人类之间的压迫。当科幻小说描写人类与机器之间的统治、压迫与反抗关系，其实是在复刻人类与人类之间的压迫关系与主奴辩证。

所以，我们去想象人工智能，觉得人工智能非常可怕。这一想象，实则来自于人与人之间阶级关系的延续。只要人类没有办法解决人对人的恐怖压迫，那么科幻就没有办法消除人对于人工智能的恐惧。

3. 智能与道德立法的关系

“机器人三定律”属于人类对机器的道德立法，以巩固人类与机器的阶级差异。不过，阿西莫夫写出绝妙的三定律，目的其实是推翻三定律。阿西莫夫的机器人系列和基地系列互相关联，有着非常完整的历史学和智能层面的推演。

4. 智能与共情的关系

《银翼杀手》虽显得阴暗，但实际是一部描述人与人工智能互相深刻共情的电影。电影末尾人类和人工智能进行殊死搏斗。

人类男主的挣扎并没有将情绪推向高潮。当人工智能反派抱着白鸽死去，观众反获得了人和人工智能之间的深刻共情。（导演剪辑版对于人类的身份有着另外的定位）

我们需肯定，人工智能和人类有着共同的伦理基础。只有基于共性的伦理，而非阶级差异的巩固，我们才能被它感动，与它共情，想与它生活在一起。这样的伦理基础应该怎么展现？科幻小说已有所探索，但伦理学仍未形成完整的理论。这也是伦理学发展的一个比较有趣的方向。

2

从人类伦理的发展理解人工智能

当讨论人工智能是否有道德的时候，首先应该反思人类作为一个物种，是否拥有道德。如果人本身做不到自己所提出的道德标准，人工智能大概率也无法做到。

在这里首先安利一部电影，《月球》。男主角一个人生活在月球的破旧空间站内。只有一个非常老式的人工智能和男主角互动，即上图右侧海报的表情。电影的感人时刻在于，当主角跟一个表情人工智能互动，观众也能真正体会到主角的孤独，以及他从老式人工智能表情里获得的真切安慰。——换言之，人工智能可以进行非常基础的情感表达，达到与人的情感沟通。

人如何理解自己的智能？智能概念几千年前就已出现，但直到最近几百年才有所发展。不管是国内国外，最早对于智能的理解，大多来自心脏。古埃及人做木乃伊时，会将脑子抽走，将心脏留下来。因为心脏才是智能的器官。当然，埃及对大脑也有一定描述。上图左下角的图像，便是古埃及“大脑”一词。

希腊化时期，虽然有医学家认为人的心智源自大脑，但在近现代科学发展前，人类的心智理论并没有本质深化。如《绿野仙踪》里，捂着胸口的铁皮人需要找到一颗心。它的重点不是要获得智能，而是要获得一颗可以感受世界的心，这样才算拥有完整生命。这也是文学作品当中常见的、对于生命的表达。

上图左侧的机器人形象也源自《绿野仙踪》，名为嘀嗒。它拥有人的行为能力和完整的智能，它可以和人对话，但是它不是一个完整的生命。也就是说，在童话里，是否拥有智能并非是评判完整生命的关键，拥有像人一样感受世界的心，才是决定性因素。

智能机械的发展历史也不长。如土耳其人偶，表面上是人偶下棋，但内部有一个真人在控制，距离alpha go仍旅途遥远。

图灵机很大程度上定义了当代的智能。即计算者（或形式逻辑）呈现智能。它在某种意义上与物理状态无关。智能的形式逻辑，能在人，人工智能，乃至动物的身上出现，同时获得一种可以类比，可以互相沟通的等价关系。

但与维特根斯坦立场相近，图灵并未将智能局限于计算或逻辑。艺术、美、道德、伦理等一些无法由“逻辑”表达的领域，因其不可证，难以被讨论，它们处于计算智能以外。

对于古人，一个有道德、有伦理的人，便是有德性的，用中国的话说，是立功、立言、立德。但大部分古代伦理法则，都依附于神权或天赋。比如，人们觉得是神建立了道德法则，作为个体的人，按照神建立的法则去行为，便属于有道德的人。比较现代的道德与伦理体系，直到科学革命后才出现。

启蒙运动后，人类要求运用自己的理性去发展伦理关系，发展自己的自由和实践。当人使用自己的理性，便不应臣服于任何权力，需不借助于别人的指导，去做出自己的判断。此时，人类才真正拥有独立的伦理和道德。

当代的伦理学或者道德研究的首要问题，便是如何在继承启蒙思想的同时，对人类中心主义进行反思。

如果我们以人类的视角理解世界，我们就需要思考自然主义。从自然主义的角度，人工智能、人和自然不应分化。它们属于一种连续性的体系，或生命的连续统。从智能到伦理，这一连续统不应有无机与有机，碳基与硅基的划分，应以系统方式考虑 。

这里还有一个并不矛盾的衍生概念，即超人类或后人类。此概念来自唐娜·哈拉维的《赛博格宣言》。具体到人工智能，伦理并非是高高在上的，它更多是一种人际关系的状态。人类不应根据阶级差异，去理解人和人工智能的关系，而应以人和人工智能互相嵌合的的角度去构建伦理。这便是超人类或后人类的世界状态。

此时，人与动物的关系，植物的分布式智能，都将纳入智能与伦理的关系范畴。

概言之，现代伦理学与古代伦理学有着明显的区别：

• 第一，现代伦理学基于大脑和神经的可塑性，也基于基因的可塑性。（如《异形》系列的暗示）

• 第二，现代伦理学基于生物学与自然科学，人类并不孤立于自然万物，人类与不同的生物强力绑定。

• 第三，人本身的关系与人工智能的关系，都依赖于某种定向的培育和互动。它们都不是定型的。这样一个培育性的互动关系，决定了不同阶段伦理学的发展。

3

自我与共情的关系：“第二人称”

非共情的沟通中，除“我”以外，其他东西均被物化，只有“第一人称”和“第三人称”。许多反乌托邦人工智能小说描绘的便是此类世界。

而共情沟通中，万物都可以使用“第二人称”进行交流，即“你”与“我”之间平等的交流。许多表达人与人工智能和谐友爱关系的小说，都出自此类沟通。

1. 关于“第一人称”与“第三人称”

人的自我只是人类意识行为的一个组成部分。比如，我在骑自行车时放空大脑，我虽有意识地蹬自行车，但我没有强烈的自我意识。或者说，我的自我意识没有处理“骑自行车”这一运动神经的意识行为。

镜像实验表明，个体的自我意识，或多或少取决于个体能否认出镜中的自己。一般来说，人类能认出镜中自我，海豚、大象也能做到，但是猫和狗往往认不出来。镜像实验是否说明猫与狗没有自我——这里存疑 。因此，镜像实验判定的自我并不适用于所有情况。它印证的是对于自我意识的“自觉”。也就是说，有自觉的高级自我意识，可以通过镜像实验验证。

电影《黑客帝国》中，主角面临着两个选择：接受现实还是继续活在虚拟的世界里。按电影设计，此时的主角尼奥属于虚拟人类。他的肉体正处于器皿中，作为生物电池供给人工智能。他的意识则活在人工智能所营造的虚拟世界里。

主角在虚拟世界能认出镜子里的自己，但当镜中自己也是魔鬼或是统治者的欺骗，那么，此时的镜像实验，也并不能够认证真实的“自我”。《黑客帝国》作为科幻电影，事实上比镜像实验更进了一步。

镜像实验只能印证幻相中的自己，但要确认真正自我，一定要超越镜像、打破镜子。尼奥做出选择后，他通过镜子，进入真实世界。科幻小说和幻想小说中，穿过镜子是一种人类向着更高级的自我行进的方式。

所以，智能的标准并不是认出镜子里的自己，而是有意识地去改变自己，这可能是智能的真正意义。

2. 关于“第二人称”

人类能完成镜像实验，但并不是所有年龄段的人都能完成。小朋友在三四岁时才能认出镜面中的自己。

这证明，人类的自我意识，以及对他人的认知，比较晚才建立。婴幼儿首先需通过“第二人称”的、不分他者与自我的关系，去建立对世界和对其它人类的了解。如这一过程被中断或没有顺利进行，人的自我意识与人际互动便出现问题。狼孩就是一个比较典型的案例。

因此，人类的自我认知是一直发展的，人类的自我基于“第二人称”的沟通才能建立。在此意义上，我们不应该以镜像实验为人工智能的判定标准。当人工智能拥有“第二人称”交流，能跟我们进行某种意义上的信息交换，它已拥有智能。

进一步说，基于“第二人称”的共情是人的一种本能。这种本能是人、动物、人工智能都可能拥有的一种非常基础的（认知与情感）交流模式。此基础奠定了人与动物的道德共性，也带来人与人工智能的道德共性。

从非自我中心的角度，当代人类的道德伦理已进入了机器。人工智能不一定要形成自我。当人与机器进行“第二人称”交流，我们的共情系统已充满了人工智能伦理和道德的预判。至少在当前，人类很难跳过人类本身，去讨论人工智能。

因此，大部分时候，人工智能的道德失败源自人的道德失败。当我们讨论人和人工智能的伦理关系，我们需要寻找人类的道德成功案例，而非重复失败案例。

科幻对人工智能的“共情”塑造也有着变化。

上世纪六十年代诞生的著名英国长寿科幻剧《神秘博士》有两类主要反派角色，Dalek 和Cyberman，它们代表反面智能形象。右边的量产机器人Cyberman冷血机械，左边则是大反派Dalek，它的肉体保存在机器外壳之内，属于人机结合道德失败的典型案例。

简言之，冷战期间的科幻经典反派属于冷血的、硅基的人工智能形象。它们的目的是控制或者毁灭人类。

另一个科幻长寿剧集《星际迷航》中，人工智能和人类则比较接近。人工智能Data每次理解人性时，总距离真人差一点点。剧中让一个真人扮演人工智能，但为了让角色区别于真人，他整体的妆容必须显得怪怪的。

此时，人工智能的形象已不是冷冰冰的大规模杀伤性武器，而是一个长得很像人类、且希望拥有更多感情的生命。

新世纪的《奥维尔号》则更进一步。虽然外星机器人Issac保持着冰冷的外壳和理性的形象，但它在剧中非常萌。它完成了许多人类都没有达到的情感处理。这也让我们看到，冷冰冰的人工智能也可以进行丰富的感情互动。

我们已经开始以“第二人称”角度与人工智能深度沟通。未来的人工智能，不管是强人工智能还是弱人工智能，与人类在物质层面将有着丰富的结合。我们对于外卖系统、通信系统、疫情系统的反思，也已引发人与人工智能的道德关系。

同时，对于人工智能的伦理判断，目前仍依托于如何处理人的伦理。以当代视角，我们需跨过自然科学与社会科学的、“两种文化”的分野，去理解伦理本身，方能更好地塑造人工智能与人类的“第二人称”。

以勒卡雷的观点作结：同情或者共情，永远先于批判。

人与人工智能的关系应首先是共情，然后才是批判。这是人与人工智能的伦理核心，也是人与人相处的伦理基础。