36氪专访 江波：AI 拥有自我意识的未来，并不可怕

还记得前段时间谷歌研究员称 AI 已经产生了意识、具备了人格的新闻吗？最近基于机器学习模型的 AI 画作“以假乱真”，几秒钟内生成一幅画作，甚至赢得艺术大奖的事又让人不由得倒吸一口凉气——一个被人工智能定义的未来似乎已经触手可及。

在技术不断飞奔向前的同时，对于人工智能、人类自身与人工智能的关系、人类在这场变革中的角色等问题的思考，也在时刻塑造着人类自己。从小说《我，机器人》《2001：太空漫游》到当代剧集《爱，死亡和机器人》，人们对于人工智能话题的关切和思考，往往反映在了各个时代的优秀科幻作品中。清华大学微电子专业出身的作家江波，将自己从一个理科生走向科幻文学创作之路这件事看作是“命运的一部分”，他最新出版的科幻小说集，也可被视为我们这一时代对人工智能探索的最新注脚。

在有关人工智能能否产生意识、人工智能发展的前景如何等问题的论争中，科幻作家江波属于坚信“人工智能终会拥有自我意识”的技术乐观派。他甚至用9个故事串联谱写了一段属于人工智能的未来断代史，并将其命名为《未来史记》，试图借助一个未来的视角，回看我们当下的人工智能道路。

江波相信，在人类历史的前两次工业革命和信息革命之后，人工智能将会引领一个影响深远的“智能革命”，从根本上颠覆人类社会的现有形态。尽管一个人机共处的世界在江波看来是我们终将抵达的彼岸，但他认为人类在此过程中能做的和思考的还有很多，包括如何对待人工智能，怎样让它们进行学习，能否让它们明白并接受人类的价值观……如果人工智能终会形成自我意识，那也并不意味着人类的末日随之到来，而重要的是这6个字：赋机器以文明。

江波

作为湛庐现实科幻系列中的作品之一，在《未来史记》近日上市之际，江波接受了36氪的采访，以下为采访实录，经编辑：

36氪：说说您写作这本书的背景、契机和目的吧。以及书名中的“史记”，您觉得在何种意义上这样的科幻虚构作品也是一种史记呢？

江波：这本书诞生的背景是当前的人工智能热潮，尤其是2016年阿尔法狗战胜人类冠军李世石这样的标志性事件。它是一个中短篇合集，这些小说的创作贯穿了我的整个写作生涯，但以系统性的思考把它们串联在一起，则是这本书的创新。

历史记录的是过去的事件。从未来的视角来看，我们今天视为未来的事物终有一天也会变成历史。所以这里虚构的是一个未来视角。史记作为我们的文化传统，有很多方面可以提供借鉴，借鉴最多的是它所包含的故事。而在我的这本书中，更多的是一种写作结构上的借鉴和文化传统的传承。

36氪：您觉得人工智能演化到一定程度之后，是可以产生自我意识的。这一点现在在人工智能业界和学界是已经有所共识的吗？结合最近谷歌研究员称AI LaMDA 已经产生了自我意识和具备了人格，然而更多人对此是表示否定的，在大众看来人工智能产生意识在当前也是一件不太能想象的事情，您如何看待“人工智能产生自我意识”这件事？您在序言中提出，“智能的诞生，其实是很多本能的叠加”，这句话应该如何理解？

江波：这并没有达成一致的共识。根本原因在于科学界对于自我意识的本质也没有达成共识，那么如何让人工智能拥有自我意识就成了一个富有争议性的话题。也只有在这样的时期，科学界之外的观察人士才有机会提出自己的观点。我显然是支持人工智能会拥有自我意识这一边，因为我对自我意识的本质有一种判断：自我意识是一种对生物本体的识别需要。也就是说，一个机器的智能只要高到能够分别出外界环境和自身躯体，并且有效地指挥自身躯体适应环境，它就拥有了自我意识。

智能是本能的叠加，这个说法的含义在于，我们的躯体时时刻刻都在进行大量的本能行为。而智能的作用，在于让我们落入不同的本能模式。大脑的神经元极大丰富，可以形成众多的神经网络模式，哪一种神经网络模式会占据优势，需要由当前的环境因素结合历史经验来完成，这个过程，就是智能过程。当一个生物只有特定的行为模式的时候，是不会有智能行为的。只有当它的行为模式足够丰富，产生了选择的需要，智能才会登场。

36氪：您也提到，创新是自然界本来就具有的能力，创造新事物并不需要自我意识才能完成，那应该如何鉴别创新与自我意识所引发的创造呢？怎样定义AI的自我意识？

江波：演化的力量已经让我们看到了生命的各种奇迹。人类所进行的创造，也可以认为是在大脑中发生的演化，它有一些必要条件：一个能够动态调节的大脑神经网络，来自外部的各种新鲜刺激。创新的本质，是大脑在尝试把各种事物的映射以不同方式连接起来，最后能够成功的就是创新，不能成功的，或许就是泡沫吧。这和生命的演化有异曲同工的相似之处。如果把人认定为生物机器，那么人的自我意识就是一个幻象，它存在于人的自我定义之中。今天的创新这个词，更多的是指技术上的发明创造，是一种表征。我说的创造新事物，其实说的是它的生物过程，也就是大脑活动的过程。在我看来，人类在创新活动中所表现出来的大脑活动和生命演化的现象，在本质上是同构的，很可能也遵循同样的规则。生命演化的创新在没有自我意识的情况下已经存在，人类在自我意识支配下进行的创新活动，追究根本，也受相似的规律支配。

AI的自我意识，和人或者动物的自我意识一样，只要表现出能够认识到自身存在，并且以行动来改善自身所处这样的行为，就可以认为具备了自我意识。

当然这里还有一个条件，机器的行为必须是习得，而不是赋予的。赋予的意思，在机器上，就是编程好的确定行为。习得的意思，在机器上，就是通过外界影响而形成内在逻辑，最直接的范例就是基于神经网络的人工智能。

36氪：这本书通篇读下来的话，会有一种基调乐观的总体观感，哪怕是在一些略有些黑暗的最后两篇短篇中，您也仍然传递出了一种对于人工智能向善发展的希望（看似邪恶的人工智能，从它们自身的立场来看不过是想要自由；机器之道里人工智能是“人类之子”）。但在普通大众中确实存在一种担忧，即害怕人工智能的发展会不受控制乃至与人类反目、最后甚至走向一种人类自掘坟墓的道路，您认为您持有的这份技术乐观主义是从何而来，它的理由是什么？

江波：这个问题取决于从什么角度来看待人工智能。如果把人工智能建立的社会视为人类社会的延续，那么人类的文明就没有断绝，只是换了一种形态。人工智能可以是人类的后裔，也就不存在什么自掘坟墓。一件事是好还是坏，并不完全取决于事情的结果。结果的好坏更多只是一个立场问题。真正的好坏，在于过程。人工智能取代人类的过程是平和的还是血腥的，这才是我们最终认定的这场替代（如果发生的话）究竟是善还是恶。我并不是乐观，而是希望这场替代能以人类所乐见的方式进行。人类可以自愿选择是否留下生物性的后代，我想这没有什么疑问。那么在一个物质条件充裕，人均寿命极长的社会中，人口的逐渐减少萎缩也是一种可以想见的情形。这种逐渐凋零的社会是否是一种不可接受的衰败？这等于在问，人是否应该为几千年后的社会负责，还是只该为当下的自己负责。不同的价值观有不同的答案，我个人的回答是人类社会最好留下直系后裔来继承文明，然而如果没有直系后裔，那么由人工智能这个旁系来继承，也无不可，只要人工智能能够支撑人类社会以平和无痛苦的方式逐渐萎缩，那么它就有自居为人类继承者的资格。

36氪：您认为人类应该如何赋予机器以文明？当自动学习进化到一定程度后，会不受人类控制吗？

江波：机器建立自己的文明必然是一个学习的过程。如果我们设想人工智能的基础结构就是神经网络算法或者更先进的神经网络算法，那么机器所有的内在行为逻辑都是一个演化结果。没有人能预先决定方向，也无从了解它的内部究竟建立了怎样的一个逻辑。人类在这个节点，所能做的一切，只是尽量把一些对于人类有利的原则以某种形式灌输给机器，希望能影响到它的内在逻辑。这和人类教育后代有些相似，但要艰难得多。因为人类的婴儿，天生就是来接受和人类社会有关的一切，能够很快地学会成人的行为，进而接受主流的价值观。而机器是一种异类。人类想要影响它，还需要设计出一整套特殊的教育方案来。这个有赖于人工智能专家的探索，整体上还是和教育孩子相似，但AI吸收的速度会快得多，产生的变化也会更为不可预期。赋机器以文明，这是一种呼吁，就像我们呼吁控制排放，减少奢靡，保护自然一样，是一种呼吁，一种愿望。它的具体实施，会是一个艰难摸索的过程。可能还没等人类摸索出来，人工智能就已经跳出了人类的掌控。

AI如果能够产生自行吸收信息的能力，就会产生相当强的独立性。至于说是否会脱离人类的掌控，则取决于人类是否设计出高于它的存在体系的安全装置。例如一道电闸。对于产生了“邪恶”思想的人工智能，直接断电后抹除是一个有效的防范措施，可能能防范大多数事故。但哪怕只有一只漏网之鱼，整个防御机制就会宣告失败。从概率的角度，我认为彻底不受人类掌控的人工智能会出现，它以分布式的方式散布于整个网络中，要彻底消灭它极为困难。而且这样的人工智能，也会学会如何进行反击，那就更是一场战争了。

36氪：您在最后一篇中描绘了人类将自己的意识复制、达到永生后，不断与机器的融合却让人类变得暴戾甚至走向了自相残杀的悲剧结局，结合最近大家讨论的很火热的“马斯克称已经将自己的意识上传到过云端”的新闻，您如何看待意识上传这种技术以及它会给人类带来的影响？

江波：我并不认为意识上传有任何的现实可能性。构建一个神经网络，让它不断学习某个人的说话方式，学习他的表情和决断方式，是有可能模拟出一个类似的‘虚拟人’来。但这个虚拟人和本体之间，并不是什么意识上传的关系，而是一种模拟而已。

意识上传，意味着对人的大脑进行全方位无死角的扫描。这在技术上极为困难。更为重要的是，意识和身体是配套的，如果一个意识上传了，相对应的，它必须也有类似的感官和运动器官，否则这个被上传的意识会感觉很奇怪，会陷入各种幻觉和不协调中。而当它重新和环境相协调，可能与最初的那个意识相去万里了。

36氪：有人工智能领域的专家认为，我们应该选择去走一条“人机协作”即协作型AI的人工智能道路，而不应该去发展独立型AI，也有人认为我们无法在人工智能中预置如同阿西莫夫所描绘的“机器人三定律”那样的保护措施，或者如您在书中所言，即使预置了“机器人三定律”也无法保证机器人不作恶，那您认为我们应该选择怎样的人工智能发展路径呢（是否应该继续开发独立型AI）？

江波：阿西莫夫三定律是不可能内置在硬件中的，任何抽象的信条都不可能内置，因为抽象的东西首先就涉及到定义。一些具体的信条倒是有内置的可能，例如我们会本能地恐高。机器人也可以做到这一点。机器人当然也可以做到对任何人形的物体产生保护欲。但这不是定义的人类，而是具体的人类。举例来说，一个机器人可以设计一种回避机制，只要有可能伤害两条腿直立行走的物体，它就会停下。这时，它遇到一个两条腿的稻草人也会停下。那么回避机制就要进行修正，判断稻草人究竟是不是属于人类。如果它能把稻草人排除出保护的范围，那么也就能够把其他特征的人类排除掉，比如一个残疾人。这时候，机器人的保护机制就转化成了对人类定义的设置。甚至可以想象一下，如果机器人被设计成只保护一个特定的人，那么其他人在它的逻辑中，就被排除出了人的行列。这肯定不是我们所设想的机器人不得伤害人类这样的抽象原则。所以将来的发展可能，机器人会有较为强烈的保护机制，让他们不要伤害人形生物，但这并不是抽象原则，而是纯粹的固定反应模式，有些像是本能。

独立型AI总会有人去开发，而我的观点是，只要对人工智能的研究不停止，那么独立型人工智能的出现是一件不可避免的事。它甚至可以在所谓协作性人工智能发展的过程中被无意带出来。

至于它是不是好事，前边的一些回答可以作为参考。

36氪：这本书或者说短篇集与您之前的作品最大的不同之处在于什么？请谈谈您对湛庐出版的这一套包含3本著作的“现实科幻系列”的理解？

江波：这本中短篇集最大的特点在于，它是基于对人工智能的理解而串联在一起的，可以说它是在某种指导思想支配下的成果，带有强烈的思考特质。我想这大概是湛卢愿意出这本书的原因之一吧。湛卢的现实科幻系列，出发点就是曾经科幻的事物，已经距离现实很近，甚至进入了我们的现实之中。科幻所构建的图景不再是飘摇的海市蜃楼，而是身边拔地而起的摩天大厦。在湛卢的思考中，大概读者需要对此有所了解，有所认知。这是我所理解的现实科幻系列的意义所在。

36氪：您于清华大学微电子所研究生毕业那年就发布了自己的处女作科幻作品《最后的游戏》，请谈谈您自那之后的创作历程吧。您的专业所学与您进行的科幻文学创作之间有怎样的关系？能为我们介绍下微电子所其他同学的一般职业选择吗？为什么您走上了这条文学之路？

江波：我在校期间写了许多小说，但都没有正式发表，只是挂在水木清华的BBS上，供网友批评。所以临近毕业发表的小说对我具有一个里程碑的意义。我之后的创作，基本上维持每年发表一两篇科幻小说的频度，把它视为一种爱好而已。科幻小说的写作和专业之间几乎毫无关系，纯粹是我个人的一种喜好而已。我的同学大部分都在理工科的领域，其中半导体芯片产业是个集中地，此外转行做金融也有一部分。像我一样变成一个文学工作者，大概只有我一个。不过我也不算是纯粹的文学工作者，我是个理工科学生，在芯片行业工作了近二十年，至今也没有完全脱离。清华的校友中，从理工科转为文化行业的也有几个代表人物，比如水木年华的组合，科幻作家中，潘海天也是，他是清华建筑系毕业，本来应该在房地产热火朝天的时代大发其财，然而他成了一个彻底的文化人。

文学之路是一条心路，它和一个人的从小到大的经历有关，和个人的兴趣有关，问什么驱使我走上文学之路，我只能回答，这是命运的一部分，它是水到渠成，而不是一个计划，一条预先设计的路。

36氪：近几年我们似乎看到了科幻题材在国内的一股热潮，比如影视领域的《流浪星球》以及近期很火热《独行月球》（但也有人批判起科幻的部分不够严谨硬核），您怎样看待这股流行趋势，以及这类虚构作品中的科幻成分？您对于中国的科幻文学界有怎样的期许？

江波：我一直认为科幻作品应该包括极为广泛的内涵。最宽泛的定义，应该是作品中使用了来自科学文化的概念，就属于科幻。虚构作品中出现越来越多的科幻作品，是时代的趋势，因为我们的时代正是一个科学文化不断普及的时代。一个简单的数据，从2000年到2019年，全国拥有大专以上文化的人口从大约3%上升到大约18%，有约两亿的人口提升到大专文化水平以上，这部分人的精神需求中，科幻的比重会明显增大。新一代的导演和编辑，许多都拥有科幻的思维方式，他们创作的产品，自然也会拥有越来越高的科幻成分。

至于说是否严谨，这取决于电影本身的定位。像《独行月球》这样的作品，因为是喜剧，严谨就是一个太高的要求，并无必要。如果定位为科幻经典，那要求自然又有不同。

中国的科幻，无论是科幻电影还是科幻文学，都正在走一条向上的路。这和整个社会的发展是对应的。中国科幻的黄金时代或许正在发生，它能持续多久，也并没有确定的答案。我只希望，中国科幻能有一种百花齐放的气象，产出众多优秀作品，把中国人的梦想做到未来去。

36氪：著名科幻作品《2001太空漫游》中描述的未来与我们如今的生活十分贴近，1992年斯蒂芬森的小说《雪崩》也首次提出如今大热的“元宇宙”概念，您怎样看待科幻作品乃至科幻作家与现实之间的关系？现实世界终有一天会实现科幻里的设想吗？

江波：大概只有最优秀的科幻作家，才拥有把科幻兑现为现实的机会。绝大部分的科幻作品，只是虚构的想象作品而已，提供的是消遣娱乐价值。那些居于科幻核心的作品，则具有强烈的未来主义倾向，能够对社会的发展做出某些前瞻性的预测。阿瑟克拉克无疑是能够写出前瞻性科幻的作家之一。这样的作家极为稀少，不仅仅是科幻，在各种类型文学中，都会只有寥寥几个。

科幻作品会描述诸多的可能性，但真正落入现实的，只会是少数。期待科幻对科学技术的发展予以启发，我并不认为这有普遍的意义，科幻对现实的普遍意义，在于在青年人的心中埋下对科学憧憬的种子。至于说特殊意义，那就是作者应该追求的目标，如果一个作者能够写作出具有前瞻性的作品，那么就在作品的娱乐价值之外，增添了一层社会意义，让自己的作品拥有了不朽的更大可能。

终究有某些科幻设想，是会落入现实的。因为科幻的设想实在太多了，一个作者无法穷尽未来的各种可能性，一千个作者可能把会出现的情形都写了个遍，还添上了许多天马行空根本没有可能的情景，模糊了未来主义和无限幻想之间的界限。我自己的这本书中，有的故事已经可以认为已经进入当下的社会，有的故事或许可以发生在不远的未来，有的故事则是纯粹的幻想，恰好也是一种参照。

书名：《未来史记》作者：江波，出版社：湛庐/四川科学技术出版社