新书速递丨《神工智能：诸神与古代世界的神奇造物》

古代神话表达了对人造生命、人类极限与不朽的永恒期盼和恐惧。

我们——以及人工智能——能从这些经典故事中学到什么？

自然与机器之间的界限日渐模糊，既引发了兴奋感，又产生了焦虑感，这似乎是现代人对科技时代科学进步的独特反应。但早在数千年前的古希腊世界，人造生命所带来的希望与恐惧就已然纠缠在一起。富有想象力的神话故事表述了人类制造活雕像、试图超越人类极限和寻求永生的梦想，同时也表达了人类与这些追求所带来的敬畏、恐惧和希望的不断拉扯。我们可以这样说，是古希腊人开始了这场讨论。

作为人类的意义是什么？——这个问题一直萦绕在古希腊人的心头。他们的故事一次又一次地探讨了延缓衰老、推迟死亡、复制自然和增强人类的希望与风险。关于普罗米修斯、伊阿宋、阿尔戈英雄、美狄亚、代达罗斯、赫菲斯托斯、塔洛斯和潘多拉的神话网络之间复杂且相互交错，所有这些故事都引出了关于自然生物与人造生命之间界限的基本问题。

无论是最经久不衰、最受欢迎的希腊神话，还是其他许多被遗忘已久的古代传说，这些惊心动魄的冒险故事本身就值得一读。然而，当我们发现这些古老的故事实则是一种对生命技艺的探讨，这些古代的“科幻小说”便被赋予了全新的意义。这些神话故事不仅深度表达了形而上学的洞察力，还预示了神与人类操控自然的不祥征兆，这让如今的我们感到惊讶。

模仿人类和增强人类能力的幻想，激发了让人魂牵梦绕的舞台戏剧表演机器，以及古典瓶画、雕塑和其他艺术品中令人难忘的绘画。约公元前 400 年， 哲学家兼工程师的阿尔库塔斯制造的第一个飞行机械鸟，引起了轰动。到了希腊化时代，亚历山大港的赫伦和其他的杰出工程师设计了大量由水力和风力驱动的自动机器。古希腊人认识到，无论是在想象还是在现实中，自动机器和其他人造装置可能是无害的，但也可能是危险的。它们可用于劳作、性、观赏和宗教用途，也可以制造痛苦或死亡。显然，无论是真实的还是想象中的生命技艺，都令古人十分着迷。

总而言之，古代文化中关于自动机器、机器人、复制人、活雕像、增强人类能力的物品、移动机器和人造生命的神话、传说及口传故事，与随后的真实科技结合在一起，构成了一个虚拟图书馆和一个蕴含着古代智慧与思想实验的博物馆。这是一种无价的资源，有助于今日的我们理解生物技术与合成生命所面临的根本挑战与危险。这本书的一个目标，是表明关于人工生命的古老神话在更深层次上，可以为现今人造生命和人工智能的发展以及潜在的现实和道德影响提供一个背景。我希望在重读那些古老故事的同时，可以丰富今天对机器人、无人驾驶汽车、生物技术、人工智能、机器学习和其他发明的相关讨论。

我们在故事中了解到火神赫菲斯托斯如何制造了一组“无人驾驶”的三足鼎，可以根据指令运送食物和美酒。更令人惊奇的是，他还设计了一群真人大小的黄金女仆机器人来听命于他。据荷马记载，这些神仆在各方面都“如真实的女性一般， 有感知，有理智，有力量，甚至有声音，她们还被赋予了神所拥有的一切学识”。2500 多年以后，人工智能开发人员仍然在渴望实现古希腊人想象中他们的发明之神所创造的东西。

赫菲斯托斯所铸的奇迹是在一个普遍被视为技术不发达的古代社会背景下构想出来的。在现代机器人能够赢得游戏冠军、进行交流、分析海量数据和猜测人类意图的几千年前，这种“生命技艺”就早已从文化梦想中结晶而生。同时，目前的一些重大问题就像神话一样古老：这些人工智能机器人反映的是谁的意图？它们将向谁学习？

2016 年的一次人工智能学习实验成了一个警示。那年，微软公司发明了一个青少年女性聊天机器人—Tay。她经过精密的编程设计，被认为模拟了人脑中的神经网络，并可以在社交网络推特（Twitter）上，向她的人类“朋友们”学习。人们期望她能在没有过滤或行为监督的情况下展现清晰的会话策略。然而，Tay 在推特上线仅几个小时内，就被一些心怀恶意的粉丝们合谋影响，让 Tay 变成了一个在推特上肆意吐出种族歧视和性别歧视言论的喷子。没过几天，Tay 被她的制造者终止了程序。她的学习系统极易遭到影响，这打击了人们对自我学习型人工智能和智能机器人的乐观想法。但这种打击只是暂时的。Tay 的替代者 Zo（2017 年）上线了，一个据说被设计成可以避免谈论宗教和政治话题的聊天机器人，但后来她也在推特上失控了。

在希腊神话中，赫菲斯托斯的最高成就是宙斯命他制造的女性机器人，潘多拉。为了惩罚人类接受了普罗米修斯盗取的火种，宙斯命令赫菲斯托斯制造了潘多拉（第 8 章）。每一位神都赐予了这位人造少女一种人类的特质：美丽、魅力、艺术知识和狡诈的天性。作为宙斯复仇计划的人工智能代理人，潘多拉的任务是打开那个装满灾厄的罐子，让人类陷入永久的折磨。她被送给了厄庇墨透斯这个以冲动和乐观著称的男人做妻子。正如我们所看到的那样，普罗米修斯警告人类，潘多拉的罐子永远不应被打开。斯蒂芬·霍金（Stephen Hawking）、埃隆·马斯克（Elon Musk）、比 尔·盖茨（Bill Gates）和其他有先见之明的思想者，是否就是我们这个时代的普罗米修斯泰坦？他们警告科学家们应该停止或至少放缓对人工智能不计后果的追求，因为他们预见，一旦人工智能启动，人类将无法控制它。“深度学习”算法让人工智能计算机能够从海量数据中提取模式，推断新状况，并在没有人类指导的情况下决定行动。人工智能实体将不可避免地自行提出并回答它们自己设计的问题。现在的电脑本身已经发展出了利他主义和欺骗行为。人工智能会不会因好奇而去探索那些隐藏的知识，并根据自己的逻辑做出决定？这些决定是否会符合人类的道德标准？或者说， 人工智能的伦理道德是否会“超越人类”？

潘多拉的罐子一旦被打开，灾厄就会被释放出来——就像一个邪恶的黑客放出电脑病毒，企图让世界变得更加混乱的一样——只要世界还存在，它们就不会消失。在这个神话的简化童话版本中，最后一个从潘多拉罐子里飞出来的是“希望”。但在更悲观的版本中，被困在罐子里的最后一样东西是“预见灾厄的能力”。是宙斯给潘多拉编了程序，让她把罐子的盖子盖上，将“预知”困于其内。人类就此被剥夺了预知未来的能力， 独留下了被称为“希望”的东西。就如厄庇墨透斯一样，先见之明并非我们的强项。

但是，随着人类的聪明才智、好奇心和胆大妄为不断推动着生物学上生与死的研究前沿，以及人机结合的发展，先见之明在其中是至关重要的。诚然，当今世界的技术发展与可能性在规模上可以说是史无前例的。但在科技梦魇和未来美梦之间的那种令人不安的摇摆，却是永恒的。古希腊人明白，人类的典型特质就是易受诱惑，总是想达到“超越人类”的境界，却忽视了可能产生的后果。我们其实和厄庇墨透斯一样，他接受了潘多拉的礼物，直到后来才意识到这是个错误。

2016 年，雷神公司（Raytheon）的工程师雷·克劳德（Ray Crowder） 制造了三个微型学习机器人。他给这三个机器人取了三个古典的名字：宙斯、雅典娜和海格力斯。这些小型太阳能机器人的神经系统以蟑螂和章鱼为原始模型，它们被赋予了三种天赋：移动的能力、对黑暗的渴望和在阳光下充电的能力。这些机器人很快学会了移动，并且很快就意识到，为了充电， 它们必须冒险到强烈的阳光之下，否则就会死亡。这些受造而非受生的机器人看似简单的学习冲突，类似于人类的“认知经济”（cognitive economy），即情绪会帮助大脑分配资源和制定策略。还有一些人工智能实验正在教导电脑学习陌生人类如何互相传递善意，以及人类如何对消极和积极的情绪做出反应。

自霍金发出“人工智能或意味着人类的终结”的警告后， 一些科学家提议，让机器人通过读故事的方式，学习人类的价值观和道德观。“寓言、小说和其他文学作品”， 甚至大量好莱坞电影剧情，都可充当人工智能计算机的“人类使用手册”。其中一个系统被命名为山鲁佐德（Scheherazade），以纪念《一千零一夜》（The One Thousand and One Nights）的女主人公。山鲁佐德是一位传说中的波斯哲学家、故事讲述者，她记住了大量失落文明的故事。她因向残暴的国王讲述这些引人入胜的故事而保住了自己的性命。上传至人工智能山鲁佐德系统中的第一批故事只是简单的叙述，向计算机展示如何像个好人一样行事，而不是像个精神病患者。若要实现与人类感同身受的互动， 并对人类的情绪做出恰当的反应，还需向计算机输入更复杂的叙事内容。这里所持的观点是，只有当人工智能实体获得“迁移学习”这一类似人类的思维能力，能够通过类比的方法进行符号推理，并在没有人类指导的情况下做出恰当的决策时，这些输入的故事才能发挥价值。

电脑可以以人脑为蓝本，但人脑却无法像电脑一样运作。例如，我们的认知功能、自我反思和理性思考都依赖于情感。故事吸引人的情感，感染力（pathos）——共情（empathy）的根源 / 词根，以及分享感受。只要故事还能唤起强烈而复杂的情感，只要故事还能与现实困境产生共鸣，只要故事还能激发人的思考，那么它就仍然有着生命力。我们已经看到，古希腊和其他古代社会是如何通过讲故事，试图去理解人类对超越生物极限的渴望，并想象这些渴望带来的后果。这些神话中的洞见和智慧或许有助于加深我们对人工智能的探讨。

生命技艺的故事流传千年，经久不衰，证明了人们一直在思考“生而为人与模拟生命的意义”。听故事、讲故事和记住故事，是人类与生俱来的能力。正如乔治·扎卡达基斯提醒我们的那样，故事“是人类这个物种跨越时间与空间，分享价值和知识最有效的方式”。而这就提出了一种有趣的可能性。

那些讲述各种形式人造生命的神话，就像本书中收集的那些例子，是否可以用来教导人工智能以更好地理解人类充满矛盾的渴望？也许有一天，人工智能实体能够理解那些蕴含在人造生命神话中的人类最深沉的希望和恐惧。或许，人工智能可以以某种方式领会人类因人造生命而产生的纠结、期待和恐惧。人类预言了人工智能实体的存在，也意识到了这些机器和制造者们将面临的一些困境，若让人工智能实体了解到以上这些情况，它们或许可以更好地理解，甚至“同理”它们自身的存在为人类带来的窘境。

机器人-人工智能“文化”的兴起似乎不再那么遥不可及。人工智能的人类发明者和指导者已经在建构该文化的逻辑、道德观和情感。人类因科技的发展而逐渐强化自身，变得越来越像机械，而机器人则被注入了类似人性的东西。我们正在奔向一些人称为“机器-人类”（Robo-Humanity）的新黎明。当那一天到来的时候，我们又会对自己讲述怎样的神话和故事呢？这个答案将决定我们的人工智能造物会学习什么，以及会如何学习。

——尾声：敬畏、恐惧与希望

智慧宫丛书

新书预告

029

《梦游者：西方宇宙观念的变迁》——回顾西方5000年，长时段描绘西方宇宙观的变迁，以富有人情味的笔触，再现著名科学家的心路历程和关键科学发现的诞生。

030

《哲学塑造的世界：从柏拉图到数字时代》——这是一本生动的简明史，深入地探究了从古希腊到今天，哲学如何改变了人类的知识和我们生活的世界。