《人类简史》尤瓦尔：人工智能会消灭人类吗？

《先声》·第8期

2022年，ChatGPT横空出世，掀起了一场人类是否会被人工智能替代的讨论热潮。

对于这个问题，以色列历史学家尤瓦尔·赫拉利最有发言权，他曾著有《人类简史》《未来简史》，在《未来简史》一书中他曾预测，未来99%的人所做的工作将由人工智能取代，这些人进而成为无用之人。

这个观点似乎听起来有些骇人听闻，但在现实中，人工智能作为一场滚滚而来的深刻的科技革命，它正在迅速地改变着人类社会。

在《未来简史》中，赫拉利就人类和算法的关系，提出了一些引人深思的观点，例如：

人类有99%的决定，包括关于配偶、事业和住处的重要抉择，都是由各种进化而成的算法来处理，我们把这些算法称为感觉、情感和欲望；

随着时间的推移，不仅是因为算法变得更聪明，也是因为人类逐渐走向专业化，所以用计算机来取代人类越来越容易；

随着算法将人类挤出就业市场，财富和权力可能会集中在拥有强大算法的极少数精英手中；

那么，未来算法或者科技会将如何影响社会以及人类自身？就此，我们将《未来简史》一书中的精华内容整理成文，希望能对你有所启发。

作 者：尤瓦尔·诺亚·赫拉利

编 辑：十一

来 源：正和岛（ID：zhenghedao）

本文摘编自赫拉利所著《未来简史：从智人到智神》，正和岛经中信出版集团授权发布，原文略有删改。

控制人类的算法是什么？

21世纪，将是由算法主导的世纪。现在，算法已经可以说是这个世界上最重要的概念。如果想了解我们的未来及我们的生活，就必须尽一切努力了解什么是算法，以及算法与情感有什么关系。

算法指的是进行计算、解决问题、做出决定的一套有条理的步骤。所以，算法并不是单指某次计算，而是计算时采用的方法。

举例来说，如果想得到两个数字的平均值，简单的算法是：“第一步，将两个数字相加；第二步，将和除以2。”这时，如果输入4和8，结果就是6；输入117和231，结果就是174。

食谱是个复杂一点的例子。例如蔬菜汤的算法，大概会是这样：

1. 在锅中热油。

2. 将洋葱切成碎末。

3. 把洋葱末炒至金黄色。

4. 把马铃薯切块，加入锅中。

5. 将圆白菜切丝，加入锅中。

诸如此类。你可以尝试着不断重复这种算法，每次用稍微不同的蔬菜，就会得到稍微不同的汤。然而，算法本身并没有改变。

光有食谱，还煮不出汤来，还得有人来读这份食谱，并依步骤行事才行。但还有一种方法，是制造出内含这种算法而且可以自动照做的机器。虽然现在似乎没有太多煮汤的机器，但大家应该都看过自助饮料机。

控制自助饮料机的算法，是通过机械齿轮和电路来运作的。控制人类的算法，则是通过感觉、情感和思想来运作的。至于猪、狒狒、水獭和鸡，用的也是同一种算法。

以生存问题为例：有只狒狒看到附近树上挂着一串香蕉，但也看到旁边埋伏着一只狮子。狒狒该冒着生命危险去摘香蕉吗？

如果是只胆小的狒狒（也就是它的算法会高估风险），就会饿死，而形成这种胆小算法的基因也随之灭绝。

如果是只莽撞的狒狒（也就是它的算法会低估风险），则会落入狮子的口中，而形成这种鲁莽算法的基因也传不到下一代。

这些算法通过自然选择，形成了稳定的质量控制。只有正确计算出概率的动物，才能够留下后代。

要把基因传递给下一代，只解决生存问题还不够，还要解决繁衍问题，而这也取决于概率计算。

如果有位女人看到某位男人，会想：“哇！他真帅！”雌孔雀看到雄孔雀心想：“我的老天！瞧瞧那尾羽！”这其实都是类似自助饮料机在做的事。

光线一从男性身体反射到女性的视网膜上，这几百万年进化而成的无比强大的算法就开始运作了，几毫秒以内，就已经将男性外貌的各种小线索转换为繁衍概率。

就连诺贝尔经济学奖得主也只在很少时间会用纸笔和计算器来做计算；人类有99%的决定，包括关于配偶、事业和住处的重要抉择，都是由各种进化而成的算法来处理，我们把这些算法称为感觉、情感和欲望。

看着这些图片的时候，你身体里的生化算法就会开始处理各种关于比例、颜色和尺寸的数据，让你感觉受到吸引、心生厌恶，或是全然无感。

所有的哺乳动物和鸟类（可能还包括一些爬行动物甚至鱼类），都由同样的算法掌控，当然，并不是说一切必然完全相同。

猪似乎并不会感觉到智人特有的那种极端同情或极端残酷，也无法感受到人类仰望无限壮丽的星空时发出的那种赞叹。

99%的人将会被AI替代？

一旦拥有高度智能、而本身没有意识的算法接手几乎一切工作，而且能比有意识的人类做得更好时，人类还能做什么？

纵观历史，就业市场可分为三个主要部门：农业、工业和服务业。在大约公元1800年前，绝大多数人属于农业部门，只有少数人在工业和服务业部门。

到了工业革命时期，发达国家的人民就离开了田野和牧场。大多数人进入工业部门，但也有越来越多的人走向服务部门。

到了最近几十年，发达国家又经历了另一场革命：工业部门的职位逐渐消失，服务业大幅扩张。2010年，美国的农业人口只剩2%，工业人口有20%，占了78%的是教师、医生、网页设计师等服务业从业人员。

但等到机械的算法在教书、诊断病情和设计方面比人类更在行的时候，我们能做什么？

这个问题以前就出现过。自工业革命爆发以来，人类就担心机械化可能导致大规模失业。然而，这种情况在过去并未发生，因为随着旧职业被淘汰，会有新职业出现，人类总有些事情做得比机器更好。

只不过，这一点并非定律，也没人敢保证未来一定会继续如此。人类有两种基本能力：身体能力和认知能力。在机器与人类的竞争仅限于身体能力时，人类还有数不尽的认知任务可以做得更好。

所以，随着机器取代纯体力工作，人类便转向专注于需要至少一些认知技能的工作。然而，一旦算法在记忆、分析和辨识各种模式的能力上超过人类，会发生什么事？

如果认为人类永远都能有自己独特的能力，无意识的算法永远无法赶上，这只能说是一厢情愿。对于这种空想，目前的科学反馈可以简单概括为三项原则：

1. 生物是算法。每种动物（包括智人）都是各种有机算法的集合，是数百万年进化自然选择的结果。

2. 算法的运作不受组成物质的影响。算盘的算珠无论是木质、铁质还是塑料质，两个珠子加上两个珠子还是等于四个珠子。

3. 因此，没有理由相信非有机算法永远无法复制或超越有机算法能做的事。只要运算结果有效，算法是以碳为载体还是以硅为载体又有何差别？

确实，目前还有许多事情是有机算法比非有机算法做得更好，也有专家反复声称，有些事情非有机算法“永远”都无法做到。

但事实证明，通常这里的“永远”都不超过一二十年。就像在不久之前，大家还很喜欢用面部识别举例，说这项任务连婴儿都能轻松办到，可是最强大的计算机却无力完成。

但到了今天，面部识别程序辨认人脸的速度和效率都已经远超人类。警方和情报机构现在已经很习惯使用这种程序，扫描监控录像机无数小时的视频资料，追踪嫌犯和罪犯。

20世纪80年代讨论到人类的独特之处时，很习惯用国际象棋作为人类能力更强的主要证据。他们相信计算机永远不可能在国际象棋领域打败人类。但在1996年2月10日，IBM的超级计算机“深蓝”（Deep Blue）就打败了世界国际象棋大师加里·卡斯帕罗夫，推翻了这个认为人类能力更强的论点。

不久之后，人工智能又获得了更惊人的成就：谷歌的AlphaGo软件自学围棋这种古老的中国棋类游戏，而围棋的复杂度远超国际象棋，一般认为这并不在人工智能程序能够处理的范围内。

2016年3月，AlphaGo和韩国棋王李世石在首尔举行了一场比赛，AlphaGo凭借出奇的下法、创新的战略，以4比1击败李世石，令各方大跌眼镜。赛前，大多数专业棋手都确信李世石能赢得比赛，但在赛后分析AlphaGo的棋路后，多数人的结论则是人类在围棋上已不再有希望能打败AlphaGo或其后来者。

图源：视觉中国/李世石投子认负，AlphaGo 3-0获胜

2004年，麻省理工学院的弗兰克·利维教授与哈佛大学的理查德·默南教授发表了一份关于就业市场的全面研究报告，列出最有可能走向自动化的职业。

当时讲到在可预见的未来不可能实现自动化的职业时举的例子是卡车司机。他们表示，实在很难想象计算机可以在繁忙的道路上让汽车实现安全行驶。但才不过十几年，谷歌和特斯拉不仅想到了这一点，还在加紧研发。

事实上，随着时间的推移，不仅是因为算法变得更聪明，也是因为人类逐渐走向专业化，所以用计算机来取代人类越来越容易。远古的狩猎者只是想要生存下去，就得掌握各式各样的技能，也正因为如此，想设计狩猎机器人的难度非常大。

这种机器人得要懂如何把燧石磨出尖头，在森林中找到可食用的蘑菇，跟踪猛犸象，与其他十几个猎人协调如何进攻，之后还得知道怎么用药草来治愈伤口。

但在过去几千年间，人类已经走向专业化。比起狩猎者，出租车司机或心脏病专科医生所做的事更为有限，也就更容易被人工智能取代。

我已一再强调，人工智能目前绝无法做到与人类匹敌。但对大多数的现代工作来说，99%的人类特性及能力都是多余的。人工智能要把人类挤出就业市场，只要在特定行业需要的特定能力上超越人类，就已足够。

就连负责管理所有活动的经理，也可能被取代。例如Uber（优步），就因为有强大的算法，只要几位工作人员，就能管理数百万的Uber司机。大多数的命令都是由算法自动下达，无须人为监管。

在许多别的公司，算法正陆陆续续地进入管理层。董事会的正式成员可能仍然是人类，但他们的选择会越来越多地受到算法的影响。在许多情况下，人类都只是根据算法的建议不假思索地例行公事。

人工智能会消灭人类吗？

随着算法将人类挤出就业市场，财富和权力可能会集中在拥有强大算法的极少数精英手中，造成前所未有的社会及政治不平等。

在今天，人数达到数百万的出租车司机、公交车司机和卡车司机拥有强大的经济和政治影响力，每个人都在交通运输市场中发挥自己的力量。

然而，一旦数百万的人类司机都由单一算法取代，这一切财富和权力都将被拥有算法的公司垄断，放入这些公司的所有人，即极少数几位亿万富翁的口袋。

又或者，算法自己也可能成为所有人。人类法律已经能够认可公司或国家这种互为主体的实体，称之为“法人”。虽然“丰田”或“阿根廷”既没有身体也没有心灵，但都受到国际法的约束，都能拥有土地和金钱，也都可能成为法庭上的原告或被告。

可能在不久之后，算法也能获得这样的地位。这样一来，某一套算法就能自己拥有一个运输帝国或是创投公司资本，而不必服从任何人类所有者的命令。

只要算法做出正确的决定，就能蓄积财富，再用来做自己认定的适当的投资。这项投资或许是把你的房子买下来，当你的房东。

而如果你侵犯了这套算法的法定权利（比如不付房租），算法就会聘请律师，把你告上法庭。如果算法的收益持续超过人类基金经理，我们最后可能就得面对一个由算法组成的上层社会，地球的绝大部分都掌控在它们手上。

在你觉得这实在是痴人说梦之前，请不要忘记，目前拥有绝大部分地球的正是各种非人类的互为主体实体，也就是国家和公司。

事实上，早在5000年前，恩基和伊南娜这种想象中的神，就主宰着苏美尔的绝大部分地区。如果神也能拥有土地、雇用人力，为什么算法就不行？

那么，人要做什么呢？常有人说，艺术是我们最终的圣殿（而且是人类独有的）。等到计算机取代了医生、司机、教师甚至地主和房东时，会不会所有人都成为艺术家？
然而，并没有理由让人相信艺术创作是片能完全不受算法影响的净土。人类是哪来的信心，认为计算机谱曲永远无法超越人类？

从生命科学的角度来看，艺术并不是出自什么神灵或超自然灵魂，而是有机算法发现数学模式之后的产物。若真是如此，非有机算法就没有理由不能掌握。

戴维·柯普是加州大学圣克鲁兹分校的音乐学教授，也是古典音乐界极具争议的人物。柯普写了一些计算机程序，能够谱出协奏曲、合唱曲、交响乐和歌剧。他写出的第一个程序名为EMI，专门模仿巴赫的风格。

虽然写程序花了7年，但一经推出，EMI短短一天就谱出5000首巴赫风格的赞美诗。

柯普挑出几首，安排在圣克鲁兹的一次音乐节上演出。演出激动人心，观众反应热烈，兴奋地讲着这些音乐如何触碰到他们内心最深处。

观众并不知道作曲者是EMI而非巴赫，而等到真相揭开，有些人气得一语不发，也有人甚至发出怒吼。

2013年9月，牛津大学的卡尔·弗瑞及迈克尔·奥斯本发表了《就业的未来》（The Future of Employment）研究报告，调查各项工作在未来20年被计算机取代的可能性。

根据他们所开发的算法估计，美国有47%的工作有很高的风险被计算机取代：

例如到了2033年，电话营销人员和保险业务员大概有99%的概率会失业。运动赛事的裁判有98%的可能性，收银员97%、厨师96%、服务员94%、律师助手94%、导游91%、面包师89%、公交车司机89%、建筑工人88%、兽医助手86%、安保人员84%、船员83%、调酒师77%、档案管理员76%、木匠72%、救生员67%。

当然，也有一些工作还算安全。

到了2033年，计算机能够取代考古学家的可能性只有0.7%，因为这种工作需要极精密的模式识别能力，而且能够产生的利润又颇为微薄，因此很难想象会有企业或政府愿意在接下来20年间投入足够的资本，将考古学推向自动化。

当然，到了2033年也可能出现许多新职业，比如虚拟世界的设计师。然而，此类职业可能会需要比当下日常工作更强的创意和弹性，而且如果收银员或保险业务员到了40岁中年失业，能否成功转型为虚拟世界设计师，也实在难说。

就算他们真的转型成功，根据社会进步的速度，很有可能再过10年又得重新转型。

毕竟，算法也可能会在虚拟世界里打败人类。所以，这里不只需要创造新工作，更得创造“人类做得比算法好”的新工作。

由于我们无法预知2030年或2040年的就业形势，现在也就不知道该如何教育下一代。等到孩子长到40岁，他们在学校学的一切知识可能都已经过时。

传统上，人生主要分为两大时期：学习期，再加上之后的工作期。但这种传统模式很快就会彻底过时，想要不被淘汰只有一条路：一辈子不断学习，不断打造全新的自己。只不过，许多人，甚至是大多数人，大概都做不到这一点。

由于接下来的科技发展潜力极其巨大，很有可能让一些人就算什么事都不做，整个社会也有能力供养他们，让他们活下去。

对于这些人，他们可能多花点时间在3D虚拟世界里；比起了无生趣的现实世界，虚拟世界能够为他们提供更多刺激，诱发更多情感投入。然而，自由主义推崇人类生命及人类体验神圣不可侵犯，这样的发展会是对这一信念的致命打击。这些人整天活在现实与虚幻之间，这样的生命何来神圣？

尼克·伯斯特隆姆等专家和思想家就提出警告，认为人类大概还承受不住这样的退化，因为一旦人工智能超越人类智能，很有可能就会直接消灭人类。

人工智能这么做的理由，一是可能担心人类反扑、拔掉它的插头，二是要追求某种我们现在还难以想象的目标。毕竟，等到整个人工智能系统比人类更聪明时，要再控制系统动机，实在有如天方夜谭。就算目前看来立意全然良善的程序，也可能带来令人恐惧的后果。

常见的情节就是，某家公司设计出第一套真正的人工超级智能，对它进行了一个毫无恶意的测试，比如计算π值，只为了算出更精确的π，人工智能在任何人意识到之前，人工智能已经接管整个地球、发动攻击征服整个银河系，把整个已知宇宙转变成巨大的超级计算机。

当然，这只是一种可能性，而不是一种预测。我们无法真正预测未来，因为科技并不会带来确定的结果。同样的科技，也可能创造出非常不一样的社会。举例来说，火车、电力、无线电、电话这些工业革命时期出现的科技，就能催生出法西斯政权或文明国家。

人工智能和生物科技的兴起肯定将改变世界，但并不代表只会有一种结局。

如果我们想享用人工智能带来的益处，而不是成为人工智能的受害者，我们就需要有很好的全球合作。即使我们能够预防核战争，阻止气候变化，人工智能和生物工程肯定会完全颠覆就业市场和全球的秩序，甚至是我们的身体和思想。我们的身体、思想、大脑很可能成为21世纪经济的主要产品。

所以，从长远角度来说，目前的人类的确比历史上任何一个时候都更加需要团结，更加需要合作。