为什么最怕蠢人“灵机一动”？

我从未听人说一块石头很愚蠢。同样，也没人会说河流、飓风乃至恒温器愚蠢。尽管愚蠢向来声名不佳，它似乎仍是一种复杂的行为形式。

人类能够让无人探测车登陆火星，在几小时内完成基因组测序，还能制造纳米级电路。然而，阴谋论、反科学的政治运动和制度化仇恨却大规模滋生，其程度之严重，恐怕足以让成功率低得可怜的中世纪炼金术士都感到难堪。

可以说，一个系统必须先具备把事情做对的能力，才可能把事情错得一塌糊涂。愚蠢不是智慧的反面，而是智慧邪恶的孪生兄弟，是头脑敏锐的亚伯身旁那个心怀欺瞒的该隐。或许令人意外的是，一个系统能够达到的愚蠢程度，与它拥有的智力成正比：智力越高，越可能创造出惊人的愚蠢壮举。把细菌称为愚蠢未免牵强；猫和狗倒是能做出一些不大不小的蠢事。至于人类，我们拥有语言、抽象思维、技术、制度和意识形态，因而能够在真正的文明尺度上犯蠢。这不是玩笑，而近乎一条自然法则——一条很可能令我们走向毁灭的法则。

我们有成千上万个研究智力的项目，其中一些研究本身未必称得上明智，包括对智商、人工智能、动物认知和集体解决问题能力的研究。它们在声名显赫的院系中开展，发表于权威期刊，致力于理解心智如何让难题变得容易。如今，我们几乎每走一步，都会撞见另一篇讨论智力和人工智能的文章。各个领域中许多对智力研究及其历史一无所知的学者，也纷纷自封为自然智能和人工智能领域的“思想领袖”。

然而，愚蠢几乎无人问津。人们只把它当作某种能力的缺失，仿佛从人身上减去智力，余下的就是愚蠢。它被比作一种心理上的黑暗：深思熟虑的灯一关，黑暗便随之降临。但这种看法是错的。黑暗不会像愚蠢那样主动造成危害。愚蠢会拿到一道简单的问题，再以巨大的努力和用错方向的才智，把它变得困难。正是这种努力构成了理解愚蠢的关键：若想蠢得名副其实、后果严重，就需要一套复杂精密的机制。

从科学角度看，我喜欢这样理解这个问题：假如智力意味着借助工具、运用数学、采取降低成本的策略，让难度为X的问题变得容易，那么愚蠢就是让难度为X的问题变得更难。与一般人的预期相反，要把简单的问题变难，最可靠的办法就是动用一整套令人印象深刻的装置：复杂的理论、层层构筑的信念，以及听上去极具说服力的精密算法——而它们的实际表现还不如什么都不做。不知道问题答案的人，只是无知；为错误答案构建出一篇构思精巧、长达百页的论证，才叫愚蠢。历代伟大的作家、艺术家和哲学家都明白，要完成这样的构建，需要极高的智力。

不妨作个类比。陨石撞击地球时，不能说它做错了什么。它只是在遵循经典力学，如此而已。但一只鸟撞上玻璃窗时，发生的事情就不一样了。我们完全有理由把它称为一种错误。

在各种物理系统中，只有生命具有犯错的能力。愚蠢是一种非常特殊的失败，并不是所有错误都够得上愚蠢。人会因为无知而犯错——掌握的数据不足；会因为噪声而犯错——信号遭到扭曲；也可能诚实地把一条规则错用到新的情境或已经改变的环境中。这些都是生活中的不幸，我们应当予以宽容。只有当错误被不断阐发、辩护、完善、制度化，并成为下一步行动的基础时，愚蠢才真正开始。愚蠢会让一切变得越来越糟。而错误的信念与行为要得到如此精心的发展，恰恰需要智力预先存在——这正是其中的悖论。

一些最令人叹为观止的愚蠢，是把一个完全正确的理论用到了错误的问题上。有人会说，量子力学是物理学最具“智慧”的发明之一。尽管它的某些要求极度违背直觉，却为描述亚原子粒子的行为提供了精确得非同寻常的框架。

然而，有一小群思想家一直试图把量子力学应用于人类意识、决策和心理学，用它解释人为什么犹豫不决，最终又为什么拿定主意。这里的数学没有问题，物理学也完全可靠，但这种应用十分古怪。原本用来简洁优雅地描述光子和电子的理论，一旦引入心理学，就成了一种荒唐而极度复杂的表达方式，只为说明人有时会改变主意。一位小说家用一个段落就能写透的现象，却被埋进了一套为截然不同的现实尺度设计的形式体系之下。理论本身并没有变得不再聪明，只是被要求解决一个它从未被设计来处理的问题。结果，它没有让问题变得更容易理解，反而使其更加晦涩。这违背了科学的宗旨。物理学家兼哲学家恩斯特·马赫（Ernst Mach）曾把这一宗旨概括为：“以最少的思维耗费，尽可能完整地呈现事实。”

早期控制论运动也提供了一个类似的警示故事。诺伯特·维纳（Norbert Wiener）及其麻省理工学院的同事建立了一套强有力的框架，用于理解机器和生物体中的反馈、控制与通信。它的数学富有原创性，工程应用令人瞩目，控制论事业甚至为复杂性科学的发展奠定了基础。

随后，管理顾问斯塔福德·比尔（Stafford Beer）等人试图把控制论应用于整个国家经济的管理。最著名的例子发生在萨尔瓦多·阿连德执政时期的智利。“赛博协同工程”（Project Cybersyn）试图通过电传打字机网络来管理智利经济。其构想是把经济建模为一个具有输入和输出的动力系统，再利用实时反馈优化生产和分配。

遗憾的是，经济并不是伺服机构。一个国家经济中的反馈回路涉及数百万个能够适应变化的行动者。他们掌握着私人信息，目标相互冲突，偏好还会不断演变。我在圣菲研究所的同事、作家弗朗西斯·斯普福德（Francis Spufford）在小说《红色富足》（Red Plenty）中，精彩描绘了把控制论方法应用于复杂系统的诱惑：

“世界正从黑暗中托举起自身，开始发出光芒；而数学就是他能够提供帮助的方式。这是他的贡献，是他能够各尽所能、奉献出来的东西。他有幸生活在地球上唯一一个由人类掌握了力量、能够依照理性塑造事态的国家。”

采用简单的行为干预，比如调整价格、修改法规，或者上帝保佑——干脆问问人们需要什么，常常只用一个下午，就能实现那套控制论装置花上几个星期仍在艰难建模的目标。作为控制简单系统的框架，控制论无疑是聪明的；但把它应用于经济，却扩大了它原本要解决的问题的难度。

1937年，奥地利小说家兼散文家罗伯特·穆齐尔（Robert Musil）在《论愚蠢》演讲中，提出了整个愚蠢研究文献中或许最重要的区别。他把“可敬的愚蠢”与“聪明的愚蠢”区分开来。前者只是认知能力有限，或无法理解一套困难的论证；后者则危险得多。这一洞见也是我最喜欢的穆齐尔小说《没有个性的人》（The Man Without Qualities）的核心关切。聪明的愚蠢会调动智力的一切资源，为错误服务。它并非没有思考，而是声势浩大、系统严密地朝错误方向思考。一名无法理解数学证明的学生，并不符合穆齐尔所说的愚蠢。一个数学教授为了捍卫连孩子都看得出是错误的命题，而建造起一座优雅的理论大厦，才是“聪明地愚蠢”。

认真看待愚蠢的并非只有穆齐尔。小说家早已清楚地认识到智慧与愚蠢之间的关系，而大多数科学家却选择忽视它。或许是因为，虚构作品能够展示智力如何吞噬自身——对理性主义者而言，这可不是什么赏心悦目的景象。

乔纳森·斯威夫特（Jonathan Swift）的《格列佛游记》描写了勒格多科学院，那里的研究人员使用各式各样的复杂实验方法。有人试图从黄瓜中提取阳光，有人把大理石软化成枕头，还有一名同事专门培育没有羊毛的裸羊。斯威夫特讽刺的显然是各种方向错误的系统研究。这些形式的智力被困在过分僵化的框架中，产生的结果还不如什么都不做。在空中城市勒皮他，才华横溢的数学家和造诣深厚的音乐家利用射影几何建造没有直角的房屋，厨师则按照几何图形制作饭菜。数学中的这些抽象概念极为精妙而有力，一旦被用来解决错误的实际问题，却变得无能为力。

威廉·加迪斯（William Gaddis）在小说《承认》（The Recognitions）中描绘了一个充斥着伪造、错误归属和假冒之物的社会。人们耗费巨大的才智，只为制造虚假。主人公怀亚特·格威恩（Wyatt Gwyon）伪造佛兰德斯画作，所需的技巧和知识甚至超过原创。他的赝品在技术上炉火纯青，在艺术史层面无懈可击，却从头到尾都是骗局。书中众多人物在对话中各说各话，彼此的误解层层加深。他们运用非凡的语言才智，只为让整体的混乱愈演愈烈。

托马斯·品钦（Thomas Pynchon）的《万有引力之虹》（Gravity’s Rainbow）描写了第二次世界大战期间庞大的官僚与军事体系。它就像一台把理性规划转化为灾难的机器。品钦笔下的卡特尔和火箭工程师绝非缺乏智力，事实恰恰相反。他们的能力凝结成了V-2火箭，威胁着要将饱受战争蹂躏的西方城市夷为平地。品钦描绘了一个制度智力转化为集体愚蠢的世界。

一些哲学家也曾尝试建立框架，理解这种反常现象。伊拉斯谟（Erasmus）在1511年出版的《愚人颂》（The Praise of Folly）中提出，愚行是人类取得成就的动力。倘若没有自我欺骗和过度自信，人类什么事也不会尝试。对伊拉斯谟而言，问题不在于一种文明会不会产生愚蠢，而在于它产生的愚蠢是否还能让人活下来。

迪特里希·朋霍费尔（Dietrich Bonhoeffer）1943年在纳粹监狱中写道，愚蠢不是认知缺陷，而是一种强加于人的社会结构。受到权力支配的人往往会放弃独立判断的能力，沦为“愚蠢”的工具。意大利经济史学家卡洛·奇波拉（Carlo Cipolla）则在1976年发表的《人类愚蠢基本定律》（Basic Laws of Human Stupidity）中，把蠢人定义为给别人造成损失，自己却没有获得任何好处，甚至同样受到伤害的人。奇波拉还大胆提出，蠢人在所有群体中的比例都保持不变，无论教授、管道工、将军还是清洁工概莫能外。沿着斯威夫特和穆齐尔的推测，我还要补充一句：事情越复杂，只会变得越糟。

如果愚蠢会让实施者自己付出代价，为什么自然选择，乃至文化选择，没有把它从生物种群中淘汰出去？一个显而易见的可能，是环境发生了改变，使过去有效的行为变得过时。

数百万年来，与月亮和星星等遥远天体光源保持固定角度，一直是动物界至关重要的导航经验法则。它高效、可靠，而且只需要最低限度的神经结构。然而，人类一旦发明人工照明，这种沿用无数世代的策略就变得足以致命。飞蛾盘旋着扑入烛火，并不是因为它不会导航，而是因为环境发生变化，使一条久经考验的经验法则产生了灾难性的错误。

由此看来，智慧与愚蠢都具有时间性。同一条经验法则，可以在某个时刻无比高明，在另一个时刻却致命；两者之间，只隔着世界一次出人意料的变化。海龟已经追随月光游向大海达1亿年，如今却转而朝着海滨大量兴建的公寓所发出的灯光前进。信天翁经过演化，能够从海面捕捉鱼类；现在，它们却在毫不知情的情况下捡起漂浮的塑料，喂给自己的幼鸟。

线虫草属真菌（Ophiocordyceps）会感染木匠蚁，劫持其行为回路。受到感染的蚂蚁会爬到植物茎秆上一个精确的高度，用大颚咬住叶片背面，然后死去——这个位置最适合真菌散播孢子。蚂蚁的行为程序遭到了入侵。它执行着一系列复杂的动作，包括攀爬、辨别方向和紧紧咬合，却是在为另一个生物服务。这只蚂蚁完美体现了朋霍费尔的观点：能力被恶意行动者劫持，用来解决错误的问题。专业化或许会产生局部的智慧，但这种智慧一旦被过度延伸，就可能制造整体的愚蠢。这是一种尺度和领域的变化，恰如飞蛾所面对的环境变化。

莱特兄弟驾驶重于空气的飞机升空还不到十年前，物理学家开尔文勋爵就曾调动自己全部的物理学知识，证明重于空气的飞行器不可能存在。尼古拉·特斯拉拒绝接受量子力学和相对论，还声称未来的人类文明将通过“地球共振”利用地球的能量。珀西瓦尔·洛厄尔（Percival Lowell）则用望远镜绘制火星表面的“运河”，并断言那是外星人开凿的灌溉渠。这些例子都体现了人们如何过度执着于一种观念，又如何把它发展得过了头，远远超出它曾经生长繁荣的适用领域——或者它曾被毫不客气地驱逐出去的领域。

从设计目标看，人工智能是人类有史以来创造的最强大认知工具。它被设计用来执行那些对人类而言耗时漫长或根本不可能完成的任务，从而尽量减少用户付出的努力。问题当然在于，工具变得越好，用户就越不需要亲自思考。恶性循环由此开始：用户思考得越少，对工具的依赖就越深，直到工具突然消失，整个系统随之崩溃。

如果智力是愚蠢的必要前提，如果智力与愚蠢会同步增长，以至于蠢得惊天动地需要真正强大的智力，那么超级智能就将成为超级愚蠢时代的开场戏。

人工智能幻觉可能是这种动态的第一项证据。大型语言模型能够生成流畅、自信、细节丰富的文本，但其中相当一部分经常与事实不符。这并不是简单的程序缺陷，而是这类系统的结构性特征：它们优化的目标是吸引力与似真性，而不是真相。危险并不在于人工智能会犯错。毕竟，人类一直都在犯错。正因为知道这一点，人类才发明了检测并纠正错误的方法，我们称之为科学方法。

真正的危险是，人工智能可能以人类再也无法察觉的方式犯错，因为原本能够发现错误的能力已经被外包给机器，或者错误本身已经超出人类心智能够判断的范围。我们面对的可能是一种精密复杂到极点的愚蠢：在它的受益者眼中，这种愚蠢与智慧再也无法区分。这正是道格拉斯·亚当斯《银河系漫游指南》中的寓言：关于生命、宇宙和一切事物的终极问题，答案是42。

我想提出一个小小的建议：我们需要建立一门研究愚蠢的科学，其严谨程度应当与正在兴起的智力科学相当。这不需要数十亿美元的投资。它需要研究智能系统产生愚蠢结果的机制；需要探究愚蠢为何在带来选择劣势的情况下，仍能通过演化动力维持下去；需要推动制定设计原则，区分哪些工具能够增强认知，哪些工具会取代认知；还需要考察集体智慧会在怎样的制度条件下退化为集体愚蠢。

愚蠢并不是减去智慧后留下的东西。它是一种主动机制，有自己的逻辑和动力，还能寄生于才智之上，无限生长。在一个痴迷于打造越来越强大认知技术的世界里，理解愚蠢并非单纯的学术练习。它或许会成为我们所做过的最聪明的一件事。

作者：David C. Krakauer

译者/审校：EY

https://nautil.us/what-makes-humans-stupid-1282459