比超级智能更先到来的，是超级愚蠢｜不懂经网站

几个月前，claude 母公司Anthropic 的联合创始人杰克·克拉克（Jack Clark），上了美国公共广播电台的节目 Planet Money。主持人问他，生成式 AI 会给社会带来什么。他说，我不知道该怎么回应。然后他讲了个故事。

他说，一百年前，英国作家 C.S.刘易斯（《纳尼亚传奇》的作者）写过一本书，叫《魔鬼家书》。地狱里有个级别很低的小鬼，负责腐蚀地球上的一个普通人，他定期给上级写汇报。

有一封信里，小鬼难掩兴奋：好消息，我的人类拿到了一项新发明，叫电话。以后每当他独处、眼看就要反省自身的时候，他就会拿起电话打给朋友。他又朝地狱靠近了一步。

这个故事讲得流畅、动人，寓意分明，几乎就是为 AI 时代量身定做的：技术诱惑人堕落，从独处的消失开始。

只有一个小问题。这个故事几乎每个细节都是错的。《魔鬼家书》不是一百年前写的，是 1942 年。写信的也不是小鬼，是地狱里资历更老的叔叔；收信的，才是那个负责腐蚀人类的新手小侄子。《魔鬼家书》的"家"，说的就是这层叔侄关系。至于电话，全书从头到尾没有出现过。节目播完，主持人不得不在节目里口头补了一条更正。

这件事是《金融时报》专栏作家蒂姆·哈福德（Tim Harford）在今天的新专栏里翻出来的。他自己又往下追了一步：刘易斯确实抱怨过收音机，在一封私人信件里建议想躲开上帝的人，就"让收音机一直响着"。

更有意思的，哈福德把这句话粘进谷歌，想找原始出处。搜索结果还没出来，谷歌的 Gemini 先答了：你引的是《魔鬼家书》。

又错了。那句引文其实写于《魔鬼家书》出版之后二十年。

所以，一个 AI 公司的创始人，在公开场合讲了一个流畅动人的错误故事；一个专栏作家去核实，被另一个 AI 用新的错误拦在半路。

这看上去是一个科技圈的趣闻，但它也是我们正在进入的这个时代的一个切面和标本：这个时代最新的愚蠢长什么样，从哪里生产出来。相比之下，"AI 会不会让人变笨"的争论，从 ChatGPT 发布起就没停过，其实是一个肤浅的问题，或是是一个愚蠢的问题。

一、无知只是空白，愚蠢则是构建起来的

我最近看到一篇文章，作者是大名鼎鼎的圣塔菲研究所的复杂系统科学家大卫·克拉考尔，题目很直白：是什么让人类愚蠢。

他从一个看上去很愚蠢的现象说起：没有人会骂一块石头蠢。河流不蠢，飓风不蠢，恒温器也不蠢。他说，愚蠢其实是一种相当高级的行为，低级的东西没资格参与。

这跟直觉相反。我们习惯把愚蠢理解成智力的缺席，仿佛从一个人身上抽走思考，剩下的就是愚蠢。克拉考尔说，不对。智力是把一个难度为 X 的问题变容易，愚蠢是把这个本来就难的问题变得更难。而把问题变难最可靠的办法，是搬来一套精妙的装置：复杂的理论，繁复的信念，听起来头头是道的算法。效果还不如什么都不做。

一个不知道答案的人，只是无知。一个给错误答案写出一百页论证的人，才是愚蠢。愚蠢是智力的作品，手艺越高，作品越惊人。

奥地利小说家罗伯特·穆齐尔（《没有个性的人》的作者）1937 年就把这两种东西分开了。一种他叫"体面的愚蠢"，就是跟不上一段难懂的论证。这不可怕，人人都有。可怕的是另一种，"聪明的愚蠢"：调动全部智力资源，为一个错误服务。一个学生看不懂数学证明，不蠢。一个数学教授为了捍卫一个小孩都看得出是错的命题，盖起一座优雅的理论大厦，这才是聪明的愚蠢。

这种样本，历史上从来不缺。1895 年，英国最受尊敬的物理学家开尔文勋爵（当时皇家学会会长）郑重断言：比空气重的飞行器，不可能。论证很硬，地位更硬。八年之后，莱特兄弟的飞机上了天。

回到克拉克。他不是没读过刘易斯，人物、通信、寓意，他都有印象。问题出在每一处模糊的地方，他都补上了一个最合理的细节：书该是一百年前写的，小鬼该向魔头报喜，电话该出现在那个故事里。每个补丁都合情合理，合理到他在台上讲得没有一丝迟疑。智力全程在岗，只是全部用来给一个不存在的故事做了精装修。

说回克拉考尔的定义，他顺着往下推，推出一条规律：愚蠢的上限，与智力同步增长。细菌谈不上蠢，猫狗只能小规模地蠢。人有语言、抽象能力和制度，所以能在文明的尺度上蠢。于是，可以说：超级智能就是或将是超级愚蠢的序幕。

这个推论可能很反直觉。既然造一座像样的错误大厦需要智力，那么当一种东西把智力变成自来水，拧开就有，错误的大厦就会进入成片开发。

只是，这里有一个历史上从不成立的条件。聪明的愚蠢本是奢侈品：造一座错误的大厦，需要一个聪明人几个月的智力投入，所以它零星、昂贵、总有人围观。大厦盖歪了，砸到的也是局部。

无知本来无害，它自己知道自己缺什么。加工过的无知才致命：它有结构，有论证，有细节，态度诚恳，只是全错。

这样的东西，AI 之前从来没有过。现在有了。

二、我们的聪明集体过期了

关于 ai 让人变笨的叙事，有一个隐藏的假设，即错误出在人的内部，能力退化了，脑子生锈了。克拉考尔的框架里没有这一层。他给的机制在外面：环境变了，旧规则还在跑。

以飞蛾扑火为例。飞蛾在夜里飞行，靠的是对远方的月亮保持一个固定角度。这套导航系统运转了几百万年，稳定、可靠，几乎不占用神经资源。后来人类发明了蜡烛和电灯。飞蛾习惯对月光保持固定角度，导致它绕着近处的光源打转，越转越近，最后栽进去。

飞蛾扑火不是导航系统坏了，恰恰相反，系统运转依然完美，它只是还在执行一条好规则，而世界已经换了。

其他还有，海龟宝宝出壳之后靠月光反射的海面亮光认路下海，一亿年没出过错。现在它们爬向的是海滨公寓的灯光。信天翁在海上世代捕鱼喂雏鸟，现在从浪里叼起来的，是打火机和瓶盖。

人类手里那几条现役的判断规则，同样是旧的，同样也曾经可靠。

讲得流畅的大概率靠谱。这条规则在"撒谎很贵"的时代是成立的：编一个完整的故事要花力气，还容易留下痕迹，所以流畅本身是一种抵押。现在流畅免费了，机器张口就来，成本为零，抵押没了。

自信的大概率可靠。过去一个人对自己越有把握，多半意味着他为此付过学费，错过、疼过、被现实校准过。现在自信也是免费赠品，任何观点都能得到斩钉截铁的表达。

拿到答案，约等于理解了。这条规则在过去也大体成立，因为答案稀缺，获取答案必须经过你自己的加工：去读、去找、去消化。这个过程本身就是一遍粗筛。现在答案随手可得，筛子没了。

不是人在变笨。是我们的聪明集体过期了。

这不是"每一代人都担心新工具"的老故事。那种叙事讲的是能力退化：文字削弱记忆，印刷杀死专注，每一次都有人哀叹，然后被历史部分证伪。这里的区别在于：衰老是个体内部的退化，过期是规则与环境的关系。

愚蠢是一种时差：规则还是那条规则，世界已经不是那个世界。

这个视角还有一个吊诡的地方。直觉最可靠的人，恰恰摔得最重。一个在旧环境里从没被直觉辜负过的人，最敢不加检查地依赖它。

克拉克的智力和他在 AI 圈的地位，正是让他敢把那个故事讲得那么笃定的资产。越聪明，越敢信自己；越敢信，翻车越重。变笨叙事解释不了这个方向：笨人不会犯这种错，这种错需要胆量，而胆量是聪明喂出来的。

三、不在乎真假，是无能还是无力？

那么，我们至少会警惕吧。毕竟关于 AI 幻觉的警告已经讲了三年，人人都"知道"它会一本正经地胡说。

不过，问题没那么简单。仔细想想，生成式 AI 的真实风险，不是我们完全相信它，是我们不再在乎到要去检查它。

这两个状态经常被混为一谈，其实隔着一条沟。前者是信任问题，后者是精力问题。现在没有多少人真的信 AI 不出错，怀疑早就普及了。但怀疑普及之后，检查并没有跟上。它停在理论层面：我知道它会编，遇到关键的再说。

至于什么算关键的，不知道，因为还没遇到。理论上怀疑，实践上依赖，这就是现状。怀疑不再通向任何动作，它只是让人心安理得地继续。

金融时报的哈福德在专栏里用刘易斯的体例，替地狱里的叔叔又写了一封信。信里教的办法很具体：不要去说服那个人机器是万无一失的，这太粗糙，很快会被戳穿。要让他保留怀疑，但把怀疑养在理论层面，不让它落地成对具体事实的核对。要把他的怀疑慢慢腌成犬儒，那是最好用的东西。让他觉得核实是书呆子才干的低效劳动，配不上他的时间。让他享受他的懒惰，并称之为生产力。人类历来分不清有答案和找到真相，让他继续分不清。 That's the game.

这封信是伪造的，但它令人信服，你会觉得魔鬼确实会这么干。刘易斯的原版信，诱惑靠的是修辞；哈福德的仿信，诱惑靠的是它对读者状态的描述太准。你怀疑 AI，但你今天核实过它说的任何一句话了吗。

当怀疑只停在理论层面会发酵成什么？犬儒。

犬儒就像是怀疑的退休状态：机制还在，但不再工作。一个犬儒主义者对一切信息都保持一个姿态，即”都有可能是假的“。这个姿态让他免于被骗，也免于核实，顺便免于理解。他不会被骗，因为他谁也不信；他也不会知道任何事，因为核实是书呆子干的事。

把这一层和ai 时代的答案通胀放在一起，就形成了完整的闭环。

社会本来靠"解释分工"运转。你不懂免疫机制，但你孩子发烧时，儿科医生给你一个"流感引起发烧"的解释，你据此行动。这个安排安全，因为你清楚那个解释长在医生的脑子里，你只是借用。界线是清楚的：谁懂，谁不懂，各自心里有数。

AI 把这条界线模糊掉了。解释变得免费、即时、随叫随到，"我有个解释"和"我懂了"之间的距离，肉眼可见地缩短。心理学研究早就发现，仅仅是知道一份解释存在于自己够得着的地方，人就会高估自己的理解：同一份说明，能免费看到的人，比要付费才能看到的人，自认为懂的比例更高，尽管谁都没有真正打开它。一位写了十几年博客的人说得最直白：我现在知道的东西比任何时候都多，但我感觉自己变笨了。

答案不值钱之后，稀缺的是知道自己不知道。

然后是最后一环。克拉考尔把危险说到了根上：AI 出错本身，从来不是最危险的部分。人类一直在出错，所以才发明了科学方法、同行评审、核对引文这一整套纠错机制。危险的是，AI 开始以人类无法察觉的方式出错，因为负责察觉的那部分能力，先被外包出去了。你不再检查，不是因为你检查不了，是因为检查这个动作在你的生活里已经没有位置。

《银河系漫游指南》里那个著名的玩笑：超级计算机算了七百五十万年，得出生命、宇宙以及一切的终极答案是 42。为什么是 42，没人知道，计算机说，你们要先理解问题本身。一个连"为什么是这个答案"都问不出来的文明，拿到什么答案都一样。

我们没有失去判断力。我们失去的是使用它的理由。答案随手可得，检查显得迂腐，在乎成了奢侈品。受益者和受害者是同一个人，所以没有人喊停。这才是愚蠢共谋的完整形态：它不需要任何人批准，只需要每个人都觉得，反正也就这样了。

四、理解愚蠢，是我们能做的最聪明的事

把时间拉长看，认真对待愚蠢的人，其实一直有一条线。

1511 年，伊拉斯谟写《愚人颂》，为愚蠢翻案：没有自欺和过度自信，人类任何伟大的事都不会有人去尝试。愚蠢是成就的引擎，问题只在于一个文明产生的愚蠢，能不能被它自己熬过去。

1726 年，斯威夫特在《格列佛游记》里画了拉加多科学院：研究员们从黄瓜里提取阳光，把大理石软化成枕头，培育不长毛的绵羊。方法严谨，流程完整，产出为零。这是对"系统性误用智力"最早的漫画。

1937 年，穆齐尔区分体面的愚蠢和聪明的愚蠢。

1943 年，纳粹监狱里，一位神学家在信纸上写下：愚蠢不是认知缺陷，是一种被强加的社会结构。人在权力的蛊惑下会自愿交出独立判断，变成"愚蠢"的工具。他观察到的现象是，对抗这种愚蠢，靠讲道理没用，因为对方的智力已经被借走了，你面对的阻力是借来的。

1976 年，一位意大利经济史学家写了本小册子，叫《人类愚蠢基本法则》。定义很精准 ：愚蠢的人，是让别人受损、自己也不得利的人。他还提出一条定律：愚蠢之人的比例，在所有人群里恒定，教授和清洁工一样。克拉考尔顺着这条线往前补了一刀：比例恒定，威力不恒定，复杂性每上一个台阶，愚蠢的当量跟着翻倍。

五百年来，从这个列表能看出来一件事：这些人里没有一个是"愚蠢研究"的从业者。小说家、讽刺作家、神学家、经济史学家、囚徒。愚蠢学从来没有过院系、期刊、预算和职位。

这个空缺不是偶然的。智力研究许诺的是增强我们：更聪明的大脑，更强的机器，更准的预测，听的人有获得感。愚蠢研究要求的是承认我们自己就是研究对象，还得承认研究它的那笔经费，大概率也是打水漂的。前者有人排队资助，后者就只有那些不怕尴尬的人偷偷认领过。

克拉考尔的提议就建立在这个空缺上：我们需要一门和智能科学一样严谨的愚蠢科学。不客气地翻译一下，至少要回答三个问题：聪明的系统，如何产出愚蠢的结果；什么样的制度条件下，集体智能会退化成集体愚蠢；什么样的工具在增强认知，什么样的工具在替换认知。

第三个问题现在离我们最近。AI的那个对话框，是增强还是替换，界线不在产品说明书里，在使用者的手上。同一个工具，一个人拿它垫在思考下面，另一个人拿它代替思考，产品经理分不出这两种用户，仪表盘上也看不出区别。界线消失的位置，正是愚蠢科学要开始工作的位置。

在一个痴迷于更强认知技术的世界里，理解愚蠢，可能是我们能做的最聪明的事。【懂】

经叔最近做了一个网站，可在本号首页右下角订阅。

人肉筛选挖掘的硬核优质内容及深度原创，重点关注科技、文化、财富、权力四大要素以及它们之间的互动与影响。网站定价1999元/年，目前内测优惠价1299元/年，感兴趣的读者可以加经叔微信订阅。

另外，欢迎加入经叔的知识星球。在这里，我们拒绝无用的焦虑，只谈底层的逻辑与实战的干货。我会结合最新的AI前沿动态、深度的商业创新分析（如一人企业的构建）和独特的文化思潮（如麦克卢汉的媒介洞察），帮助大家把握时间窗口。

我是不懂经的经叔，国内最早翻译介绍了纳瓦尔的《如何不靠运气获得财务自由》，以及影响了纳瓦尔、中本聪、马斯克等大佬的《主权个人》。

不懂经知识星球，众多百万粉丝大V、千万及亿万富翁订阅。专注分享一人企业、一人创投主题，关键词：AI、IP、创投、科技及商业前沿的高杠杆内容。

愈懂愈自由