如果费曼活在今天，他会如何“手撕”那些AI发布会？| 纪念费曼诞辰108周年

理查德·费曼（Richard Feynman）一向警惕那些在细节尚未厘清之前就被高调许下的宏大承诺。在人工智能高速发展的今天，特以此篇纪念费曼108周年诞辰。

作者

Robert Endres

伦敦帝国理工学院系统生物学教授

长期从事物理学与生物学交叉领域的研究，重点关注细胞感知、迁移和模式形成等问题。

涉及人物

Richard Feynman

美国理论物理学家、于1965年与朱利安·施温格及朝永振一郎共同获得诺贝尔物理学奖。

美国理论物理学家，以对量子力学的路径积分表述、量子电动力学、过冷液氦的超流性以及粒子物理学中部分子模型的研究闻名于世。因对量子电动力学的贡献，费曼于1965年与朱利安·施温格及朝永振一郎共同获得诺贝尔物理学奖。费曼发展了得到广泛应用的亚原子粒子行为的图像化数学表述——费曼图。费曼在二战期间曾参与协助原子弹的开发，而后在1980年代因参与调查挑战者号航天飞机灾难而为公众熟知。在理论物理学研究之外，他还是量子计算领域的先驱，并提出了纳米技术的概念。他曾担任加州理工学院的理查德·托尔曼理论物理学教授。费曼热心参与物理学普及事业，出版有《费曼物理学讲义》。费曼还因他的半自传《别闹了，费曼先生》等，而在公众中颇有名气。

“第一原则是：你绝不能欺骗自己——而你自己，恰恰是最容易被欺骗的人。”理查德·费曼在1974年加州理工学院的一次毕业典礼演讲中这样说道。他并没有以一位高高在上的哲学家口吻发言，而是作为一名身处科研一线的物理学家，为日常工作提供一条极其实用的准则。

他对名望、权威，以及那些无法经受检验的解释，向来缺乏耐心。他常说：“你的理论有多漂亮、你有多聪明、你的名字有多响亮，这些都不重要。”“如果它与实验不符，那它就是错的。科学的关键，就在这句简单的话里。”学生们起初往往会发出几声轻笑，但当这句话真正沉淀下来，现场便安静了。

费曼是个充满反差的人：活力十足，不拘礼法，却又对那些听起来头头是道、落到实践中却站不住脚的解释始终深怀警惕。相比之下，他更推崇的是好奇心，以及对胡说八道毫不容忍的态度。要是周遭的气氛变得过于沉闷拘谨，他就宁愿去敲他的邦戈鼓。费曼有一种强烈的本能：理解一件事，最好亲手去做，而不是只在纸面上读它。对物理也是如此——他不要空洞的描述，他要真正的参与。好奇心本身无需辩护。没错，费曼当然也是诺贝尔物理学奖得主。他还发明了一套以图示方式理解光与物质相互作用的方法，也就是后来闻名于世的费曼图；借助这些图示，物理学家往往可以一眼看出复杂过程的关键结构。

▷理查德·费曼，摄于1984年，地点是马萨诸塞州沃尔瑟姆罗伯特·特里特·佩恩庄园附近的树林。当时，费曼与摄影师同在思考机器公司（Thinking Machines Corporation）工作，参与 Connection Machine CM-1/CM-2 超级计算机的设计。图片来源：Tamiko Thiel

十几岁时，费曼在没有电路图的情况下就能修理收音机。而在他作为公众人物留下的最后一次重要公开行动中，他揭示了1986年“挑战者号”航天飞机灾难的原因。彼时的他已身患癌症，他仍一针见血地戳穿了美国国家航空航天局（NASA）推理中的漏洞，他拒绝与官僚政客周旋，坚持只和一线工程师对话；并在电视直播中用一杯冰水演示了O形密封圈的失效。在他看来，修理收音机和解释“挑战者号”灾难，其实是同一个问题：两者之中，权威都遮蔽了现实，而一个简单的实验就足以让真相大白于天下。这种思维方式形成于机器学习和神经网络出现很久之前，但放到今天，仍显得令人不安地贴切。

▷费曼演示冰水实验，1986年1月28日，挑战者号航天飞机在冰冷的空气中发射，不久后爆炸。费曼被任命为总统调查委员会成员。他在公开听证会上，他将航天飞机推进器上的密封材料（O形圈）浸入冰水中，证明在低温下橡胶会失去弹性，从而导致燃料泄漏和爆炸。

你几乎可以想象，费曼会忍不住站起身来，抛出一个看似轻描淡写、实则一剑封喉的问题：你怎么知道？

如果费曼今天还活着，在当下的技术世界中四处游走，你很难想象他会西装革履地站在某场 AI产品发布会的聚光灯下。他不喜欢炒作，也始终警惕那些在细节尚未弄清之前就被高调许下的宏大承诺。他同样警惕那种以掌声代替提问的场面。比起揭晓一件看似完成的产品，他更可能会说：“我其实还不知道这东西到底是干什么的，也正因为如此，我才对它感兴趣。”他也许会当场把演示系统拆开，甚至先弄坏它，再试着把它拼凑复原。仅此一举，就足以让现场的热潮迅速退去，也足以让那些眼巴巴盼着一场完美路演的投资人和利益相关者们，如坠冰窟。

比起站在台上，更容易想象的是，费曼会坐在灯光昏暗的礼堂最后一排，手里拿着笔记本，专注地看着眼前的一切。屏幕上，一组组色彩鲜艳的动画不断掠过：发光的神经网络、流动的数据，还有自信地一路向上的箭头。画面里没有误差线，也看不到不确定性。这个演示看上去近乎完美，前提只是别发生任何意外。台上的演讲者解释说，这个系统“理解语言”、“推理世界”、“发现新知识”。这些说法一次次换来台下的点头和礼貌性的掌声。你几乎可以想象，费曼会忍不住站起身来，抛出一个看似轻描淡写、实则一剑封喉的问题：你怎么知道？

但初次面对这一整套景观的费曼，大概不会急着开口。他会先等一等，听听是否有人解释，当机器出错时它究竟会怎样表现；又或者，人们到底凭什么判断它真的理解了什么。他也会注意到，这场演示只是毫无瑕疵地成功了一次，却没有人追问：如果输入变得古怪、不完整，甚至本身就是错的，又会发生什么。他会听见在这个会场里，“话语”承担了太多不可承受之重，而“实验”却几乎缺席。

▷彻底的诚实：在1974年加州理工学院的毕业演讲中，理查德·费曼告诉学生，科学诚信取决于“彻底的诚实”。实验应当“尽量提供一切有助于他人判断你的贡献价值的信息，而不只是那些会把判断引向某一特定方向的信息”。

图片来源：维基共享资源

如今，人工智能正以一种变革性力量的形象被呈现给公众，仿佛它将彻底革新科学、医学、教育，甚至重塑创造力本身。在很多方面，这些说法并非言过其实。机器学习系统确实能够在人类难以企及的规模上识别模式，例如预测蛋白质的三维结构，筛查组织和细胞图像中的变化，识别埋藏在噪声中的罕见天文信号，以及按需生成流畅的文本或图像。这类系统尤其擅长以惊人的速度和效率处理海量数据，从中发现那些原本可能始终隐而不见的规律。

费曼不会轻易否定这一切。他本人一直对计算与模拟深感兴趣。在洛斯阿拉莫斯国家实验室工作期间，他曾参与开创蒙特卡罗方法，也就是通过随机模拟大量可能结果，再对结果取平均的一类方法；同时，他也推动了量子力学中的计算研究。人工智能如果使用得当，可以帮助科学家提出更好的问题，探索更广阔的参数空间，并发现那些值得进一步研究的模式；但如果使用不当，它也可能让这一过程过早短路，给出答案，却没有洞见；呈现相关性，却没有因果解释；作出预测，却缺乏真正的理解。真正的危险不在于自动化本身，而在于人们容易把令人印象深刻的表现误认为真正的理解。

如今，许多人工智能系统本质上仍以“黑箱”的方式运作。这些模型建立在海量数据之上，而这些数据往往还是专有的；至于模型内部究竟如何得出结果，甚至连开发它们的人也未必能够说清。现代神经网络通常拥有数百万、甚至数十亿个可调参数。费曼同时代的科学家约翰·冯·诺依曼（John von Neumann）曾半带讽刺地说：“给我四个参数，我就能拟合出一头大象；给我五个参数，我还能让它的尾巴摆起来。”这句话提醒我们，不要把噪声误当成意义。神经网络生成的输出往往显得流畅、自信，有时甚至近乎不可思议地敏锐。但它们很少告诉我们，某个答案为什么会出现，更很少说明系统会在什么情况下失效。

这会带来一种微妙却强大的诱惑。当一个系统表现得十分出色时，人们很容易把表现当成理解，把统计上的成功当成解释。费曼一定会警惕这种倾向。临近生命尽头时，他曾在黑板上写下一句简洁的话，像是一条判断标准：“凡是我不能创造出来的，我就不理解。”对他而言，理解意味着你能够把一件东西拆开，再重新搭建起来，并且知道它会在什么地方出问题。而黑箱系统恰恰颠倒了这种本能。它们诱使我们接受那些自己无法完整还原的答案，也让我们相信一些结果，直到出了问题，才意识到自己其实并不知道它们的边界在哪里。

费曼给这种混淆起过一个名字，叫草包族科学，或“货物崇拜式科学”。这也正是他1974年毕业演讲的题目。在他看来，所谓草包族科学，就是一种只模仿科学外表、却没有把握其核心精神的研究。它看上去拥有实验、图表、统计和术语等一整套科学形式，却缺少真正关键的东西。

这个说法源于南太平洋一些岛民的做法。二战结束后，他们盼望运送物资的飞机再次降落，于是修建木制跑道、搭起竹制塔台，模仿自己见过的整套仪式，甚至连“耳机”和“信号火”都一并照做。费曼说：“他们遵循了所有表面上看得见的规则，但他们漏掉了某种根本性的东西，因为飞机并没有降落。”这个故事要说明的，并不是这些人愚蠢，而是只复制表面的形式，并不能带来真正的结果。若不理解一件事为什么起作用，那么单靠模仿它的外观，终究是不够的。

费曼想表达的，并不是科学会制造奇迹，而是科学教给人一种能够抵抗教条的思维方式。

人工智能真正的风险，并不在于它无效，而在于它恰恰足够有效，足以让我们忘记科学究竟是为了什么。科学不是为了生产答案，而是为了让观念接受现实的检验。在费曼看来，科学的要义就在于精确找出，一个想法究竟会在什么地方失效。当“表现”本身成了目标，当成功只按那些看起来正确的输出结果来衡量时，这种科学所要求的训练与纪律，也就会悄然松动。

他热爱技术，也热爱新工具，尤其是那些能让人更容易把想法拿到现实中检验的工具。他创造过一些可视化方法，例如为他赢得诺贝尔奖的费曼图。这些方法能够把复杂的相互作用简化出来，同时又不掩盖背后的前提条件。但他始终很注意区分两类东西：一类是帮助我们探查自然的工具，另一类则只是产出看似令人信服答案的系统。在费曼看来，工具的价值不在于它们有多强大，而在于它们能让人更容易看清，一个想法究竟会在哪里失效。

在费曼看来，推动科学前进的不是自信，而是怀疑，是那种愿意承认自己仍然不能确定的态度。他认为，科学知识从来不是一整套牢不可破的定论，而是由许多确定程度不同的判断拼接而成；它们都只是暂时成立，随时可能被修正。费曼说：“我宁愿面对那些无法回答的问题，也不愿接受那些不容质疑的答案。”这与风险投资、企业竞争和媒体运作的逻辑恰成对照：风险资本重赏那些口出狂言的赌徒，商业绞肉机偏爱风驰电掣的速度，而媒体的聚光灯只追逐哗众取宠的奇观。在这样的环境里，承认不确定性，往往是要付出代价的。

但在费曼看来，不确定并不是弱点，而是进步的引擎。他说：“我觉得，活在未知的迷雾中，远比抱着一堆可能大错特错的答案自欺欺人，要有趣得多。”

人们很容易以为，这些担忧只属于学术圈。但人工智能早已不再被限制在实验室和大学之中。它正在塑造人们读什么、看什么，塑造学生如何被评估，塑造医疗风险如何被识别，也塑造贷款、就业和保险等决策的形成方式。

在许多这样的场景中，人工智能系统已经不再只是工具，而更像是一种制度性不透明。它们所带有的权威感，往往超过了人们能够对其提出质疑的空间。它们输出的结果常常显得客观，哪怕背后的推理过程并不清晰。当一项建议出了错，或者一项决定显得不公时，人们往往很难追查问题究竟出在哪里：是数据有偏差，是模型出了问题，还是某些决定性的假设，早在系统部署之前就已经被写进了它的逻辑之中？

在这种情境下，不自欺就不再只是学术上的美德。当这些不透明的系统开始真实地影响人们的生活时，理解它们的边界，知道它们会在什么时候失效、又为何失效，就成了一种公民生活中的必要条件。信任所依赖的，不只是系统表现得是否出色，还在于它是否能够被问责，是否能在关键时刻让它的局限被看见、被追问，并被清楚地说明。

退一步看，问题并不在于人工智能会不会改变科学。它已经改变了科学。更深层的问题是，我们是否还能守住那些最初使科学知识值得信赖的价值。假如费曼今天还在，他的回答大概会一如既往地简单：慢一点，先弄清自己真正知道什么，坦率承认自己不知道什么，永远不要把令人印象深刻的结果误认为理解。历史不止一次表明，科学知识可以跑得比智慧更快。费曼那一代的一些物理学家后来都曾反思，他们很早就学会了什么事情可以做到，却很晚才开始追问什么事情才应该去做。而当这种领悟终于到来时，往往已经晚得令人不安。

1955年，费曼在加州理工学院举行的一次美国国家科学院会议上发表了一场题为《科学的价值》的演讲。他说，科学是一种以怀疑为核心的训练，它让人始终保有追问的自由，去质疑那些我们自以为已经知道的东西。他真正想表达的，并不是科学会制造奇迹，而是它教给人一种能够抵抗教条、虚假确定感和自我欺骗的思考方式。演讲开场时，他没有诉诸公式，也没有诉诸权威，而是引用了一句佛教谚语：“每个人都被赋予一把打开天堂之门的钥匙，而同一把钥匙，也能推开地狱之门。”费曼说，科学就是这样一把钥匙，是一种力量巨大的工具。它可以打开两扇门。至于它最终通向哪一边，取决于你。

译者后记

费曼留给今天最重要的提醒，也许并不只是“怀疑”，而是对“理解”本身保持严格的诚实。人工智能的真正挑战，未必在于它是否足够强大，而在于当它越来越擅长给出流畅、正确、甚至令人惊叹的结果时，我们是否还愿意追问：这些结果究竟从何而来，又在什么地方可能失效。科学之所以值得信赖，不只是因为它能生产答案，更因为它要求人不断暴露答案的边界。某种意义上，这篇文章谈论的并不只是AI，也是在追问一个更古老的问题：当技术能力持续增长时，人类是否仍有勇气承认自己的无知，并守住不自欺的底线。

原文链接：https://nautil.us/what-would-richard-feynman-make-of-ai-today-1262875

关于追问nextquestion

天桥脑科学研究院旗下科学媒体，旨在以科学追问为纽带，深入探究人工智能与人类智能相互融合与促进，不断探索科学的边界。欢迎评论区留言，或后台留言“社群”即可加入社群与我们互动。您也可以在后台提问，我们将基于追问知识库为你做出智能回复哦~

关于天桥脑科学研究院

天桥脑科学研究院（Tianqiao and Chrissy Chen Institute）是由陈天桥、雒芊芊夫妇出资10亿美元创建的世界最大私人脑科学研究机构之一，围绕全球化、跨学科和青年科学家三大重点，支持脑科学研究，造福人类。

Chen Institute与华山医院、上海市精神卫生中心设立了应用神经技术前沿实验室、人工智能与精神健康前沿实验室；与加州理工学院合作成立了加州理工天桥神经科学研究院。

Chen Institute建成了支持脑科学和人工智能领域研究的生态系统，项目遍布欧美、亚洲和大洋洲，包括、、、科研型临床医生奖励计划、、科普视频媒体「大圆镜」等。