普林斯顿教授Arvind Narayanan：蒸汽机没有抢走的工作，AI也无法剥夺｜ICML 2026

AI替代不了你，但会用AI的人可以。

作者丨吴思梦

编辑丨岑 峰

1890年，电动机首次开进美国纺织厂，工厂主们兴奋地以为蒸汽时代结束了。可接下来的三十年，全美制造业生产率几乎毫无提升。 因为他们只是图省事地用电动机换掉了蒸汽锅炉，却沿用了旧的传动轴，所有机器靠这根轴驱动，电机只是代替了锅炉去转这根轴。

直到第一批习惯了旧规则的管理层退场，新一代工程师才突然意识到，电力的本质是“分布式”的——它不需要一条中央主轴。于是他们开始拆掉旧厂房，重新设计车间，围绕装配线重构流程，培训工人，甚至推动了劳工法的修改。

电力从发明到真正改变工厂生产方式，花了40年。历史反复证明，技术爆发只需一瞬间，但人类社会重构组织、真正适应它，往往需要一代甚至几代人。

2026年，历史正在疯狂重演。Agent时代的的轰鸣声响彻大厂，硅谷开始贩卖“永久底层阶级”的焦虑，这是一个慢一步就会被蒸馏的时代。在极度亢奋与终极恐慌的夹击下，人类似乎又一次站在了十字路口——“AI是不是很快就要抢走我们所有的工作？”

在2026年的国际机器学习大会（ICML）上，普林斯顿大学计算机科学教授、信息技术政策研究中心主任Arvind Narayanan探讨了这个问题。作为最早一批证明机器学习模型会如何反映并放大文化刻板印象的研究之一，Arvind 教授还曾入选《时代》周刊AI领域最具影响力百人榜。

在他的演讲中，没有给出一个既定的绝对答案，而是用经济史和实证数据，把AI从“即将颠覆一切”的神话拉回了一条以数十年为尺度的现实轨道。

他指出了一个被行业系统性忽视的裂缝：AI的能力在飙升，可靠性却几乎没动。他据此提出“Agent不可能三角”——通用性、高风险、自动化，三者最多取其二。这意味着AI在当下更是一种协作工具，而非替代工具。而当AI接管了可验证任务后，人类的核心价值将从“建造”转向“评估”，从“划船”转向“掌舵”。

在“躺平”与“恐慌”之间，Narayanan给出了第三条路：把AI省下的时间再投资于自身成长，先成为专家再借助AI放大能力，走向“共同超级智能”——未来的超级智能不是孤立的机器，而是把AI当作跳板的人类。

以下是Arvind Narayanan在ICML 2026大会发表的主旨演讲精编稿，AI科技评论基于原英文演讲内容进行了不改原意的翻译编辑。

How to Prepare for a Future Where AI Can Do More of Our Work

主讲人：Arvind Narayanan，普林斯顿大学计算机科学教授，信息技术政策研究中心主任

01

两种AI叙事：替代还是增强？

当前正是AI领域蓬勃发展、令人振奋的时期，但同时也是AI社区深感焦虑的时期。而我想要直面这种焦虑，予以回应。

我想谈一谈如何为未来做好准备这一问题，届时AI将能够承担越来越多我们当前正在开展的工作。让我先交代一下我的背景。我在普林斯顿大学带领一支团队，致力于推进AI智能体评估领域的科学研究。我们的工作与通常的基准测试有所不同：我们试图跳出那种“你看，基准测试上的能力正在提升”的常规说辞。这类说法往往会被普通大众误解为暗示AI智能体很快就会抢走我们所有人的工作，或许真有这种可能，但这并非我们在研究中试图达成的目标。我们要切实去理解，在这些智能体落地应用于真实场景的过程中，除了能力之外，还有哪些真正关键的因素，并尝试将这些认知融入到评估工作当中。

或许我更为人熟知的作品，是与Sayash Kapoor合著的一篇题为《AI as Normal Technology》（《作为常规技术的AI》）的文章。这是一种思考AI中期发展前景、思考人类该如何适应这一前景，进而思考如何让AI适配社会与经济需求的思路。我们一直在四处奔走，撰写各类文章，探讨律师该如何适应新形势，或是记者该如何转型，但颇具讽刺意味的是，核心问题恰恰在于“该如何适应”这件事本身，它最先冲击的是我们自己的社区。

无论是软件工程领域，还是AI研究本身，这些领域的AI能力无疑都在飞速发展。而且我认为，我们该如何应对这一问题，其重要性并不局限于这个圈子。我认为全世界都在关注着。倘若我们只是一味妥协，默认未来自己的大量工作将由AI完成，而非设定清晰的边界，我认为这将导致比我们今天看到的更强烈的政治反弹，这个问题是全世界都要面对的。

从AI诞生之初，就一直存在两种相互角力的叙事。这会是一项将取代我们专业技能的技术吗？还是说，这项技术会进一步强化我们的能力，而非让我们变得多余？过去，这种区分仅停留在学术与哲学层面，或许还带有几分理论色彩。但如今，这已然成为一个极具现实紧迫性的问题。我们每个人都得做出选择，要么明确自己属于哪个阵营，要么弄清自己在这个连续区间中所处的位置。因为信奉其中一种而非另一种所产生的实际影响截然不同。

如果你认为这项技术在几年内就能取代我们当下所做的一切工作，那么或许正确的应对方式就是趁着我们的技能还没被淘汰，尽快积累财富。这就是硅谷很多人选择的道路，你可能听说“永久底层阶级”（permanent underclass）的梗。但如果你像我一样相信，这是一项将极大放大人类潜能的技术，那么现在就是构建技能的最佳时机，尤其是那些与AI互补的技能，以及围绕AI的种种能力：主动性（agency）、品味（taste）、判断力（judgment），等等。

而我想强调的是，这个选择确实至关重要。如果你选择了第一条路径，而最终发现AI实际上是一种赋能型技术而非替代型技术，那么我认为，在未来几年里，你或许错过了史上最佳的窗口期，去培养那些能让我们变得极具竞争力的技能。稍后我会解释我这么说的具体含义。正因如此，我认为并非所有人最终都会落脚于同一处，但我们所有人都应当对此有所考量。

02

AI的经济影响：

从“发明”到“扩散”，以数十年为尺度

我之前提到过一篇题为《AI as Normal Technology》的文章，这正是我今天要分享内容的理论框架。当我们说AI已成为常态时，我们指的并不是说它就只是锤子、牙刷这类普通的日常技术，我们在文章中明确强调，这是一项规模堪比工业革命的变革性技术。我们并非AI怀疑论者。这不是一句口号，而是一个框架——打个比方，就是一种因果模型，用于阐释AI能力如何对经济和社会产生特定影响。

我认为这篇论文在学术层面主要有两点贡献。其中一种观点认为，能力提升的速度虽快，却并非决定经济与社会影响速度的核心因素，我们需要梳理所有下游瓶颈，以及这些瓶颈为何会形成。真正要花数十年才能厘清。其次，它还针对超级智能、递归自提升等概念，形成了一种截然不同的思考方式。我将在今天的演讲中基于该框架展开阐述。

当我们思考任何强大技术时——在AI之前，不妨先想想电力。学界已开展充分研究，我们也拥有成熟的分析框架，可用于梳理技术能力转化为经济影响的内在逻辑。这就是经典的“发明-创新-扩散”三阶段框架。以电力为例：发现电磁学原理、厘清AC与DC的区别，属于发明阶段。但人们并不会直接使用市电来供电，我们会使用电器，这些东西是必须被发明出来的，这是下游的创新阶段。然后是扩散，即人们开始逐步采用这些事物的渐进过程。

我们把这一框架应用于AI，并进一步拓展延伸，发展出了一个四部分框架。

第一阶段，各类模型的性能正在飞速提升。

第二阶段，我们并不直接使用大语言模型。它之所以能对我们所有工作产生如此深远的影响，核心原因就在于编码智能体这类产品，能够将这些潜在能力转化为实际可用的成果，对工人而言实用且易用。

第三阶段是早期采用阶段——很长一段时间以来，人们一直在尝试“氛围编程”（vibe coding），而如今我们已经明白这并非开发软件的最佳方式，因此有了更为成熟的智能体工程实现方法。

第四个阶段，也是最缓慢的阶段：适应或结构转型。我今天的分享内容大部分都会围绕这一点展开，而我认为，这正是需要耗费数十年时间的部分。即便在软件工程这类相对较早采用编码智能体的领域，这件事实际上也尚未真正启动。

让我用工厂电气化改造的例子来说明。在电力出现之前，工厂有一台硕大无朋的蒸汽锅炉，产生的动力通过机械齿轮、传动轴等部件输送至任何需要它的地方。这一结论源自经济史学家保罗·大卫（Paul David）的研究。当电力问世后，工厂主便试图用发电机取代那些蒸汽锅炉，心想效率会高得多，产能也会大幅提升。但这种“直接替换”的思路并未奏效。我很喜欢这个说法，因为如今在聊起AI智能体的时候，我们总能听到这种论调——说这些东西很快就能直接顶替人类劳动者的岗位了。那不管用。

就电力领域而言，真正行之有效、且耗费了四十年时间才得以形成的共识是：电力是一种性质截然不同的技术。它便携性极强，你可以把电力输送到任何需要的地方，进而围绕装配线的逻辑重新规划工厂的整体布局，还能催生出劳动分工以及其他我们如今习以为常的现代理念。而这就需要改变员工的培训、招聘和解雇方式，出台新的劳工法案等等。由此可见，工厂要想充分发挥电力的优势，就必须在组织架构、法律及监管层面做出这类适应性调整。

我们认为，这便是数十年后我们在发展AI的过程中会经历的那类历程。我们将对工作进行根本性重组。我们尚且无法预见这会是怎样的局面，而这正是摆在我们所有人面前的挑战。这并非仅仅是AI企业的任务——就像当年搞清楚工厂该如何重组，也绝非电力公司的职责一样。在我们看来，这是进程最缓慢的环节，可以说是AI产生经济影响过程中的关键限速步骤。

我来做一点推测。如果未来真的会出现这样的情形：编码智能体能够构建出规模达千万行代码的代码库，且这些代码库不会充斥着漏洞与安全隐患——那么我们去开发一款供数十亿人使用的软件，就没多大意义了。针对每个个人或团队的需求定制软件，会要合理得多。这就是我所说的极致个性化。这不仅仅是技术层面的变革，更是整个行业的转型。话说，我们到底为什么还需要软件公司？软件开发或许会大规模回流至实际使用该软件的企业与团队内部完成。需要再次说明的是，这只是推测，但关键在于，正是这种进程十分缓慢、耗时数十年的组织变革与人员变革，才能让我们充分释放AI的全部潜力。这便是该文章的核心洞见之一。而且，我也没法百分之百确定这件事会耗费很长时间，但当我们回顾过往的技术时，每一次都要耗时数十年。

我必须非常清楚地指出：今天，这个过程实际上并未真正启动。确实，大多数工作者都会使用AI，但他们的使用都停留在非常表面的层面。几个月前Anthropic发布了一张图表——蓝色部分代表人们本可能将大语言模型用于的用途，红色部分则是他们实际使用大语言模型的方向，两者之间存在巨大的差距。一个原因或许是人们接受新技术的速度偏慢，这确实是部分原因。但当我们研究这个问题时，我们发现：也许那些部署AI却没取得多少成效的人，反倒掌握着AI行业实际上并不了解的、关于AI实际局限性的某些情况。在能力与落地应用的关系上，我们应当多一分谦逊。

03

被忽视的真相：

能力飙升，可靠性几乎原地踏步

我们从调研数据中发现，AI的表现未达预期，首要障碍是可靠性。于是我们想要弄清楚：我们究竟能不能切实对可靠性进行测量？把可靠性与能力区分开来，看它是否真的构成了AI Agent实际有用性的瓶颈？

我们梳理了约十到十二项不同的可靠性指标，将其整合为四个维度。首先是一致性（consistency）——关键在于它是每次都能做对，还是仅仅偶尔做对一次？让我解释一下我的意思。假设我们听说某个AI智能体的准确率为70%。这并不能说明它能处理70%的任务——而是说对于它确实能处理的那些任务，它每次都能稳定完成，这一点对于部署来说非常有利，你可以将其部署在这部分任务子集上。但如果任意一项任务都有30%的概率出现不可预知的故障，那么从部署的角度来看，这基本上毫无用处。或许令人震惊的是，据我们所知，目前市面上所有的智能体基准测试都没有对这二者加以区分——这两者的准确率均为70%。

我们还研究了鲁棒性（robustness）——环境出现小幅变化时会怎样；校准性（calibration）——模型的置信度与实际表现是否匹配；以及操作安全性（safety）——核心聚焦于系统发生故障时，故障是否可恢复，还是会出现诸如删除生产数据库这类严重后果。再者，对人类从业者而言，如果我们认为某个人能胜任某项工作，那考量的维度远不止准确性这一项。但事实证明，我们对智能体的评估方式，仅仅关注了准确率这一项。

当我们将这些维度绘成图表时，发现了相当令人意外的现象。这一结论基于过去约24个月内开展的两项互为补充的基准测试得出。在这一阶段，准确率从约25%大幅飙升至接近80%——这就是你在左侧看到的内容。但你在右侧看到的是可靠性——结果表明，可靠性仅提升了5到10个百分点。这一情况普遍存在于所有前沿模型中，并非某一家特定公司独有的问题。

由此产生的一个重要启示是：我们必须明确区分用于自动化的智能体和用于协作的智能体。目前，行业并未对这两者加以区分。如果以无界面模式运行代理，它就变成了自动化代理——但这种看法并不妥当。因为可靠性这类对自动化智能体而言至关重要的特性，对于一个你可能用来提升创意写作水平的协作智能体来说，实际上反而会成为阻碍。对于这类智能体而言，你不会希望它表现得像个每次都只会重复相同操作的机器人，你会希望它具备创造力，能够探索不同的可能性——从某种意义上来说，各种可能性是无法预测的。

我们甚至认为，这些模型的框架乃至训练后环节，都应当根据模型是用于驱动协作智能体还是自动化智能体而有所区别。尽管我希望可靠性会持续提升，自动化也会随着时间推移变得更易实现，但我确实认为就目前而言，协作智能体的表现会继续远超自动化智能体。许多仓促采用智能体实现业务流程自动化的企业，如今正意识到这种做法的局限性——当Agent删除生产数据时，他们意识到这其中还涉及法律层面的责任约束。我们近期看到大量新闻，不少企业正在缩减已落地部署的规模。

我认为这是一个被严重低估的重大局限。而我将这一点形式化的方法，就是运用我所说的“AI智能体三难困境”（AI Agent Trilemma）。有三个理想特性——这类物品你最多可拥有两个：第一，你想要一个通用智能体——使用语言模型，而非针对每个独立任务专门创建的模型，通用性正是其能够在众多不同任务中快速部署的核心原因；第二，你期望它具备高度的适用性——是涉及重大利害关系的场景，绝非无关紧要的细枝末节；第三，你会希望它能够实现自动化。我们认为，就目前而言，这三个特性中你最多只能同时满足两个，这在中期来看会是一个相当大的限制。而这正是我认为就目前而言，AI在更大程度上仍是一种协作技术，而非一种会将工人取而代之的自动化技术的原因之一。

04

软件工程师的案例，

写代码从来不是瓶颈

接下来我们来聊聊劳动力相关的影响。这是我花了大量时间思考、与他人探讨，并查阅劳动经济学家的相关观点等内容后得出的结论。我想以软件工程作为案例研究——原因同样在于编码智能体的应用普及速度尤为迅猛。

你或许会觉得：好吧，我明白没法把这件事完全自动化掉，但如果智能体让软件工程师的工作效率提升10倍，那我们需要的软件工程师数量就会减少十分之九——这难道不是显而易见的结果吗？然而，这种说法完全和数据相矛盾。

我们在一篇后续论文中对此进行了探讨。我们研究了大量据称由AI驱动的裁员事件，结果发现这些全都是“AI洗白”（AI washing）的典型案例——公司当时面临资金压力，而事实证明，把问题归咎于AI，远比给出真实原因来得省事。经济学家对此已进行了细致分析，结果显示，软件工程领域的就业规模仍在持续增长。尽管相较于一个不存在编码智能体的反事实世界而言，这一过程的速度或许要慢一些。所以这完全是严重违背叙事逻辑的硬伤。

这种情况我们屡见不鲜，这是劳动经济学家反复验证得出的结论。你或许听说过“杰文斯悖论”（Jevons Paradox）这个术语，我个人更喜欢“劳动总量谬误”（lump of labor fallacy）这个说法。这便是一个直观清晰的示例：ATM机问世后，银行人工柜员的就业人数不降反升。这是为什么呢？这看似矛盾，但细想之下就会发现完全合乎情理。自动取款机普及之初，银行发现此举具备可行性，开设了一大批此前从经济层面考量并不具备开设可行性的区域分支机构。而一旦这些网点开设起来，针对ATM机无法办理的业务，银行至少在部分时段会发现，网点内需要配备人工柜员。

这个问题在放射科领域也反复出现。例如，杰夫·辛顿在十年前就做出了那个著名的预测，声称放射科医师未来会在五年内基本绝迹。我能理解他为什么会做出那样的预测，但事实证明，迪娜·穆萨对此有很到位的分析——放射科相关岗位的就业规模持续增长，这并非因为放射科医师对AI持排斥态度。他们实际上正积极主动地采用AI。但事实证明，当某项工作的一部分变得更容易完成时，实际上对它的需求反而会增加，而且这带来的回报完全足以弥补相关成本。

我们已经撰写了一篇探讨律师应当如何做出调整的论文，其中包含了大量相关内容。但有一点我要说明：如今AI实际上已经让提起诉讼变得容易得多，而这就意味着律师要处理的工作变多了。如果我们不喜欢生活在一个动辄诉讼的社会中，可能会对此感到十分不快，但从律师就业的角度来看，这可是个好消息——AI非但没有让律师的工作实现自动化，反而推高了对律师的需求。

就连翻译这件事本身，都有个离谱到让我瞠目结舌的极端例子。这是一个近十年前AI就已基本达到人类同等水平的领域。与此同时，人工译员的雇佣规模基本保持稳定，且预计未来十年内仍将维持这一态势。造成这一现象的原因有很多，但其中一点在于：你可翻译的内容体量、以及可将内容译入的语言种类，实际上都不存在上限。

回到软件工程的话题。为什么AI至今没有替代软件工程师？我们从2019年的一篇论文中早已知道——编写代码其实根本不是瓶颈。论文摘要中有一句关键的话：“我们的分析印证了此前研究的结论，其中就包括开发者在开发工作上投入的时间极少这一点”——而我们也对此进行了量化验证。在过去一年左右的时间里，随着软件工程师开始采用编码智能体，他们逐渐意识到，这似乎并没有减少他们的工作量。网上出现了大量博客文章，都在反复重申一个事实：编写代码根本不是瓶颈。

那么，如果写代码实际上并非瓶颈，软件工程中的瓶颈究竟是什么？我们提出了一套框架，将其命名为“决策-执行-交付”（Decide-Execute-Deliver）框架。核心层级是决策层——负责理解客户需求、实现产品市场匹配、制定产品规范以及相关工作。那东西不会被AI压缩。但中间层——也就是执行层，实际的编码、调试等工作——正不断被压缩。但一开始，那可能只占全部工作量的三分之一。最后是交付层——交付指的是你要对自己的代码有足够深入的理解，从而能够为你交付的成果、集成工作、维护工作、测试工作以及所有相关事宜承担责任。而且那部分也不会被压缩。而事实上，在AI压缩中间层的同时，第一层和第三层可以说正在不断扩张。

我喜欢借助一个比喻来解释当下的情况。我认为这种情况在软件工程领域已然存在，并且在我们能想到的诸多面向知识工作者的职业中，这种情况还会愈发普遍。与起重机操作员或叉车操作员的情况类似——这台机器切实放大了人类从事体力劳动的潜能，所有繁重工作都由它来完成，但主导权始终掌握在人手中。而且我认为，认知类工作目前正面临着这样的情况：机器将越来越多地承担认知层面的繁重工作，但主导权仍掌握在人类手中。于是，整个工作的核心被重新定义为操作机器、理解机器、掌控机器，而非由我们人类亲自完成认知层面的工作。

这看似是一场翻天覆地的变革，但从某种意义上来说，这不过是软件工程领域反复上演的进程的延续：自机器代码时代起，我们已经历了多轮技术浪潮，每一轮都为我们带来了生产力近一个数量级的提升，而且在我们沿着这个阶梯攀升的这段时间里，软件工程岗位的需求量非但没有下降，反而增长了约一万倍。原因很简单，因为需要编写的代码量已经呈指数级增长了好几个数量级。

05

递归自我改进，为什么我不为此失眠

现在我们来探讨这样一种可能性：我目前所说的一切都将变得毫无意义，因为某种技术起飞或奇点将会到来，到了那个时候，我们就再也无事可做了。接下来的十五分钟，我会和大家聊聊，为什么我认为我们应当认真考量这件事，但说到底——我才不会为这事失眠呢。

众多企业都曾表示，它们正全力冲刺，力争实现递归式自我提升（recursive self-improvement）。这些都是正经的正规企业，我认真对待这些事。我想问个问题：假设明年左右就能实现递归自我提升，会带来哪些影响和后果？AI领域对此的普遍看法大致如下：递归式自我提升将催生AGI，即通用人工智能——那是个出了名的模糊术语，目前定义尚未形成共识。定义主要分为两大类：其一，AGI会在一系列认知维度上与人类相似；另一种定义则是，它将能够执行一系列具有经济价值的任务。而在AGI出现后不久，这就会催生出ASI，也就是超级人工智能，它将在所有可观测的认知领域全面超越人类的能力。

我的观点是，这种看法有点荒唐。这是进步的四个不同维度——这一论断固然有力，但我已做好充分准备为其辩护。核心观点是：这些维度之间不存在任何相互推导的关系。我喜欢用一个比喻，我把它称为“夏威夷问题”。或许在AI发展的早期阶段，把这些都当作遥不可及的目标也无伤大雅，所以我们没有对它们做出明确区分。但如今这正演变成一个实实在在的问题。举个例子来说，假设我们是早期的探索者，我们希望有朝一日能去夏威夷——用一个统一的术语来指代这整片岛群倒也无妨，但随着我们的船越驶越近，我们最好能用不同的说法来分别谈论这些岛屿。否则，我们只会搞不清自己身在何处、又要去往何方。海伦·托纳（Helen Toner）等人也提出了极为相似的观点。

让我们逐一详细展开。首先是递归式自我提升。假设某公司在明年宣称，他们已经研发出了RSI——一套能自主打造继任系统的AI系统。这究竟意味着什么？一方面，情况可能是他们让大语言模型输出了一大堆关于如何调整架构、数据管道的思路，对其进行了自动测试，保留了有效的改进方案——那不过是换了层光鲜外衣的超参数搜索罢了。长期以来，我们一直拥有类似AutoML的系统。要知道，我们可不会把那玩意儿叫做超级智能。这就是该范围的一个极端，是值得追求的目标，但它和另一个极端截然不同——你可以设想那种极端情况是公司真的试图用AI取代人类AI研究者的创造力与智力。这不只是某一位研究者的功劳，也不只是这家公司内部研究人员的成果，而是全球数十万从业者共同组成的整个社群的心血，他们的每一项创新，最终都在推动AI系统的不断完善。而现在要替代的，正是这一整套体系。这是一个截然不同的目标。

当人们谈论RSI时，并不清楚他们指的是其中哪一种。而我的观点是，我们在短期内可能实现的任何RSI，都将处于该范围的左端附近。原因非常简单：AI目前仍处于这样一种状态——在可验证任务上的表现要远优于不可验证任务。当然，AI性能的某些维度，比如速度和效率，是可验证的，而且它们有可能在短期内通过递归自我改进得到提升。但创造力以及智能的其他维度则并非如此。这在某种程度上就是一项无法验证的任务的缩影，为什么？因为我们甚至都还没搞清楚该如何测试AI的创造力。从认知科学和神经科学的角度来看，我们对人类创造力的理解还不够深入，无法针对它设计出明确的测试方案。由此你会发现这是一种典型的鸡生蛋、蛋生鸡的两难问题：要提升AI的创造力，本身就需要当前AI系统并不具备的那种创造力。所以这就有点像一个第二十二条军规。

德瓦克什·帕特尔（Dwarkesh Patel）提出了一种很好的表述方式——听着有点随意，但我个人非常喜欢。他几年前就注意到了这一点，而且也经常谈及此事：这些系统其实并未记住人类的全部知识，即便如此，它们也始终无法建立起能够催生新发现的关联。可能会有少数反例，尤其是在人工智能相关问题这类窄域场景下，但请真正静下心来思考那些灵光乍现的顿悟时刻——那些或许出人意料、发生在看似毫不相干的领域之间的关联，我们会将其与人类科学发明与创造的伟大成果联系在一起。而大语言模型目前显然还远未达到这一水平。

我花了相当多的时间深耕认知科学领域的文献，目前看来有两类不同的研究文献正以略有差异的视角探讨这一问题，出于我尚未完全厘清的原因，这两类研究之间几乎没有形成过交流。但根据我近期查阅的资料，我想提出几个关于AI创造力的假说。我确实认为，AI在创造力的诸多方面都落后于人类，尤其是在表征质量（representation quality）层面。表征质量对于认知而言是绝对的核心基础。回想一下深度学习，它在感知背后的表征质量方面实现了何等巨大的飞跃——就感知层面而言，AI在表征质量上已基本追平人类水平，但在人类用于创造力、推理等场景的表征层面，它仍未赶上。

尤其是弗朗索瓦·乔莱（François Chollet）曾谈到这样一个事实：支撑我们创造力的人类表征似乎呈现出一种“极端组合性”——一切都由为数不多的意义原子构建而成；而我们眼中人类工作记忆与信息处理的诸多局限，到头来反倒成了优势。正是这些局限，倒逼我们构想出了这类效率极高的表征方式。此外，许多旨在比较大语言模型与人类创造力的研究，都因“锯齿状问题”（jaggedness problem）得出了具有误导性的结论——大语言模型在某些维度上的表现远优于人类，比如记忆与调取可支撑创造力的存储模式，我们无法归纳出这些关键的实际局限性。

此外，当我们以创造性思维思考问题时，我们可以花点时间去琢磨这个问题，在思考的过程中慢慢梳理，在推理阶段实时优化我们对该问题的表征，最终达到这样的效果：哪怕把问题搁置一晚，次日再来处理时，解决这个特定问题的效率也会大幅提升。我敢肯定我们所有人都经历过这种情况，而这一点，自然是当前的AI系统无法做到的。我当时天真地以为，研究持续学习的人肯定会一窝蜂地关注这个方向，但当我开始查阅相关文献时，却发现并非如此。持续学习的核心关注点，说白了，是防止灾难性遗忘，而非随着时间推移对模型性能进行优化提升。此外，它更侧重于事实、技能以及诸如此类的内容，而非这些底层表征的质量。综上，再考虑到创造力不过是实现类人AI的诸多障碍之一这一事实，我确实认为，我们仍有很长的路要走。

话虽如此，我在此还是要表达一番谦逊之意——这些都只是假设，我认为我们需要实证验证。我们正在开展自主的实证实验，试图验证AI是否具备开展类人型AI研究的能力。我们正在开展这类长周期实验，在实验中我们会给AI智能体划拨数千美元左右的预算用于开展实验，给它一个研究课题来推进。我们的资料来源于人们在NeurIPS截稿期前后提交、尚未上传至预印本平台的论文，而且我们组建了一支由人类评审员构成的团队，这些评审员已针对该问题进行了数月的深入研究，同时他们尚未将相关内容存入归档库，因此不存在信息泄露或数据污染的风险。我们正尝试做出一些差异化设计，尤其是设置了一定程度的开放式问题，这样我们就能切实测试这些AI智能体运用判断力与创造力的能力。我们将很快公布详细研究结果。

这项工作的基础是我们所说的开放世界评估。我们就此发表了一篇论文，实际上已经完成了一项开放域评估，内容是让智能体构建应用并将其上传至苹果应用商店。这和递归式自我提升无关，但它测试的是另一种不同的内容。这是一支实力强劲的团队，成员来自多所高校、数家企业，以及UK AI安全研究所。

06

当前模型已足以支撑经济变革，

但方式另类

接下来，我要谈一谈这四个维度中的第三个：具备经济变革性的AI。我再次强调，这些都是相互独立的维度，在某一个维度上取得进展并不意味着在其他维度上也会取得进展。当谈及能够带来经济变革的AI时，我有一个或许颇具争议的观点：当前的模型已经基本足以支撑能够带来经济变革的AI。即便各大企业如今莫名其妙地停止发布模型，这场工业革命的影响也几乎是板上钉钉的事。

很多人会说AGI已经到来了，而我也确实认同这一说法。考虑到我在演讲第一部分对经济快速影响所表达的怀疑态度，这一点或许会让你感到意外。但并非如此，这实际上不仅与我此前的表述一致，更是对我在第一部分所阐述内容的重述。我刚才说的是，障碍出现在下游环节，因此模型的改进不会迅速改变经济状况。但同理而言，障碍实则出现在下游环节——即便不对模型进行优化，这些障碍也会逐步得到解决。没错，这或许需要数十年时间，但我们终将达成目标，而其带来的影响将堪比工业革命级别的变革。

目前存在诸多阻碍：可靠性仍是有待解决的阻碍之一，还有整合问题——将AI模型接入各类现有系统从而高效驱动各项业务运转；医学、法学及其他各类专业领域中需要纳入这些AI模型与系统的隐性知识；在很多情况下，监管条文始终僵化不变，禁止当下的AI系统以能产生实际价值的方式得到应用——而且在很多情况下，出台这类监管规定是有充分合理依据的。但要实现推广落地，就必须对其作出调整。但核心要点是：这些问题并非能在实验室里得到解决。它们不会在周二发布的下一版模型中得到解决。这些问题会在数十年的时间里通过技术扩散逐步得到解决。

这也引出了一个政策层面的观点。当前不少国家都在全力投入AGI竞赛，认为这和当年的曼哈顿计划类似——率先达成某项能力里程碑的企业或国家，就能收获对应的经济回报。我觉得这种想法很荒唐。根本不存在什么特定的能力里程碑来充分释放所有这类经济潜力——其经济潜力已然具备，这完全取决于我们所采取的所有这些下游行动。它不受能力门槛的限制。

现在来谈谈这四个维度中的最后一个：超级智能。我在文中所述内容的精简版有三点核心主张。第一，递归式自我提升并不能让我们达成目标——这些障碍是外在的。我之前举了医学试验或攻克癌症的例子——治愈疾病的难点甚至未必在于候选药物的研发，而在于临床试验通常需要耗时10到15年，才能在数千人身上完成测试。超级智能的瓶颈源于外部因素，这便是一个例证。不妨再想一下天气预报——你会觉得递归式自我提升会催生出超级智能，让我们能够精准预测一年之后的天气情况吗？由于混沌理论等相关原理，我们知道这在数学层面几乎是不可能实现的。有数量多到超乎预期的任务与天气预报类似，本身存在固有局限，而我们目前基本已经触及了这些局限。

第二点，即便在我们尚未触及这一极限的任务中，那种认为未来会出现AI超级智能、进而让人类变得可有可无的观点，本身就建立在对人类智能的根本误解之上。在绝大多数任务中，我们的任务执行表现并不受自身生理条件的限制，它在很大程度上受限于我们的认知水平与所用工具。有个很贴切的思想实验：假如让一个二十万年前的人穿越到今天，我会说我们和他相比，算得上是超级智能了。这并非因为我们的生理机能更优越，而是因为他们无法受益于我们积累的所有经验教训，也无法使用我们掌握的各类工具。而AI正是这样一种工具——AI领域的进步实际上是在提升人类智能，而不仅仅是提升AI自身的智能。所以当前的局面本质上是一场竞赛：一方是借助AI增强能力的人类的表现，另一方是独立运行的AI系统的性能表现。我们完全可以确保自己成为未来的超级智能，赢得这场竞赛，而不是任由AI系统以会威胁我们未来、动摇我们掌控权的方式自行其是。

很多人对此持悲观态度，他们会举出一个思想实验为例：未来将由AI运营并持有企业。他们会说，如果AI系统无法对齐，想想所有可能发生的糟糕事吧。AI可能会变成回形针最大化者——这是你大概率听说过的一个思想实验。而我们的看法则截然不同：不妨设想这样一个未来，AI真正拥有并自主运营各类事物，公司负责人员的招聘与解雇，这件事本身就自带相当强烈的反乌托邦色彩。

无论该AI是否对齐，都无关紧要，这对人类尊严、民主治理等方方面面造成的后果已经是灾难性的了。那种“将其视为必然会到来的未来，只能寄希望于对齐来解决”的论调，恕我直言，在我看来这种争论是在损害安全，而非维护安全。我们需要付出大量的艰苦努力来确保我们不会以这种不负责任的方式部署AI系统，但我确实相信我们能够实现这一目标。我们需要政策的支持，需要借助政治手段，这注定会困难重重，但我们绝不能在斗争尚未开始之前就选择放弃。

总结第二部分的内容：我梳理了AI的四个不同维度，并且提出观点，认为将其中某一个维度视作会自动导向另一个维度的看法是完全站不住脚的。目前并不存在某个既能在实验室中实现、又会带来显著经济或社会影响的特定维度。递归式自我提升在实验室中是可以实现的，但它并不会立刻导致人们失业。具备经济变革性的AI终将到来，但这并非源于下一次模型发布，而是源于一系列会逐步发生的变化——在接下来的几十年里。我们的能力与主观能动性不会因为某家AI公司在实验室里决定要做的某件事就让我们所有人都失业。确实存在一些需要担忧的风险，情况即将发生改变，但我们能够主导AI的部署方式，而这一进程将在数十年间逐步推进。这就是我持谨慎乐观态度的原因所在。

07

“划船”的隐喻，从建造转向评估

好，接下来我用最后十五分钟来谈谈事情的另一面。我确实认为很多事情都将发生改变。我先从一个相当浅显的观察说起：在很多情况下，纯技术技能会贬值，因为纯技术技能对应的往往是可验证的任务，而AI将继续在可验证任务领域表现得愈发出色。这并非什么新鲜事——例如在软件工程领域，二十多年前，编程岗位与软件工程岗位的劳动力需求就开始出现了显著差异。编程类岗位的核心范畴较窄，仅围绕编码、调试这类技术技能展开；而软件工程类岗位则需要负责“决策-执行-交付”三层架构的全流程。因此，对此类能力的需求一直在增长。

我反复观察到一个模式：大家的精力正从搭建系统转向评估系统。正如我之前提到的，我带领一个团队开展AI智能体评估工作，我们发现评估工作的自动化难度远超预期。这需要极强的判断力。最棘手的部分在于，你根本搞不清究竟该对哪些内容进行评估。这需要极强的领域针对性，因为我们目前已有通用型智能体，因此能力会逐次提升，这会在法律场景、新闻场景或是其他任何场景中催生对评估的需求。因此久而久之，最终会形成一种“一次构建、随处评估”的模式。而且你还需要对用户进行建模等工作。

这并非否认AI在评估领域存在重要应用，而我们也确实已经有了相关实践。但关键在于，这不仅难以实现自动化，AI智能体评估领域的专业化程度也已足够高，以至于从事评估工作的人员与团队，和打造、推动AI智能体前沿技术发展的人员与团队，正逐渐分道扬镳。

这背后有几方面原因。模型显然是函数，而智能体则具有稳定性，这意味着我们惯用于评估模型的诸多方法，在人们试图直接将其套用于智能体评估时，根本无法奏效。因此，这个新兴社区正在围绕如何对智能体进行严谨评估，形成一套全新的最佳实践方案。

我想用一个隐喻来帮助我们理解我所看到的社区正在发生的广泛转变——从“建造”转向“评估”。这个隐喻是关于划船的。试想一下，在过去，大多数船只都是划艇，人力或团队的工作就是靠体力来推动船只前行。当时并没有专门负责操船的独立岗位——划船的时候，你同时也在琢磨该往哪个方向划。但当引擎问世、船舶的物理航行可以交由引擎驱动之后，又发生了什么呢？人类的工作岗位并没有消失。事实上，它们的专业化程度大幅提升。现代船舶配备的控制面板极为复杂，可能还会增设数十种不同的专业岗位，各司其职，专注于船舶的航行目的地与航行路径规划。

我认为我们正见证一场类似的转变：过去我们所有的工作都围绕着搭建展开，不需要为评估设置单独的角色。随着时间推移，情况如今已经发生了改变。我们目前仍处于这一进程的早期阶段，但我相信未来会逐步有所改观。由于构建工作本身是一项可验证的任务，越来越多的相关工作将能够由AI完成。而真正难以被自动化替代的，恰恰是评估工作——是明确我们作为一个社群应当前行的方向，是厘清AI系统应具备哪些理想特性的过程。因此，社区将不得不把更大比例的注意力放在评估工作上。

在这场转型中，有些事或许会让我们感到难过。比如说，在赛艇运动中，所需的体能曾是至关重要的，而这正是我们过去十分看重的一点。而现在，我们或许会感慨这么一个事实：如今只剩一堆AI相关的内容，我们再也不需要体力了。同样，在如今的AI领域，对系统具备深入的技术理解有着极高的价值——这正是极具价值的核心所在。而我认为，或许在未来，与运用判断力以及所有这类模糊能力相比，上述能力的重要性将会下降，这类能力在当前AI领域的地位尚且不高。在我看来，这或许是一种我们尚未做好充分准备的思维转变。而且我觉得我们很多人都会为此感到难过，这没什么大不了的，但我确实认为这是一次真正的转变，且会产生切实的影响。

一个实际的推论：想想这样的学术会议。会议应当将多大比例的时长分配给评估类论文？我也说不准，但我觉得可能会比现在多得多，大概能占到一半左右——这个数字比当前的规模要高出好几个数量级。或许你还没做好接受这个数字的准备，但我认为，我们至少需要一条专门的评估赛道。NeurIPS确实有这样一个特点，而且它的受欢迎程度一直在不断提升，我认为这是一件好事。

我还要更进一步地说：对AI系统进行审慎评估本身就是对齐（alignment）的一种形式。这并非要对AI系统本身进行对齐，而是要让整个社区形成共识：厘清我们当前的发展方向与预期的目标方向，并努力让二者彼此契合。如果对评估环节重视不足，我担心——再借用一下船舶的比喻——整个社群会变成一艘没有舵的船：它的威力极为强大，但我们却无法共同掌控究竟要研发怎样的AI。而且我觉得那会是件相当遗憾的事。

08

科学的本质不是解题，

自动化同行评议是陷阱

由此类推，我认为我们评估AI研究本身的方式必须做出改变。今天上午已有一篇立场论文讨论了此事，我在其中仅承担了少量工作。用一句话简要概括：我们不能再将基准测试奉为衡量AI研究价值的唯一终极标准。基准测试能为我们带来的核心价值是效率——我们无需花费数年时间对论文进行同行评议，它的表现远超当前最优水平，我们知道这是一篇优秀的论文，这很好。但遗憾的是，它所造成的后果是窄化了整个行业共同体的集体视野——我们正在路灯下方展开搜寻，在以基准测试为导向的评估体系中，我们所搜寻的都是易于检索的内容。我认为我们需要突破这一局限。这意味着评估一篇论文的质量将会变得成本高得多。遗憾的是，这是我们不得不付出的代价。眼下，整个社区正急于朝着相反的方向推进。

人们很容易萌生将同行评审自动化的强烈念头。恕我直言，我觉得这是个陷阱。如果我们将同行评审自动化，从根本上来说，我们作为一个学术共同体，就放弃了对共同体发展方向这一问题的掌控权。要是我们真这么做了，那你说，我们这到底是在干什么呢？我认为这显然是对精力的根本性错配。当然，我也承认智能体在同行评审流程中确实能发挥一定作用，尤其是可以将其中繁琐的环节自动化，从而释放人力，让人们能把时间投入到需要大量主观判断的环节，开展更深入的思考。

将AI研究领域的结论推广到整个科学研究范畴来看，当前诸多将AI应用于科学领域的尝试，以及借助AI实现科学自动化的种种构想，似乎都建立在一个根本性的误解之上，即误以为科学的核心要义就是解决问题。而如果我们能够借助AI直接从问题抵达解决方案，我们就能实现科学研究的自动化与加速。我认为这是对科学本质的一种误解。

人类的认知理解并非某种可以通过自动化消除的摩擦——这一点至关重要。这是我们从事科学研究的核心宗旨所在。而倘若我们丧失了人类的认知能力，我们会失去所有由此衍生而来的事物。因此我的预测是：如果我们要在科学领域进一步推广AI智能体的应用，就会出现专门用于解读这些AI解决方案、并从中提炼出人类可理解的认知的全新工具与全新岗位，因为保留人类层面的认知是至关重要的。

我对企业也有一个类似的建议。企业界不少人都表示，“评估已然成为新的IP”——这一点我就不展开细说了，但核心在于，这本质上是同一类现象再次上演：行业的精力投入不再单纯集中在搭建环节，而是更多地向系统评估环节倾斜。

如果说这场分享你只能记住一件事，我希望那就是这一点：无论在何种情况下，看起来AI所做的，就是在可验证任务可由其处理的前提下，转移了一部分工作负担——也许并非全部，但至少有一部分工作负担被转移了。从搭建到评估，从划动小船到掌舵舰船、驾驶舰船，再到明确我们究竟想要去往何方。而且我认为，这是一个极具说服力的隐喻，能让我们在未来一二十年里，预判人类角色将发生转变的种种方向。

09

“共同超级智能”——第三条路

最后，让我花几分钟谈谈我个人如何在这个挑战中挣扎。我相信在座很多人也在思考AI能力在自己研究流程中飞速提升这个现实。每个人应该选择自己的道路，但希望我的思考能给你一些启发。

首先，AI的“地板”确实在快速上升，我指的是AI仅凭自身就能实现的能力。但与此同时，我认为其能力的“上限”也在不断提升，我指的是AI通过拓展我们的能力边界，让我们能够去承接此前在AI出现前根本无法实现的富有挑战性的全新项目。但上限并不会自动提升，唯有我们着力抬升它，方能实现。我发现自己每周差不多要花十个小时左右，仅仅是在学习和尝试新的工作流程，同时也在学习新的相关内容。

一种理解方式是：AI能够大幅提升生产力。我一直试着把省下来的时间重新投入到长期成长以及学习新的互补技能当中。这意味着要在短期生产力与长期增长之间实现最优平衡——这一变化正是由AI推动的。而我慢慢摸出了一个规律：忙完一整天的工作之后，如果我并没有精疲力竭的感觉，那我就知道自己肯定哪里做得不对了。我已经把太多工作都甩给AI了，我为了追逐短期利益，已经牺牲了太多自身的长期成长空间。我知道这并非长期而言的理想最优平衡状态。

增长与生产力这两个要素，就好比是三条腿凳子中的两条，而我们需要学会如何让这把凳子保持平衡。第三条腿就是始终掌控局面。为实现这一目标，我尝试过两种方法，也可以说是两种启发法。首要原则是抵制“黑箱”诱惑。企业希望我们将智能体当作黑箱来使用——只需给它下达提示，它就会自行运行并完成任务。我觉得那是个陷阱，非常危险。长此以往，这会导致我们逐渐丧失掌控权。第二个概念，我将其称为“依赖螺旋”（dependence spiral）。当我用AI处理那些我自己尚且算不上专家的任务时——这实在太有诱惑力了，毕竟学习新事物本就绝非易事——长此以往，我做那项工作本就不多的那点技能都会慢慢退化。而且我发现那是非常危险的。如果我先花时间亲自把这项任务吃透，再借助AI来提升工作效率，效果会好得多。

所以我觉得这整个过程都不容易。但我认为，如果我们能把这件事做对，我们所畅想的愿景就是“共同超级智能”（co-superintelligence）。我指的是：我们可以确保未来的超级智能并非自主运作的AI系统，而是借助AI力量得到增强的人类。

人们常把计算机称作“思维的自行车”。我觉得AI的潜力不止于此——如果你愿意稍稍容我打个比方，它就好比“心灵的起重机”，能够将我们的潜力提升到此前难以想象的高度。这一切可能看起来都十分棘手，学习曲线极为陡峭，我觉得自己一直像在跑步机上原地打转，永远没法往前推进。但我对此感到无比兴奋，我觉得这是个很有意思的挑战，而且和五年前相比，现在值得为这件事全力以赴。

某种程度上，我觉得自己或许算得上超级智能——或许这么说不太准确，AI能让我去尝试从前根本做不到的全新、有挑战性的事，还能推着我不断突破极限，这种感觉就像我拥有了超能力一样。比以往任何时候都更有可能，而且我认为，即便在可预见的未来AI能力不断提升，我们也能确保这一态势得以延续。或许在遥远的未来，这件事会变得无从着手，但现在就放弃抗争还为时过早。我当然会继续为此奔走努力，也由衷希望能朝着“共同超级智能”这一愿景不断迈进。

也希望你能与我同行。

10

Q&A

提问者：你之前提到我们应当加大评估研究的力度，但对于如何搭建更具条理的工作机制，你有什么想法吗？要找出我们应当重点关注的最优评估方向。因为我觉得现在很多评测之所以能火，往往是因为推特上放出了某张相当震撼的图表，或是某个前沿实验室决定采用它。你觉得我们要怎么做，才能建立一套更有条理的方法，找出真正值得聚焦的最优评估方向？

Arvind Narayanan：我简单快速说两句。我认为围绕评估领域形成了新的社区关注焦点，比如还出现了专门的“评估之评估”社区，这是件好事。因此，人们确实在努力梳理哪些标准和评估环节才是真正重要的。所以我现在没法给你答案，但我可以给你引荐正在研究这个问题的相关人员和社群。

一个人读论文太孤单，一群人刷顶会才好玩。

ICML 2026召开在即，我们正在召集一波含金量极高的 AI 研究者。群内主打实时论文跟踪与硬核技术探讨，拒绝灌水。

进群传送门：扫码进群或添加微信Vin_Vivid，备注：论文群 + 关注的 AI 方向。

搞科研/搞技术，信息差很重要。

来，一起快人一步！

上车，带你看遍全球 AI 顶会精华

可独家畅览：

专家演讲PPT

大会报告全文

热门论文解读

学术新星访谈

未经「AI科技评论」授权，严禁以任何方式在网页、论坛、社区进行转载！

公众号转载请先在「AI科技评论」后台留言取得授权，转载时需标注来源并插入本公众号名片。