“现在的AI就像1880年的笨重工厂！”微软CSO斯坦福泼冷水：别急着造神

大模型仍未对上商业的齿轮？

编译 | 王启隆

来源 | youtu.be/aWqfH0aSGKI

出品丨AI 科技大本营（ID：rgznai100）

现在的硅谷，空气里都飘着一股“再不上车就晚了”的焦躁感。

最近 OpenClaw 风头正旺，强势登顶 GitHub，终结了 React 神话，许多人更是觉得“AI 自己干活赚钱”的日子就在明天了。

特别是在斯坦福商学院（GSB）这种地方，台下坐着的都是成天琢磨怎么用下一个技术风口搞个独角兽出来的狠人。

微软的首席科学官（CSO）Eric Horvitz被请到了这个几乎全美最想用 AI 变现的礼堂里。作为从上世纪 80 年代就开始搞 AI 的绝对老炮、也是微软技术底座的“扫地僧”，这位老哥并没有顺着台下的胃口，去吹捧下个月大模型又要颠覆什么行业，而是兜头给大家浇了一盆带点学术味的冷水。

他讲了一个挺有画面感的比喻：大家都在聊 AI 马上要爆发，但这感觉就像 1880 年代人类刚弄出电动机的时候。那时候的工厂怎么用电？他们搞个巨大的中央滑轮，扯着无数根笨重的皮带，生硬地去连接各个工作台。看起来是通电了，实际上别扭得很。

Horvitz 把这叫作“阻抗失配（Impedance Mismatch）”。说白了，就是现在牛逼哄哄的底层大模型，跟现实商业世界的组织架构和运转方式，其实根本就没对上齿轮。

这篇足足 55 分钟的对话非常“反共识”。Eric 直言现在的模型连最基本的“概率校准”都做不到（也就是一本正经地胡说八道且不知道自己有多不靠谱）；他甚至毫不客气地扒下了医疗 AI 的底裤，说在 A 医院好用的模型，直接端到 B 医院去其实根本跑不通。

在这个所有人都恨不得把各种 Agent 供在神坛上的节点，听听这位真正在工业界和科学界摸爬滚打了几十年的老兵怎么吐槽当下的行业现状，可能会让你对这个草莽时代多几分其他视角的理解。

以下为这场斯坦福 AI@GSB 对话的完整实录。

寻找 AI 时代的“皮带与滑轮”

Jennifer Aaker（斯坦福商学院 General Atlantic 教授）：我是 Jennifer Aaker，非常荣幸能为大家介绍 Eric Horvitz。他今天来到了现场，将与 Sarah Soule 院长在炉边进行对话。Eric 是微软的首席科学官，很长一段时间以来，他一直致力于在人工智能、社会与科学的交叉前沿领域进行探索。

很多年前我就认识了 Eric。他是斯坦福“以人为本人工智能研究院”（HAI）的董事会成员。在那个背景下，以及在更广泛的领域里，他是我见过的最具思想深度、最有意图性（intentional）、最具体恤人类精神（humanistic）的思考者之一。

几十年来，他一直是“以人为本的人工智能”领域极具影响力的声音。他发起了斯坦福大学的“人工智能百年研究”项目（AI100），也是“AI 伙伴关系”（Partnership on AI）的联合创始人。他曾作为国会任命的委员，任职于美国国家人工智能安全委员会，同时也是斯坦福 HAI 的杰出研究员。总之，他是一个非常好的人。

很高兴他今天能来到这里。我觉得他身上最了不起的一点，是他对“人类繁荣（human flourishing）”的深刻承诺，而这也是他十多年前就已经在谈论的话题。在今天关于 AI 的海量对话中，我们都在思考：什么是“主体性（agency）”？什么是“同理心（empathy）”？在设计这些技术工具时，融入这些理念意味着什么？最根本的是，技术究竟该如何去“增强（augment）”人类，而不是“取代”人类？

Eric 不仅仅是在写这些东西，他也在身体力行。曾经有人告诉我，他在微软指导过的门生（mentees）比公司里的任何人都多。他的行事风格充满了善意。带着这份敬意，我想欢迎 Eric Horvitz 和 Sarah Soule。

Sarah A. Soule（斯坦福商学院院长）：非常感谢 Jennifer 刚才那段无比慷慨的介绍。Eric，能和你坐在一起对话，看到这么多感兴趣的学生、教职员工齐聚一堂，真是一件令人愉悦的事。欢迎大家来到这场炉边谈话。

Eric Horvitz：谢谢你们邀请我。

Sarah A. Soule：我们非常高兴。Eric，我想先从你过去曾说过的一个观点开始。你之前描述过，我们正处于一个快速转型的时刻，并且这将是人类生存轨迹中，极少数能从根本上改变发展方向的“罕见快速转型期”之一。我想问你，如果你从现在起往回看——假设站在 20 年后往回看，你认为后人会如何铭记我们现在所处的这个时期？

Eric Horvitz：你提到“20 年”，这很有意思。我经常思考的是，如果站在 700 年后的时间点往回看，历史书上肯定会给这个时期专门命名。书里会有图表，会用某些特定的色彩来描绘这个时代，它肯定会有一个专属的名字——虽然我现在还不知道那名字会是什么。

至于 20 年后，这很有趣。当我听到“20 年”这个时间跨度，我脑海中浮现的是其他通用目的技术（general-purpose technologies），比如电力和蒸汽机。

你知道，蒸汽机大约是在 1769 年或 1770 年左右出现第一批可用发明的。但直到大约 100 年后，它们才真正进入并在工业界展现出变革性的力量。电力大概是在 1880 年代出现的，然后它也是经历了数十年的慢慢渗透，才真正产生了广泛的影响。

所以，我可以承认 AI 的发展速度可能会比蒸汽机或电力快得多——尤其是现在我们都已经“通电”了，基础设施都在那里。但我认为，20 年后我们回顾现在，会把这个时期看作是一个“早期部署、早期实施”的阶段。

在这个阶段，会有很多人关注：在这个时期里，人们到底有多么深的远见？有多么强烈的焦虑？又有多少期望？

我不认为在蒸汽机或电力崛起的时代，会有这样一群观众坐在这里听这样一个关于技术未来的话题；或者像飞行技术的诞生之初，我也不认为有很多人去深入思考我们是否应该确立规范——比如，我们是否应该从这些飞行器上投掷燃烧装置？而现在，我们正在进行各种各样有趣的深思熟虑，看到大家对“如何引导这项技术”如此感兴趣，这真的很让人感到温暖。

所以我想，回顾过去，我们会说：“哇，那就是一切开始的地方。”但即使是 20 年后，我们依然会处于一个快节奏的转型期，我不认为一切会在 20 年内就完全收敛并尘埃落定。

Sarah A. Soule：我非常高兴你能成为目前这些讨论和深思熟虑的一部分。我也希望，在 20 年后，人们会认为你是这个时代的英雄之一。

Eric Horvitz：哦，我倒不奢望走那么远（笑）。只要我做出的贡献能在沿途帮到大家，让事情变得好一点点，我就很乐意被大家遗忘了。

Sarah A. Soule：既然谈到了如何让事情变得更好，全国各地、甚至全世界的学生，现在都在听到很多关于“确保自己具备 AI 素养”的建议。事实上，我们在 GSB 的 AI 倡议一直非常有针对性地通过一些工作坊（包括今晚由 Celeste Bean 举办的）来确保这一点。

你参与了许多跨越工业界、政策界和学术界的辩论与讨论。针对目前的情况——在一个知识和能力正轻易被 AI “商品化（commoditized）”的世界里，你会给我们的学生（无论是 MBA 还是本科生）什么建议？他们现在应该投资学习什么？此外，对于那些在当下这种飞速变化中感到真切焦虑的学生，你有什么最好的建议？

Eric Horvitz：首先我好奇的是，想听听在这个极其特殊的历史时刻，你们脑海中那种焦虑与兴奋交织的状态到底有多强烈。这真的是人类历史上的一个顶点（vertex）——你们正在经历、观察、吸收这些正在发生（以及可能发生）的变化，并且讨论这对你们的职业生涯意味着什么。

尤其是在一个教育项目中，特别是在商学院的 MBA 项目里——这里有来自不同背景的学生，但 MBA 项目本质上源自彼得·德鲁克（Peter Drucker）的世界，它关乎将商业视为一门科学，关乎如何引导和思考生产、价值与利润。

我的第一反应是，对于人们（包括管理和商业领域的人）来说，思考如何将这些技术初步部署下去，存在着巨大的机遇。

回到我之前的评论：人们最初其实并不知道如何在工业中部署电力。你们可能见过那些老照片——一个巨大的中央滑轮，连着无数根皮带，笨拙地向各个工作台输送动力，人们甚至不愿意去思考是否应该为每台机器配备独立的电机。这只是一个隐喻，说明我们在面对现在的技术时，需要做大量的思考。

我们面临着一种“阻抗失配（impedance mismatch）”——即商业流程、组织结构及其运作方式，与这些底层基础技术、核心生产力技术之间的错位。思考如何将这些自身也在不断进化的 AI 技术交织融入进去，是一项巨大的工程。

在我们的脑海中，我们还需要对“AI 到底是什么”建立一种感知。对我来说——我 80 年代中期在斯坦福大学，1990 年完成了博士学位——AI 是一幅极其丰富的挂毯，是一个由各种技术组成的星座。尽管现在大家都在将其同质化，言必称“深度神经网络”以及它们在顶层是如何被训练的，但它依然是一幅广阔的图景，随着时间的推移，它会变得更加细分。

所以，这不仅仅是思考“Claude、ChatGPT 或 Gemini 将被如何使用”。本质上，你需要更深入地了解这项技术，理解“深度思考”、“决策制定”、“管理”、“监督”和“创造力”的机会在哪里。这才是推动我们走向 20 年后，甚至走向前面提到的“700 年后”的动力。这是一个非常丰富的机会空间。

所以我建议：找到你的热情所在，深入挖掘你的热情，思考AI 的相关性；走向跨学科（interdisciplinary），因为你必须以更广阔的视角思考；然后看看现在人们在做什么，努力超越当下的炒作，去真正融合并应用它。

Sarah A. Soule：我很喜欢这个观点。这也触及了我们在几周前的预备电话里谈到的事情。我们在思考，我们需要为学生提供什么。我经常跟学生说，当他们被允许保持好奇心并试图满足这种好奇心时，他们就处于最佳状态；而当我们的教职员工带着好奇心提出有趣的科研问题时，他们也处于最佳状态；当我们的员工带着好奇心与师生互动时，他们同样处于最佳状态。这就是我们建立我们想要的文化的方式之一，这同样需要慷慨的精神，需要彼此宽容并互相给予恩典，我们需要将这些融入到文化中。

在几个星期前我们交流时，你谈到了很多关于“好奇心”的内容，现在你又提到了。你能否展开讲讲？因为我想大家都会很感兴趣：在这个 AI 时代，你如何看待“人类与 AI 协作”作为一种推动人们解决他们以前无法处理的问题和想法的方式？

Eric Horvitz：我一直热衷于思考计算机如何帮助人们进行认知、解决问题和探索。几十年来，这一直是我的热情所在。“人类与 AI 的协作”这个词在大概 23、25 年前还是个很奇怪的概念，那时我们开始展示一些技术，清晰地描绘了这种机会空间可能是什么样子的。

根据我们对人类认知基底（cognitive substrate）的了解，什么是边界？认知心理学家通常会描述我们在能力上的差距，作为人类我们的优势是什么。

当然，我们在很多方面各不相同，但有一个我们多年来逐渐了解的人类共性基础。早年我在想，建立一个能深刻理解这一点的计算系统，知道应该在哪里介入、在哪里支撑、在哪里退后，并且在此基础上不仅应对互补性的挑战，还能理解“主动性（initiative）”——计算系统何时应该向前一步，何时应该退后？人类驾驶员何时应该理解如何以及何时使用这些机器，以增强自身的探索能力、获取答案以及更广泛地解决问题？

现在回想起来，这真是太美妙了。看着现在的技术，有些人正在学习如何使用像 GPT、Claude 和 Gemini 这样的通用工具来适当地“提示（prompt）”它们，并把自己置于“驾驶员”的位置——他们带来目标，带来非常人性化的一套目标体系、偏好、好奇心和方向，然后利用这些系统作为向导。通过引入新的效率来进行模拟、探索，扩展可能性的集合，我认为这些系统在人与人的互动、国家与国家的互动中会非常有帮助。希望能带来一场文艺复兴。

你可以将这个领域命名为：材料科学、生物学与医疗保健、教育……挑选你的领域，生产制造、效率等等。我认为这些优化、整合、证据收集与综合、专业化、泛化以及涌现概念的工具，将改变一切。

智能体（Agent）的崛起与“防伪印章”

Sarah A. Soule：你在那次对话中用了一个很棒的词。我想是关于“可能性的边缘（the edge of possibility）”，对吧？

Eric Horvitz：是的。作为微软的研究总监，我经常会对我们在世界各地实验室的同事说：“你们真的在探索可能性的边缘吗？”

我们当时会停下来思考那是什么意思。在几个月或一年前，去探索那些在那个前沿领域被认为不仅是不可能、甚至连想都不会去想的事情。

今天，我认为一些人正在研究不仅是将如何应用像 MedPaLM 这样的模型于临床医学，还要看它在你自己的数据集、你自己的受众上的表现。

我最近在美国国家医学院的会议上分享了一个重要秘密：大家听好了，最大的秘密是，这些医疗大模型不具备可移植性（not portable）。

你不能只是把它们从 A 医院拿到 B 医院，然后期望它们能完美运行。多年前我们在传统的机器学习模型上就发现了这一点。所以，你需要深入思考：不仅仅是决策制定，甚至包括转录（transcription），你都要非常清晰地思考潜在的错误，思考它意味着什么，以及它在特定环境下的表现。事实上，未来几年，这需要进行随机临床试验（randomized clinical trials）来理解这些 AI 工具在医疗服务中的真正作用。

我对这些模型展现出的潜力感到兴奋，但我们也看到了人们将它们推向我们所谓的“人工智能家族（artificial intelligence family）”的未知领域。

Sarah A. Soule：你能详细说说，当真实性变得模糊时，尤其是在深度伪造和幻觉面前，我们该怎么办？

Eric Horvitz：2015 年左右，我开始看到一些零星的迹象。事实上，最早引起我注意的是斯坦福大学计算机科学团队的一个关于 Deepfake 的展示。他们展示了如何构建一个系统，把文字放入一个政治家的嘴里。我当时对这印象极其深刻，当然大家也都说“别担心，这只是一个计算机视觉/图形学的演示。”这些都在实验室紧闭的大门后进行，大家觉得很酷，有人还能就此写篇博士论文。

但我当时做了一个演讲，说这件事未来会走向何方。那还是 9 到 10 年前。现在我们就在这里了。

一路上，在微软内部以及在政府和公民社会的各个团队中，我一直在强调，一旦你创造出这样的技术，你就必须进行红蓝对抗，并攻击它，以确保解决方案本身不会成为问题。

最近发生了一件事，我们发布了一份 54 页的内部微软研究报告，我让团队进行了“红队测试”：人们会如何利用这些工具？这让你认为，那些底特律的群众并没有真正在欢迎卡马拉·哈里斯（Kamala Harris），或者反之亦然。我们必须思考其中的可能性。

好消息是，这项研究的最终结果，是提出了一种被称为内容溯源（media provenance）的高可信度身份验证方法。简单来说，就是给摄像头和麦克风捕捉到的内容盖上一个“加密的蜡封（cryptographic wax seal）”。你可以看到这个印章在显示端的终端是未破损的。

这后来变成了现在的 C2PA（内容溯源和真实性联盟）标准。这是所有大型科技公司、相机公司等都在使用的标准。但我们必须走得更远，因为一旦你创建了这样一个有前景的解决方案，你也必须进行红队测试，攻击它以确保它确实安全。就在两天前，我们发布了一份 54 页的报告，探讨人们如何利用这些带有“蜡封”的技术，让你误以为并没有发生的事情发生了，或者反过来。

这也是整个生态系统需要去思考的：不仅仅是普通的特异性和敏感性、诊断的准确率，还要思考一旦这些系统被部署，会有哪些极其灾难性的失败。

此外，还有智能体市场（Agentic Marketplaces）的问题。十年内，如果存在买卖和中间过程的代理人（proxies），而我们各自都有自己的代理人，这将形成一个由智能体互动的完整经济体。

我们最近发表了一篇关于“即将到来的智能体市场”的论文。我们开发了一个模拟工具，你可以下载并进行实验。我们观察当我们释放出原型的 Agent 去购买、出售和安排日程时会发生什么。

如果你把这些工具放出去，却不思考关于人类主体性和自我尊严的深层问题——不把它们设计成注重保护和培育人类自主权、个体性与智力的机器，那是很危险的。这也是为什么目前公众有如此强烈的焦虑。这种焦虑是有道理的。

医疗与科研：AI 不能“即插即用”

Sarah A. Soule：好的，我想现在是我们开放给学生提问的好时机。我们有话筒传递员，如果有同学想提问，请举手。

Serena（MS/MBA 学生）：非常感谢您今天能来。我是 Serena，是管理科学与工程系的硕士生，本科也是数据科学背景。我想问的是，随着我们迈向下一阶段的 AI 部署，您认为在模型评估、安全评估，特别是 AI 生态系统的治理和新兴标准方面，最重要且悬而未决的问题是什么？

Eric Horvitz：关于这个问题，我有很多想说的，但我先从这一点开始：对于所有大语言模型的狂热庆祝和大量投资，我们目前其实不知道如何对它们进行概率上的校准（calibrate them probabilistically）。

这些系统被用于在决策环境中提出建议。在这样的环境里，世界必须提出要求：“如果你要说些什么，我需要一个关于它真实性的概率（probability of its truth）。我需要你有良好校准的置信度。”

对我来说，在更安全的系统中，这将会大有作为，因为我们就可以把这些输出整合到我们自己的效用函数（utility functions）中，或者说成本收益模型中，并理解如何使用这些系统，以及在评估时如何认真对待它们。所以除了安全性、控制等问题之外，我最近在想，在广泛的笔刷下，我们投入了大量的时间和精力在安全问题上——包括测试指标、评估，我们也与斯坦福的团队在诸如 MedHelm 等临床医学指标上合作，以衡量这些系统的表现——提出了一些有趣的工具来保证这些通用模型的安全，确保它们生成的内容的安全。

但我认为，目前真正的盲点在于如何实现概率校准。这对于高风险决策极其重要。

Ulugbek（医学院学生）：您好，我是 Ulugbek，医学院的学生。我的问题与 AI 在医疗保健中的日益普及有关。您认为我们在医疗领域面临的主要挑战是：提升 AI 模型本身的性能，还是改善机构利用 AI 进行决策的方式？

Eric Horvitz：我明白你的意思，你是问如何在“提高模型表现”与“改善机构决策”之间做区分。

这绝对是相互依存的（interdependent）。如果你在诊断和治疗规划方面拥有更高性能的能力，那这些考虑在机构如何融合、应用这项技术上就变得非常核心。

我的直觉是，那些表现出色的模型通常并不能做到完全便携。如我所说，你不能指望它们在不同医院间“即插即用”。过去几年我们发现在传统的机器学习模型中，表现极佳的模型在换了环境后就不行了。这就要求我们在本地机构有能力在本地数据上进行微调和校准，以确保模型在特定人群和特定工作流中实际有效。

所以，不仅是单纯的性能，还涉及到这套系统的“适应性”。其次，如何利用它们来协助决策，而不会引发意外的偏见或加剧现有的不平等，这也是医疗机构必须在制度层面建立的护栏。

Ben（MBA 学生）：您好，我是 Ben，商学院 MBA 学生。我想问一个关于您之前提到的“蒸汽机和钢铁”的比较。您说即便 20 年后，我们可能仍在经历有意义的、甚至是地震般的巨变。您如何将这一点与目前大量涌入该领域的兴奋、炒作和资金结合起来？您是否认为大多数人同意您的观点，即我们正在玩一场真正长期的游戏？还是您认为我们会看到短期的地震级转变，同时也要期待长期的价值显现？

Eric Horvitz：谢谢你提出这个非常有洞察力的问题。我想我们必须为惊喜（surprises）做好准备。

惊喜在于，AI 在某些方面的移动速度将远超我们的预期，而在另一些方面，其移动速度又会比我们想象的慢得多。取决于你关注的是哪个维度。

我预计，在解决一些我们过去认为极其困难、可能需要几十年才能解决的长期科学挑战上，我们将看到突破。我们已经看到了 AlphaFold 这样的例子，在生物学和医学上，AI 将极大加速新药的发现、疾病的理解，甚至治愈某些顽疾。在这些领域，它可能带来的“地震”就在眼前，或者在接下来的 10 到 15 年内。

但在另一方面，日常工作流程的改变，人类社会组织架构对这项技术的吸收——这种属于“社会技术（socio-technical）”范畴的事情，往往会慢得多。因为这涉及到改变人的习惯、改变法律、改变权力和利益的分配。所以，尽管资金和热情疯狂涌入，期望在短时间内看到所有商业模式被颠覆，但这其中必然充满摩擦。这也是为什么我反复强调“阻抗失配”。

我们应该准备好迎接一场长期的转型。那些纯粹为了短期的、吹嘘性质的炒作而投入的资本，可能会面临失望。但对于那些致力于在科研突破、医疗革新以及建立真正安全的 AI 基础设施上进行长期投资的人来说，这种价值是无法估量的。

希望有一天，我们能迎来一个“关怀经济（caring economy）”的崛起，而不是一个纯粹由机器主导的效率社会。

（投稿或寻求报道：zhanghy@csdn.net）

未来没有前后端，只有 AI Agent 工程师。

这场十倍速的变革已至，你的下一步在哪？

4 月 17-18 日，由 CSDN 与奇点智能研究院联合主办「2026 奇点智能技术大会」将在上海隆重召开，大会聚焦 Agent 系统、世界模型、AI 原生研发等 12 大前沿专题，为你绘制通往未来的认知地图。

成为时代的见证者，更要成为时代的先行者。

奇点智能技术大会上海站，我们不见不散！