复盘 Jeff Dean 的谢幕路演：他其实早已公开了Discovery Loop 的创业计划书

“当谷歌无法承载「疯狂假设」，这位 27 年的 Google 功臣，能否能用「不完美」的硬件终结 AI 的「暴力美学」？。”

作者丨小雷哥

编辑丨岑峰

在硅谷的程序员圈子里，长年流传着一个堪比传说的段子：“当 Jeff Dean 提交代码时，编译器会反过来问他是否需要优化。”

但这并不仅仅是个段子。作为 Google 甚至整个现代互联网底层物理法则的奠基人，Jeff Dean 的履历就是一部浓缩的近代科技史：从定义大数据时代基础设施的 MapReduce、BigTable，到一统深度学习江湖的 TensorFlow，再到打破摩尔定律、支撑起 Google 算力霸权的 TPU。他不仅是 Google 搜索帝国的总架构师，更是过去十年全球 AI 工程化范式的“造物主”。

然而，就在 2026 年 8 月 6 日，Jeff 做出了一个令全球科技圈为之震动的决定，正式宣布辞去 Google 首席科学家一职，与Google 传奇工程师 Sanjay Ghemawat，以及大模型算法天才 Oriol Vinyals、AutoML 先驱 Quoc Le 一起，共同创办公益性质的 AI 初创公司 Discovery Loop。

在 Jeff Dean 的离职声明中，他解释了自己离职创业的原因：

这份体面的声明背后，字里行间却透出顶尖科学家对“大公司病”的无奈与对纯粹创新的极度渴望。

“从 25 人到 190,000 人”，这不仅仅是一个数字的增长，更暗示着组织架构的极度膨胀。在十万人的巨头中，KPI 导向、规避风险、跨部门协同的内耗，正在稀释技术探索的纯粹性。

对于 Jeff Dean 这样始终在一线写代码、做“餐巾纸算术”的极客而言，他怀念的显然是当年那个“25人车库团队”的敏捷与锐气。

事实证明，大象不仅难转身，甚至已经容不下最疯狂的舞步。

其实，Jeff Dean 的离开早有伏笔。就在他宣布离职的前几天，他作为重磅嘉宾参加了由 YC 管理合伙人 Diana Hu 主持的《Startup School 2026》对谈。

当时，外界普遍以为这只是一位大厂德高望重的前辈在给年轻人们上“职业规划课”；但直到离职消息爆出，人们才恍然大悟：这根本不是什么指导意见，这是 Jeff Dean 提前一周面向全世界做的一场“公开路演”。

在这场长达近一个小时的深度对话中，Jeff Dean 回顾了当年催生 TPU 和 MapReduce 的疯狂思想实验，精准剖析了当前 AI 发展的算力瓶颈。而雷峰网在反复复盘这段对话后发现，Jeff Dean 其实已经在三个维度的“蛛丝马迹”中，完整拼凑出了他这家初创公司（Discovery Loop）的核心原型与战略方向：

01

线索1：认为小团队在垂直领域的突破，

胜过大厂的“大而全”

在访谈的中段（约 25 分钟处），Diana 抛出了一个所有初创者都关注的问题：“在巨头林立的时代，两三个人组成的团队还有赢的机会吗？”

Jeff Dean 并没有夸奖 Google 的资源优势，反而一针见血地指出了大厂的死穴：

“Google 正努力构建非常通用、几乎能做任何事情的模型，这意味着我们没有太多精力去关注特定的垂直领域。”

他以 AlphaFold 为例指出，在材料科学、芯片设计或生物计算等硬核科学领域，大厂的通用大模型往往束手无策。而 AlphaFold 的成功不在于算力堆叠，而在于那是“一个只有极少数核心研究员的小组，对特定领域有极度痴迷和顶级技能”。

作为 Google 首席科学家，Jeff Dean 管理的是成千上万人的大团队，但他却在访谈中流露出对“2-3 人极客团队”能通过高度专业化模型（Niche Model）实现“极致优雅”的向往。这意味着，他认为在目前的工程节点，大厂的组织冗余已经成了阻碍。Discovery Loop 的创立，正是他回归“小团队改变世界”的践行。

02

线索2：渴望激进的硬件范式革命，

而非大厂的稳妥路线

当主持人问及他过去抛出窗外的“疯狂假设”时（约 37 分钟处），Jeff Dean 提出了对下一代计算范式的期望。他抛出了一个极其“出格”的思想实验：

“60 年来，整个硅芯片行业付出了巨大的努力来制造错误率极低的晶体管……但如果我们试图用‘每天可能有 20 次错误’而不是‘每一百万年一次错误’的不可靠晶体管来构建一个系统，会发生什么？”

这个“疯狂的想法”在 Google 内部几乎是不可能立项的。Google 的整个商业帝国和搜索、云服务基础设施，都建立在极度稳定、确定性的硅芯片（如 TPU）之上，巨头的试错成本太高，不容许这种推翻 60 年行业基石的冒险。

Jeff Dean 在离职前抛出这个观点，强烈暗示他已经厌倦了在现有 TPU 架构上的“微调”，他渴望的不再是稳妥的路线，而是一场从物理底层出发的、激进的硬件与算法联合革命。

03

线索3：“工具带”理论与

重返 1999 的初心

在访谈末尾（约50分钟处），主持人提出了一个“回归初心”的假设：“如果把 1999 年加入 20 人初创公司 Google 的年轻 Jeff Dean 传送到今天，你会选择加入前沿实验室，还是开一家公司？”

Jeff Dean 的回答虽然委婉，但倾向性极强。他强调，在成熟组织里有现成的平台：

“但是作为一家非常小的初创公司……在解决这个特定问题的过程中存在很多风险。但这也可能带来令人难以置信的回报。”

随后，他抛出了著名的“工具带（Tool belt）”理论：“你要把你的研究生涯看作是拥有一个装满各种技术的奇妙工具带。你总是希望在工具带上添加新工具。”

这句话正是他离职的最终注脚。在 Google 效力了 27 年，他已经打造了分布式系统、深度学习框架、AI 专用芯片等无数顶级“工具”，拿到了在这个组织里能拿到的一切。对于一个永远渴望探索未知的顶级极客来说，留在 Google 已经无法为他的工具带增添新工具了。

如果解读Discovery Loop的名字不难发现，Discovery宣告了这家公司将向 Google 无法深入的硬核科学全面迁徙，Loop则锁定了 AGI 下半场最关键的工程范式：自动化与递归。

只有离开，只有重新面对创业的生存压力与未知的科学黑洞，才是这位 AI 宗师为自己强行挂上“新工具”的唯一途径。

以下是雷峰网根据视频对 Jeff Dean 的访谈进行精编整理的全文（本对话经过删减冗余词汇，保留核心洞察）

04

Jeff Dean 对谈 YC：

未来属于那些在复杂里寻找结构的人

预测未来：自动化 AI 实验与专用推理硬件

Diana:欢迎Jeff。你构建了 MapReduce、Bigtable、TensorFlow、TPU、Gemini 等众多划时代的产品。2025 年 5 月在 AI Ascent 大会上，你曾预测 AI 已经达到了初级工程师的水平。距离那个预测已经过去一年，我们现在进展如何？

Jeff：模型在处理基于智能体（Agent-based）、长时间运行的编码任务上能力显著提升。根据对“初级工程师”的确切定义，我认为这个预测相当准确。而且，执行复杂任务能力的增长速度超出了我的预期。除了编程之外，基于智能体的系统正开始在更多领域大放异彩。

Diana：那么，关于 2027 年，请给出你的下一个预测。

Jeff：机器学习系统本身的自动化程度将大幅提高。简单来说，就是让 ML 系统通过自动化实验循环来提升自我能力：将复杂问题拆解为子问题，在紧凑的自动化实验循环中运行，汇总结果，并从这种完全自动化的“问题分解与实验”机制中得出一个改进后的新系统。这种方法不仅适用于 ML 本身，也适用于任何拥有可衡量目标的科学和工程领域。

Diana：历史总是惊人的相似。2001 年，你和 Sanjay（注：Sanjay Ghemawat，Google 传奇工程师）把整个搜索索引装进内存，让 Google 搜索速度发生了根本性的改变。2026 年那个属于当下的“装进内存”时刻是什么？

Jeff：高性能、低能耗的专用推理硬件。推理是让智能体系统走向普及的关键。延迟至关重要，而硬件专用化是制造比 GPU 或 TPU 等通用计算设备更节能、延迟更低系统的根本途径。

Diana：如果延迟降低 50 倍，能用它做些什么？

Jeff：我们可以构建出能够连续运行几天甚至几周、完成极其复杂任务的智能体系统。例如，你可以让智能体去用全新的编程语言重构整套软件系统，以获得更好的安全性或性能，而智能体确实能够以非常严谨的方式去实际完成它。

从“餐巾纸算术”到硬件与算法的解耦

Diana：你非常擅长“餐巾纸算术”（Napkin Math，指快速估算）。2013 年语音识别在 Google 刚起步时，你算了一笔账：如果每个用户每天使用 3 分钟语音识别，Google 的服务器机队规模必须翻倍，这极其昂贵。这最终促成了 TPU（张量处理单元）的诞生。

Jeff：是的。当时深度学习语音模型的错误率直接减半，相当于实现了领域内 20 年的进步。我们预判用户的使用量会剧增，而 CPU 的计算成本过于高昂。因此我们提出了 TPU，其核心在于专门针对低精度稠密线性代数进行硬件设计，这正是现代机器学习算法的底层核心。

如果专门构建一个仅用于低精度稠密线性代数的芯片，尽管它不能运行 Chrome 或 Word，但对 ML 推理极为高效。几年后投产的 TPU 芯片，其能效达到了当时 CPU 和 GPU 的 30 到 80 倍，延迟降低了 20 到 30 倍。

Diana：未来创业者今晚应该做个怎样的“餐巾纸算术”，才能构建出下一个像 TPU 一样重要的东西？

Jeff：思考你关注的领域中的核心瓶颈是什么。抛开当前现有的解决方案，从第一性原理出发：有没有某种截然不同的途径，能带来一到两个数量级（10x - 100x）的性能或能力提升？

Diana：许多分布式系统工程师都将你写的《每个工程师都应知道的延迟数字》视为圣经。如果更新一个 2026 年 AI 版本的延迟数字列表，应该关注什么？

Jeff：重点在于这几个关键指标：加速器的主内存到片上内存再到乘法器单元的带宽；执行一次乘法操作所消耗的能量；芯片间的互连带宽及可连接芯片上限；以及从 500 个芯片扩展到 10000 个芯片时网络带宽的衰减。

Diana：你曾提到过，现在衡量一切的单位变成了“能量”。进行一次数学计算大约需要 1 皮焦耳，但移动数据和进行数据 I/O 的成本是它的 1000 倍。

Jeff：仅仅将数据从 HBM（高带宽内存）读入处理器，就存在 1000 倍的能耗差距。这深刻塑造了现代 ML 的形态。如果不存在这 1000 倍的差距，我们甚至不需要批处理（Batching）。但为了分摊数据移动的能量成本，我们不得不一次性对大量示例或 Token 进行批处理。然而，大批次处理对于低延迟需求并不友好。硬件底层的能源成本，直接限制了上层系统架构的设计。

Diana：对于训练来说，大批次是为了硬件效率。但对于推理，你是否在思考某些改变？

Jeff：是的，推理更关注极低延迟。未来的推理硬件需要极大化地减少数据移动，并采用极低精度的专用计算操作，直接将所需的精度类型固化在硬件中，从而获得极致的效率。

上下文工程：如何编排智能体与寻找高价值问题

Diana：以前 AI 的进步依赖于更大规模的模型和更多的数据。而在过去一年里，竞争转向了检索工具、内存、智能体调用等“上下文工程”。

Jeff：模型只是系统的一小部分。真正重要的是构建一个解决实际问题的整体系统。模型被训练的数据像是将数万亿 Token 融入千亿参数的“汤”里，而上下文工程能够将特定问题的清晰信息直接喂给模型。理解工具可用性、拆解问题、迭代调用并评估结果——这种复杂多智能体系统的编排将变得日益关键。

Diana：上下文工程不需要几万张 GPU，每个人都可以通过 API 开始尝试。开发者应该如何精通这项技能？

Jeff：不要试图去调整模型参数，而是通过为模型制定更好的指导方针和编写“技能”，让模型学会如何使用各种工具。

比如 Sanjay 和我最近在优化 Google 内部的底层库，我们编写了一项“技能”传授给模型：教它如何按照特定顺序执行微基准测试、测量性能、修改代码、再重新测试性能。模型学会这项技能后，便能在代码优化上实现自我迭代。我们将人类解决问题的经验抽象成技能传授给模型，其效果显著。

Diana：现在许多智能体在运行到 30 或 50 步时容易偏离轨道，瓶颈出在哪里？

Jeff：当智能体偏离其训练数据的“舒适区”时，性能就会发生骤降。

要解决这个问题，首先可以通过明确的技能和提示，引导智能体保持在已知的“最佳路径”上；其次是采用多智能体系统——让多个智能体尝试不同路径，再由专门的评估模型挑选最成功的一种。在推理阶段分配计算量，对解决方案的空间进行搜索，是提高长时间运行智能体可靠性的通用且有效的方法。

Diana：在大模型时代，初创团队和两三人的小团队应该在哪里寻找胜算？

Jeff：大公司倾向于构建极度通用的模型，很难关注所有特定的垂直领域。小团队的优势在于：在一个特定的垂直领域中，结合精心设计的交互界面、专用模型以及一套特定的技能，打造出令人愉悦、高精度、高质量的产品。

在选择方向时，有两个标准：

寻找通用模型成功率极低的问题：寻找那些通用模型只有 0% 或 1% 成功率的领域，而不是已经达到 20% 成功率的领域。因为后者意味着通用模型很快会通过规模化迭代超越你。

利用特定数据与专用领域模型：例如 AlphaFold，它不是通用模型，而是专攻蛋白质折叠，在材料科学、芯片设计等领域，这类专用模型能够以极低的算力成本提供极高的准确率。

核心品味：从代码撰写到“质疑假设”的思想实验

Diana：当代码都可以由智能体自动生成时，未来的工程师最稀缺的技能是什么？

Jeff：核心品味，也就是决定去做什么问题的能力。研究人员可以拥有所有工具，但最大的挑战在于：你把时间花在什么问题上？成功解决一个对的问题，远比完美执行一项平庸的研究重要得多。人类需要高级智慧来引导 AI 计算，去寻找最关键的核心本质。

Diana：如何培养和锻炼这种“品味”？

Jeff：这需要经验积累与回顾。写下你认为在未来 12 个月内可能会很重要的一堆事情。12 个月后回去评估：哪些真正变得重要了？哪些别人做了，哪些还没人做？这能为你的决策提供样本反馈。

做狂热的思想实验，质疑基本假设。不要把大多数人理所当然的事情视为理所当然。

Diana：你能举一个最近做的思想实验的例子吗？

Jeff：过去 60 年，芯片行业付出了巨大努力来制造错误率极低的晶体管，确保硬件不发生任何比特翻转。然而在软件层面，我们构建大型分布式系统时（如 MapReduce），却默认底层硬件是不靠谱的——我们通过三副本、纠错码在软件层实现高可用。

于是我们做了一个思想实验：如果直接用“每天发生 20 次错误”而不是“每一百万年发生一次错误”的极度不可靠晶体管来构建系统，会发生什么？

如果放弃对晶体管完美性的追求，芯片制造的成本和逻辑将完全不同。你可以通过多条冗余路径同时传输信号来容错。这与生物神经科学很像——人脑中的信号传递并非绝对可靠，但大脑通过多通路机制实现了极强的鲁棒性。

Diana：你过去抛出过的哪些“疯狂假设”，最终变成了现实？

Jeff：TPU 就是其中之一。在特定领域尚未变得像今天这样重要之前，就为其设计定制硬件。

另一个是 MapReduce 的起源。当时我和 Sanjay 需要写大量并行代码来处理 Google 的网页索引，逻辑里混杂了大量的检查点（Checkpoints）和容错代码。我们试图把这些底层复杂性剥离出来，于是借鉴了函数式编程的思想，提出了 MapReduce 抽象。我们将所有的并行与可靠性机制封装在底层库中，开发者只需要写简单的 Map 和 Reduce 函数。这个思想实验直接改变了大数据的计算模式。

自动自我改进与坚持初心

Diana:现在让我们回到你刚才谈到的你对从事大量定制硬件的兴趣的问题。结合 AlphaChip（芯片布局）和 AlphaEvolve 等系统，我们是否正在进入一个“用 AI 制造 AI”的复合自我改进时代？

Jeff：是的。科学方法的基础是提出假设、运行实验、评估结果。如果能将整个循环自动化，并大幅降低每次循环的延迟，将带来巨大的影响力。

通过一个编排框架将高层目标分解为子问题，每个子问题运行自动化的实验循环，再将解法组合成整体方案——这将极大加速机器学习、科学和工程的进展。重点在于提高“每单位算力输入的发现数”。

Diana：为了实现这种快速迭代，评估器的运行速度至关重要。

Jeff：没错。比如在量子化学领域，模拟一个分子的性质通常需要运行密度泛函理论模拟器计算一整夜。而我的同事通过提取这些模拟的数据，训练了一个神经网络来近似模拟器。这个“学习到的评估器”将预测速度提升了 30 万倍，且精度几乎一致。将 6 个月的计算任务缩短到一顿午饭的时间，这彻底改变了科学研究的范式。

Diana：即使是 Jeff Dean，也有论文被拒稿的经历。2014 年你和 Geoff Hinton、Oriol Vinyals 关于“模型蒸馏”（Distillation）的经典论文曾被 NeurIPS 拒绝，审稿人认为它“不太可能有重大影响”。你如何看待这种挫折？

Jeff：当时审稿人可能没有考虑到大型 AI 服务的落地需求。但我们非常清楚，从大模型中蒸馏出便宜、高效的小模型是让 AI 惠及大众的关键——今天 Gemini Flash 模型的优秀表现，依然在使用蒸馏技术。被拒绝没关系，发布到 ArXiv 上，让人们去使用它，用实际价值证明一切，然后继续前行。

Diana：你在 1999 年加入了只有 20 个人的 Google，那时你 25 岁。如果把那时的 Jeff Dean 传送到现在，你会选择加入前沿实验室还是创业？

Jeff：这取决于个人偏好，但评价标准始终一致：你是否在与喜欢的同事一起研究真正关心的难题？如果最好的情况发生，世界会变得好得多，还是仅仅觉得“挺酷的，但也就那样”？如果是后者，那就不值得你投入时间。

作为一家非常小的初创公司，你必须有一些你充满热情的东西。在解决这个特定问题的过程中，要取得成功并发展壮大以做到这一点，存在很多风险。但可以想象，这也可能带来令人难以置信的回报。所以我认为，这完全取决于个人品味。但至少无论你走哪条路，都要问问自己：如果我研究这个问题并且最好的结果发生了，世界会在某些方面变得好得多吗？还是世界只会说“那挺酷的，但也就那样”？如果是后者，那这就不是你应该花时间去做的事情。

Diana：创办或管理团队时，如何最大化团队潜力？

Jeff：寻找在特定领域拥有硬核技能、同时低自尊、具备团队精神且技能与你互补的人。

在一个小团队中工作非常有趣，因为别人知道我不知道的事情，而且也许我拥有别人不那么擅长的一些技能。你们共同构建或研究一些你们个人可能无法独立完成的事情，但在研究的过程中，你实际上为你自己获得了许多新知识和新技能，他们也是如此。你要把你的工程或研究生涯看作是拥有一个装满各种技术的奇妙“工具带（tool belt）”。你总是希望在工具带上添加新工具，增加更多的工具使你未来遇到问题时，被你解决的可能性更大。

Diana:最后一个问题。我非常确定在这个房间里会有某个人，或几个人，最终会构建出像你做的 MapReduce、TPU、蒸馏等一样具有深远影响的东西。你希望他们在研究什么？

Jeff:是的。我认为世界上有很多有趣的问题。我对新的硬件方法特别兴奋，或者是更高效的推理硬件。我认为可能有完全不同类型的机器学习算法，它们的数据效率比我们今天使用的方法要高得多。

想想我们今天的大模型，它们看到的数据可能是一个人类到 18 岁时看到的数据的 1000 倍。然而人类在 18 岁时，在很多事情上表现更好，并且与那些看过更多数据的前沿模型不相上下。那么你能否提出数据效率高得多的系统，并且能从它们自己的行动中持续学习？持续学习是一个非常有趣的事情。我还认为，多智能体交互是一件有趣的事情。此外，创造出能让世界上的人们进行更好交流的方式可能会很有趣。有没有办法进行更文明的对话？根据人们的兴趣帮助他们认识世界上应该认识的人？这都是些有趣的事情。

世界上有无数酷炫的问题，我们都应该努力去创造更酷的事物。