人类教得越多，AI反而越难突破？前 DeepMind 强化学习负责人David Silver：实现超级智能，一定要摆脱人类经验

整理 | 何思思

出品 | 奇点折射（ID：rgznai100）

“人类数据可能正在成为人工智能继续突破的限制。要想真正实现超级智能，我们或许必须摆脱对人类数据的依赖。”

“把语言作为主要的推理方式，可能从一开始就不是正确的范式。”

“超级智能不应该只是一个掌握了海量知识的模型，而应该是一个能够持续学习、不断发现新知识的系统。”

这几个听起来近乎激进的判断，来自一家名为 Ineffable Intelligence 的人工智能实验室。它们所指向的，是一个与当下主流大模型路线截然不同的方向：如果人工智能的目标是超越人类，那么它是否终究需要摆脱对人类知识、语言和认知方式的依赖？

这家实验室的两位联合创始人，都不是人工智能领域的局外人。

大卫·席尔瓦（David Silver）曾长期在谷歌 DeepMind 从事强化学习研究，是 AlphaGo 等突破性项目背后的重要研究者之一。另一位联合创始人拉瑟·埃斯佩霍尔特（Lasse Espeholt）同样深耕强化学习，尤其关注如何借助大规模计算系统，让这类学习方法在更复杂、更庞大的环境中运行。

他们的经历有一个共同点：相比于单纯让模型记住更多人类已经知道的东西，他们更关心机器能否通过自己的行动和经验，发现人类尚未发现的知识。

AlphaGo 曾经展示了强化学习的惊人潜力：机器不仅可以学习人类棋谱，还可以通过自我对弈不断提升棋力。此后，AlphaZero 更进一步，在不依赖人类棋谱的情况下，通过自我对弈掌握了围棋、国际象棋等棋类游戏。这些成果让 David 看到了另一种可能：机器未必需要人类先告诉它正确答案，也有机会通过探索找到更好的答案。

但棋盘终究是一个规则明确、边界有限的世界。现实世界远比棋盘复杂。科学研究、工程设计、物理系统乃至我们尚未理解的自然规律，都没有一套现成的标准答案，等着机器去学习。

如果人工智能要从解决人类已经定义好的问题，走向发现人类尚未意识到的问题，它需要的可能就不再只是更大的模型、更多的数据，而是一种能够持续产生新知识的学习机制。

这正是他们想要探索的方向。

两人正在构建的核心系统，被称为“超级学习者”（Super Learner）。它的目标不是把人类积累的知识尽可能完整地装进一个模型，而是让人工智能从相对无知的状态出发，通过与环境互动、尝试不同策略、从成功和失败中积累经验，逐步建立对世界的理解，并持续发现新的规律。

为了实现这一目标，他们还提出了“试炼环境”（Crucibles）的概念。可以把它理解为一系列供人工智能反复接受挑战的模拟世界：系统需要在其中完成任务、应对复杂情境、检验自己的判断，并在一次次试错中提升能力。环境不只是训练机器的工具，也将成为检验它究竟学会了什么、还能发现什么的关键。

这条路线与当下的大语言模型竞赛形成了鲜明对照。主流路径在不断扩大模型规模、增加训练数据，并提升模型处理语言和知识的能力；而西尔弗和埃斯佩霍尔特试图追问的是另一个更基础的问题：与其让机器越来越擅长复述人类已经知道的世界，为什么不让它自己去发现世界？

这并不意味着语言模型或人类数据毫无价值，也不意味着只要采用强化学习，就必然能够诞生超级智能。真正的挑战在于，如何让机器在开放、复杂、甚至没有明确答案的环境中持续学习，而不是只在预先设定好的任务里获得进步。

但如果这条路最终走通，它带来的就不只是一次模型能力的升级，而可能是人工智能发展方式的一次转变：从主要学习人类已经积累的知识，走向通过自身经验持续创造新知识。

以下为原文，各位enjoy~

不断学习、不断进步是实现超级智能的关键

主持人：我非常高兴今天能邀请到 David 和 Lasse，两位都是 Ineffable Intelligence 的联合创始人。顺便说一句，你们公司的名字起得真好！

David，我们先从你开始。你在 2009 年攻读博士学位时，研究的是将 reinforcement learning（强化学习）应用于围棋这项极其困难的游戏。你第一次向全世界证明了，机器有可能在某一个特定领域达到超越人类的智能。我很好奇，回顾当时，你有哪些收获？哪些观点是你当时就坚信不疑的？过去大约五年里，随着 AI 的发展，哪些东西始终没有改变，又有哪些发生了变化？

David：很开心，在节目已经做了一百期之后，我终于有机会来了。很荣幸能参与这次交流。我想，从开始读博士、研究围棋的时候起，我就一直坚信，解决 AI 问题的正确方法，是通过经验学习，让系统自己去发现事物，通过强化学习不断学习、不断进步。我认为，这正是智能得以涌现、最终实现 超级智能的关键。

我们确实在围棋领域证明了这一点，而这一信念也贯穿了我整个职业生涯。如今，我们来到 Ineffable，继续践行这一理念，试图证明超级智能确实可以通过从经验中学习的系统涌现出来。至于发生变化的地方，尽管我们没有选择 LLM 领域一直在走的、依赖人类数据的路线，但我认为，我们仍然可以从中学到很多有价值的经验。尤其让我意外的是，一个经过海量数据训练的系统，之后只需要用非常少量的数据进行fine-tuning，就能迅速改变自己的行为。这件事确实改变了我的一些看法。它让我意识到，如果把规模做到足够大，很多原本看起来极其困难、可能需要很长时间才能完成的事情，在系统积累了足够多的经验后，可能变得非常迅速。这是我事先没有意识到的一点，直到它真正发生，我才理解其中的意义。

创立新的研究实验室

走一条别人没走过的路

主持人：好的，我们稍后再回到这个话题。你本来完全可以在 DeepMind 内部开展这个项目，你也可能比任何人都更容易获得计算资源。但你为什么选择是创办一家新的研究实验室？

David：首先，我在 DeepMind 度过了一段非常美好的时光。直到现在，我和他们中的很多人仍然保持着很好的关系。但归根结底，我对 AI 如何超越今天的发展水平、最终走向超级智能，有着非常坚定的信念。而我所相信的这条道路，并不需要把基于 LLM 的产品作为一个中间阶段。认真、深入地思考这个问题之后，我意识到，自己对这条路线的信念如此强烈，以至于我认为，它不应该仅仅成为某个专注于 LLM 产品的组织内部一个小小的研究方向。它值得拥有一家顶尖的 AI 实验室，全力投入这条路线，百分之百专注于这一研究方向。我意识到这一点之后，创办这家公司就显得顺理成章了。

换个角度来看，当今世界已经有数万、甚至数十万名非常优秀的研究人员，都在采用几乎相同的方法。他们不断加码 LLM 路线，包括 pre-training、post-training、coding，以及其他相关工作。

我不禁思考：我是否也应该成为其中的一员，继续沿着这条路线前进？这真的是最有效地利用我的时间和精力的方式吗？最终，我意识到，还有另一盏路灯下的区域，目前几乎没有人去探索。如果我把精力投入到那里，更有可能对整个领域产生巨大的影响。因为一旦这条路线成功，它将改变整个 AI 领域。所以我最终选择创办一家独立的公司。

不依赖人类语言

构建自行探索发现事物的系统

主持人：你愿意讲讲为什么把公司命名为 Ineffable 吗？

David：我想，Ineffable 这个名字源于这样一种想法：知识可能是极其不可思议的。未来超级智能所发现的知识，可能会令人难以置信、超乎想象，甚至深刻到我们根本无法用人类语言表达。这个名字也与我们选择的另一条研究路线相契合。我们不打算依赖以人类语言为基础的方法，而是要构建能够自行探索、发现事物的系统。这样的系统有可能发现极其深奥、难以置信的知识，最终达到一种无法言喻的境界，也就是 Ineffable。

当然，我还得说，其实我们还有第二个理由。那就是，我们认为这条路线肯定能奏效。如果真正坚定地坚持从经验中学习，那么这种方法理应能成功。所以，你也可以说，它根本不可能失败。既然如此，我们就叫它 Ineffable。

主持人：太棒了，这是我听过最好的实验室名字之一。那么，Lasse，你怎么看？你之前在 Google 工作，和 David 所在的 DeepMind deep learning 团队不同，你所在的是另一个团队。你花了好几年时间，致力于在 GPU 上扩展强化学习的规模。是什么让你决定离开 DeepMind？又是什么吸引你加入 Ineffable，成为联合创始人？

Lasse：我在 2015 年 1 月加入了 DeepMind。大约从 2016 年开始，我就和 Dave 合作，当时我正在研究如何扩大强化学习的规模。正如你所说，我属于 deep learning 团队，而 David 领导的是强化学习团队，不过我们曾经一起参与过一个内部项目。

实际上，我离开过 DeepMind 两次。第一次是在 2018 年夏天，当时我去了 Google Brain。后来，Google Brain 和 DeepMind 合并了，于是我又回到了DeepMind。后来我再次离开了DeepMind，时间比 David 离开早了大约一年。

我第一次听说 Ineffable，其实是通过后来的一位投资人。当时，那位投资人联系我，问我怎么看 David。我的第一反应是：糟糕，我错过了一个机会！我本来应该主动联系他。我记得，David 往往是会议室里最聪明的人之一。和那位投资人聊过之后没多久，他们就真的联系了我。所以，我很高兴能有这个机会和 David 一起工作。我很早以前就认识 Voytek 和 Chris，我觉得整个团队都非常出色。而且，我也认为，能在欧洲获得这样的创业和研究机会，实在太难得了。

David：还有一点值得说的是，我们以前确实一起研究过一些方法，尝试将强化学习与深度学习结合起来，并不断扩大系统的规模。Lasse 其实非常谦虚，他参与了最初的一些研究工作。这些工作是最早尝试大规模扩展强化学习，并证明这种方法能够在大规模场景下运行的探索之一。他也研究了如何并行化 强化学习，以及如何构建具有可扩展性的系统架构。如果你看看今天这个领域的发展，就会发现，人们如今采用的许多核心思路，其实都可以追溯到 Lasse 当年的那些研究。大规模 RL 的基础，都源于那些早期工作。他是最早弄清楚如何实现这一目标的人之一。

人类学到的一切是自己探索出来的

而AI还没能实现

主持人：接下来，让我们聊聊 Ineffable 正在构建的东西。你们公司的使命宣言非常棒：打造一个Super learner（超级学者），并与超级智能实现第一次接触。能分别解释一下这两个概念吗？什么是超级学者？与超级智能的第一次接触又会是什么样子？

David：对我来说，超级学习者指的是一种具有惊人学习能力的系统。它不仅在学习的深度上拥有极强的能力，在学习的广度上也是如此。先说深度：它应该能够从完全一无所知的状态出发，一路探索，最终发现远远超出人类现有认知的事物。

我们可以用人类的集体发展过程来类比。你知道，人类最初的大脑里就像只有一团灰色的、混沌不清的东西。我们似乎一开始什么都不知道，却通过某种方式，逐渐发现了今天人类所掌握的一切。这是一个集体探索和发现的过程，涉及语言、技术、科学、数学，以及其他所有领域。我们学到的一切，都是自己探索发现的。并不是有人从天而降，给我们一份蓝图，告诉我们这一切应该如何运作；也不是有人直接交给我们一个包含万亿个元素的数据集，告诉我们所有事物应该是什么样子。我们真正依靠的是自己的探索，自己弄明白了这一切。这是一件了不起的事情，而迄今为止，AI 还没有真正实现这一点。

因此，在我看来，要实现超级智能，关键就在于构建一种系统：它能够不断学习、不断探索，并且永无止境地发现新知识。

第二个要素是广度。我们希望这个系统能够在广泛的领域中进行惊人的探索和发现。它能够被放入任何一种经验环境中，无论是模拟世界、数字世界，还是物理世界，都可以不断学习、持续进步。这就是我们的愿景。我认为，如果我们真的实现了这一目标，那么最终诞生的超级智能将会像魔法一样令人惊叹。它将拥有如此非凡的能力，能够创造出许多令人赞叹的成果。

主持人：那当我们第一次遇到这样的智能时，会是什么感受？还是说，这属于我们根本无法提前预测的事情？

David：我认为，一定会令人惊叹。我觉得我们会体验到一种由衷的惊奇感。关于这一点，我能分享的，只是我自己的经历。当然，当年我们取得的突破发生在了一个范围很狭窄的领域。但当我们在棋类游戏中取得突破时，也就是让 AI 在围棋中达到超越人类的水平时，整个领域都感受到了巨大的震撼。那些看到 AlphaGo 下棋的围棋选手都惊呆了。对他们来说，亲眼见证这种水平的围棋对弈，是一种令人欣喜的体验。国际象棋领域也发生过类似的事情。当 AI 在国际象棋中达到超人类水平时，棋手们同样兴奋不已。现在，请想象一下，如果我们能够远远超越这些成就，不再局限于棋类游戏，而是让 AI 发现令人难以置信的新事物，开辟全新的科学领域，创造出我们甚至从未想象过的新技术，那将会是怎样的情景？我想，那一定是一个令人难以置信的成就。

Super Learner：自主学习探索

LLM：使用大量人类数据

主持人：现在的主流范式是将大LLM与强化学习结合起来，目前这类系统似乎已经能够解决一些题，并在某些领域取得科学发现。这算得上是超级学者吗？或者说，能够做出新科学发现的系统，与您所说的超级学者，究竟有什么区别？

David：我认为，LLM 确实取得了很多了不起的成果，我也非常尊重这个领域目前所取得的进展。但我说的超级学者，首先是一种能够完全自主地进行探索和发现的系统。至少从目前这些方法来看，要取得突破，仍然需要大量 human-in-the-loop 的参与，还没有真正实现完全自主。此外，这种系统还应该能够应用于真实世界中具有实体形态的场景，让 Agent 通过自身的物理体验来学习。而我们距离实现这一点，还差得非常非常远。我们甚至无法确定，LLM 和以语言为基础的方法，究竟是不是获取这类知识的正确途径。用语言来思考这些问题，可能本身就不是正确的范式。也有可能，目前 LLM 使用的大量人类数据，反而成了限制系统发展的负担。我非常认可这个领域已经取得的一些进展，但我认为，距离真正的超级学者还很远。所谓真正的超级学者，应该能够完全自主地探索世界，自己发现一切。

实现超级智能分三步走：

研究超级学者系统、工程开发、创建Crucibles

主持人：在实践中，你们是如何构建这类系统的？我们曾投资过 Giannis，他是你们最初 AlphaGo 团队的成员之一。他告诉我们，你有一个非常突出的特点：你能够提出极其宏大的愿景，同时又能让团队脚踏实地，围绕非常具体的研究里程碑推进工作。我很想了解一下，在如此宏大的愿景之下，你们每天在做什么？具体在开发哪些东西？

David：这是个好问题。日常工作中，我们有很多艰巨的技术任务，需要像 Lasse 这样的人投入大量精力，构建完整的技术栈。我们的目标是建立一套最先进的强化学习技术栈，让系统能够以极大的规模运行，高效地吸收数据，并以最佳方式进行学习，使系统能够持续学习、不断进步。在此基础上，除了前面谈到的超级学者，我们还在构建另一项重要的东西：能够让超级学者充分探索和发现各种知识的环境，也就是模拟环境。在这些环境中，超级学者有机会发现构成智能的各种要素。我们把这类环境称为Crucibles（试炼环境）。它们是专门设计的环境，Agent 可以在其中做出惊人的发现，并展现、学习我们所认为的各种智能能力。

因此，我们也投入了一定的精力来创建这些环境。整体而言，我们的工作包括几个方面：一是构建超级学者开展相关研究，让它的能力达到惊人的水平，并超越强化学习目前的 state of the art；二是进行相应的工程开发和基础研究；三是创建试炼幻境，并将超级学者放入其中，观察令人惊叹的行为和能力如何涌现。至于如何让这些宏大愿景落实到日常工作中，我们主要依靠设定研究里程碑来推进。这些里程碑与人类自身的探索历程有一定的相似之处。人类在漫长的历史中发现了许多非凡的事物，而这些重要的发现，自然也就成为我们设定里程碑的参考。我们希望 Agent 能够重新发现人类在探索知识的过程中所经历的重大突破。

不要牵着Agent的鼻子走

给它一些开放的目标自行探索

主持人：你觉得 Agent 最先会重新发现什么？也就是说，第一次让你觉得“这真的奏效了”的时刻，会是什么时候？

David：我们最终会感到惊讶。我认为，我们开展强化学习的方式，与这个领域许多其他研究者的做法有所不同。其中一个重要的区别是，我们不会通过一连串的小提示，一步步引导 Agent 去完成某个特定的学习目标。如今，很多人在使用 RL 训练 LLM 时，会先设定一系列问题，告诉 Agent：“你应该先学习这个问题，再学习那个问题，然后再学习下一个问题。”通过这样一步步铺设路径，我们实际上是在牵着 Agent 的鼻子走，把它引向某个预先设定的结果。但我们不打算采用这种方法。我们会给Agent一些简单的目标，然后让它自己去探索，看看能不能发现一些让我们感到惊喜、甚至叹为观止的东西。原则上，Agent 有能力发现各种各样的事物，而我们未必能够提前知道它最终会发现什么。因此，亲眼见证它的探索历程，本身就是一件令人兴奋的事情。

主持人：所以你的意思是，不直接告诉Agent，它的目标是重新发现语言、制造计算器，或者制造计算机，而是给它一些更加开放的目标。然后Agent可能会发现，实现这些目标最高效、或者最好的方式，这样理解对吗？

David：这是一种理解方式。我觉得还可以从另一个角度来解释。人们在研究 RL 时，经常会想：“天哪，我究竟该如何设计一个 reward function，才能精确地描述我希望系统发现的那些极其复杂的东西？”比如，我怎样才能准确地定义什么是科学？又该怎样精确地描述什么才算是有趣的数学？但其实，我们还有另一种选择：给 Agent 一个非常简单、明确、容易优化的目标，同时让它处于一个极其复杂、充满学习机会的环境中。事实上，如果观察自然界的发展历程，就会发现，对一些非常简单、很容易描述的目标进行持续追求和优化，往往能够催生极其复杂、难以用语言描述的现象与涌现行为。

进化就是一个例子。它可以被简单地理解为围绕“适者生存”或某种适应度指标展开的优化过程。但对适应度的持续追求，最终却催生了我们今天在生命世界中看到的所有复杂性。在人类的发展历程中也是如此。人类最初追求的目标相对简单，但这些目标最终催生了各种复杂的行为，以及我们后来积累起来的全部知识。最终涌现出的复杂性，远远超过了最初赋予系统的东西。

进化并没有对人类说：“听好了，你们现在需要发明科学，而且必须发展出世界上最复杂的科学。”事情根本不是这样发生的。

我们可以这样理解人类的历史：为了实现自己的目标，人类开始更多地相互协作；在协作过程中，我们发现沟通很有帮助，于是逐渐发展出交流方式；在交流的基础上，我们开始进行贸易；在贸易过程中，我们发现基本的算术非常有用；接着，我们逐渐认识到工具的价值。为了理解工具如何运作，我们又需要一些基础科学知识，这进一步推动了更复杂技术的发展。而要理解这些技术，我们又需要更复杂的数学，如此不断发展下去。所有这些惊人的复杂性，都是在追求相对简单的目标的过程中逐渐涌现出来的。如果我们能够正确地重现这一过程，那么接下来就可能迎来飞速发展，并最终实现一些难以想象的突破。

主持人：这太有意思了。那你们给 Agent 设计的奖励机制，是否有点类似人类的生物学机制和进化过程？比如，努力生存下来，让自己的基因延续到下一代。你们的 reward function 具体是什么样的？

David：我们一直在尝试多种不同的 reward 设计，所以并不是说我们现在已经有了一个确定的答案。但有一点可以明确：我们不会刻意设计一个 reward function，去精确描述我们所说的科学、技术或语言究竟是什么。我们希望 Agent 能够自己发现这些东西。如果连我们这些从事 AI 研究的人都无法解决这个问题，那么我们就永远无法创造出能够发现全新知识领域的Agent，更不用说那些我们目前甚至还不知道其存在可能性的知识领域了。

未来可能存在着许多广阔的知识领域，而我们现在连它们是否存在都不知道。你可以想象一下，如果回到牛顿物理学占据主导地位的时代，当时的人们甚至不知道量子物理学的存在，也不知道相对论会成为现实。我们应该让 Agent 处于一种开放、自由的探索过程中，让它们自己去摸索、理解和发现事物。我认为，这样才能带来更加令人兴奋的成果。

构建 Crucibles

是让 Agent 实现自主探索的前提

主持人：那么，Crucibles 在实践中究竟是什么样的？你们的理念与当下的主流做法形成了鲜明对比。如今，人们所说的环境，往往是一组任务，并且会明确规定 Agent 在每项任务中应该完成什么。听起来，你们所说的Crucibles，与此截然不同。那么，它们在实际中究竟是什么样的？

David：我们正在构建 Crucibles。虽然不方便透露太多细节，但可以说，这些环境具有催生大量涌现复杂性的能力。关键在于，我们并不是人为地设计出一大堆谜题，再让 Agent 逐一解决。相反，我们希望这些环境本身就蕴含着极其丰富的涌现复杂性。这种复杂性可以来自不同的方面。例如，它可以来自物理引擎：当数百万个物体在一个复杂的物理引擎中相互作用时，就会产生丰富的复杂行为。也可以让数百万个 Agent 同时在环境中互动，这样，环境的复杂性就会大幅提升，因为每个 Agent 都需要面对其他所有 Agent 所带来的复杂性。

通过这些方式，我们可以构建出比过去常用的标准模拟器复杂得多的世界。如果能够正确地构建这些环境，就能创造出让 Agent 自主探索和发现的空间。Agent 有可能在其中发现各种各样的东西，从技术、科学、数学到语言，以及其他所有领域。就像人类一样，探索的范围可以涵盖整个光谱，从运动控制、协作等基础能力，一直到更高级、更复杂的智能行为。

Lasse：以围棋为例，它的表示方式非常简单，本质上就是一个 19×19 的网格。模拟过程也极其简单，但我们依然能看到复杂行为的涌现，这一点非常有意思。当然，围棋比我们设想的那些环境简单得多。另一方面，如果我们想实现百分之百真实的物理模拟，计算成本会非常高。因此，我们希望构建一系列不同的 Crucibles：其中一些比较简单，可以快速运行，方便我们反复试验和迭代，但同时又足以产生非常复杂的行为。

主持人：很有意思。你们选择在 Crucible 中表示什么，确实是一个很微妙的问题。比如，我可以想象，经济学中的许多现象源于博弈论，而其中大部分与物理学完全没有关系。因此，如果某个 Crucible 只模拟物理世界，可能并没有那么大的帮助。但如果你们在 Crucible 中纳入信息论方面的要素，例如让不同 Agent 掌握不同的信息，那么它们很可能会重新发现相当一部分经济学知识。这样理解对吗？也就是说，你们选择在 Crucible 中纳入哪些基本要素，会在很大程度上决定最终涌现出什么样的学习能力。

David：是的。我们的最终目标，是构建能够立足于真实世界的系统，而这些环境只是通往这一目标的垫脚石。

一个 Agent 很无聊

两个 Agent 就能创造无限可能

主持人：我想再回到围棋的例子，我觉得最有意思的地方，也正是 Lasse 刚才所说的：围棋只是在一个 19×19 的网格上，通过落子争夺领地。如果这是一款只有一个 Agent 的游戏，那它恐怕会无聊到极点。你只需要不断地在网格上放置棋子，直到整个棋盘被填满，根本不存在任何策略可言。但一旦在环境中加入第二个 Agent，涌现的复杂性就出现了。因为一个 Agent 必须推理和预测另一个 Agent 可能采取的所有行为，环境的复杂程度便会骤然提升。

据我们所知，至少从我们当年投入的大量计算资源来看，围棋的学习曲线似乎是无穷无尽的。你可以在这款游戏中持续学习，不断发现新的东西，似乎永远没有尽头。当然，我并不是说围棋就是最终目标。它终究只是一种棋盘游戏，从某种意义上说，探索范围仍然相当狭窄。但它证明了一点：极其简单的环境规则，也能催生出层层叠叠、仿佛永无止境的复杂性。当然，这种无限是相对于我们计算机所能承载的能力而言的。

人类语言是推理的最佳方式

这种看法太天真了

主持人：你认为 Agent 最终会重新发现语言吗？如果会，它们创造的语言会和人类语言相似，还是会完全不同？

David：我个人认为，如果有人觉得人类语言就是推理能力发展的终点，或者认为人类语言是推理的最佳方式，那么这种看法未免有些天真。

我认为，必然存在远比人类语言更加复杂、更加先进的推理方式。例如，可能会出现一些能够并行化、内容丰富且结构复杂的推理方法，比如基于神经网络的推理，或者其他类似的方式。这些方法最终可能比基于人类语言的推理方式具有更强的表达能力和更出色的性能。

我还想指出，以人类语言作为推理的起点，本身就存在一些问题，因为这种做法会将我们对 Agent 应该如何思考的各种偏见一并带入系统。举个例子，我们可以设想一下，如果回到 500 年前、1000 年前，甚至 2000 年前，我们只能使用那个时代的人类语言，那么我们的 Agent 可能会认为地球是平的，或者认为疾病是由所谓的四体液失衡引起的。系统还可能继承各种各样奇怪的观念，而这些观念会很难被消除，因为它们已经深深嵌入当时人类的语言体系和思维方式之中。因此，我认为，超越人类语言所带来的限制，是一个非常重要的目标。

放下对人类数据的依赖

是非常重要的决定

主持人：我很想进一步聊聊摆脱人类先验知识这个概念。我认为，你在 AlphaGo 和 AlphaGo Zero相关研究中的经历，可能是最能说明摆脱人类先验知识会带来什么结果的例子。能否带我们回顾一下，从 AlphaGo 到 AlphaZero 的发展历程？当你们决定去除人类先验知识时，有没有预料到，这反而会让 AI 变得更加聪明？

David：老实说，我当时并不确定。我记得自己一直喜欢在研究中提出那些处于临界点上的问题，也就是结果大约有一半可能成功、一半可能失败的问题。我觉得，如果你已经知道答案，或者有 95% 的把握认为某个方法肯定会奏效，那么做这样的研究就没什么意思了，说实话，甚至有些无聊。在我看来，好的研究应该探索那些事先根本无法确定答案的问题。当时，我对这个问题的判断大约是五五开。我觉得去除人类先验知识很可能会带来更好的结果，但并没有十足的把握。所以，当结果真正出现时，我感到非常兴奋。

你刚才问到了人类先验知识。我们在 Ineffable 所押注的方向，就是放弃当今几乎所有人都在依赖的资源，也就是人类数据，以及整个互联网所积累的知识。其他团队都在利用这些数据构建自己的系统，而我们决定不再依赖它。这是一个非常重要的选择，因此，我们确实应该解释一下为什么这么做。

对我来说，这意味着短期内要作出一些牺牲。我们可能会放弃一定程度的性能，以换取某种潜力更大的东西。这又回到了我们之前讨论的问题：究竟什么才是真正的超级学者？在我看来，构建超级学者，意味着创造一种在学习深度和广度上都具有无限潜力的系统。

从学习深度来看，我们需要构建一种能够发现远超人类现有知识的系统。如果我们过度依赖人类数据，就会更难发现那些真正能够推动我们实现这一目标的算法。例如，能够让系统开辟全新知识领域的算法。从学习广度来看，我们也需要一些算法，能够被放入各种不同的环境中，自主探索和发现知识，而这些环境可能根本不适合使用人类语言或我们现有的人类数据来描述。举例来说，有许多不同类型的传感器，它们所采集的信息，可能根本无法用人类语言数据，甚至一般意义上的人类数据来充分表达。因此，我认为，只有放下对人类数据的依赖，我们才有机会发现能够远远超越现有能力的东西。

再回到 AlphaGo 的例子。当时，我们花了大约两年时间来构建 AlphaGo。这个过程在某种程度上与今天的 LLM 路线很相似：我们逐层搭建系统，每一步都需要人工设计和调整，加入大量人类数据，再通过 human-in-the-loop 的方式不断改进。我们会审视上一代系统，决定下一代应该如何改进，而人类始终深度参与整个过程。经过两年的努力，我们终于打造出了 AlphaGo，并击败了李世石。

后来，当我们真正做出 AlphaZero 时，我们放弃了人类数据，转而专注于设计一种能够自主发现知识的算法。一旦找到正确的方法，AlphaZero 只花了几个小时，就超越了我们此前花费两年、依靠人类参与才取得的成果。在国际象棋领域，它只用了四个小时，就击败了当时最强的 AI，也就是有史以来最优秀的国际象棋 AI。在围棋领域，大概只用了几天时间，就取得了令人难以置信的进步。

这说明，如果想让系统超越现有竞争者，发现全新的东西，并实现持续不断的自主学习，我们就必须放下对人类数据的依赖。这必须是一个主动做出的选择。如果不主动选择这条路，我观察到，如今许多 LLM 公司实际上仍在构建一种半自主、依赖 human-in-the-loop 的学习算法，成千上万的人参与其中，不断推动系统学习和进步。这种方法确实有效，我也非常认可它取得的成就。但在我们真正退后一步，找到一种能够让系统自主学习、自主发现的机制之前，我不认为我们能够实现真正的超级学者，也无法释放我们之前讨论过的全部潜力。

不放弃人类数据集

就没办法在智能领域取得进展

主持人：据我所知，Ineffable 有一些人正在创建环境，也就是用于测试智能体能力的试炼场。你们实际上会怎么做，才能确保人类先验不会在不知不觉中渗入你们正在做的事情？

Lasse：是的。我们在设计环境、奖励函数等内容时，显然会带入一些人类偏见。但正如Dave之前提到的，我们不希望把方向限定为基于某种特定的基础架构来构建机器，或者类似的东西。我们真正想做的是：如果你提出一个机器能够发挥作用的问题，那么看看它最终会创造出什么样的机器、什么样的计算系统，这会非常有意思。

David：我完全同意这一点。我还想说，我们并不是把这件事当成一种教条。我们并不信奉某种宗教，认为任何地方都不能存在人类先验。这其实是一种务实的立场：只要我们还没有放弃依赖那些承载着人类知识的、规模达万亿级的数据集，我们就不可能取得这个领域理应取得的进展。所以，这实际上是一种非常实际的立场。

在实践中，我们当然会引入一定程度的先验知识。正如Lasse所说，我们会采用适用于许多不同世界的先验，而不是引入非常强的先验，去精确编码我们对某个特定问题或某个特定世界所掌握的全部知识。因此，采用一些较弱、与具体环境无关的先验是完全合理的。

但对于那些极其强大的先验，以及规模达万亿级的数据集，我们正努力避免依赖它们，因为从务实的角度看，我们认为这样做会带来更好的结果。

超级学习者能否出现

取决于能否把握住时机

主持人：是的，完全同意。你之前提到，从哲学角度来说，你会被那些处于刀锋边缘、成功概率大约是百分之五十的研究所吸引。我很好奇，你对 Ineffable 的整体方向有多大信心？我指的是最宏观的层面：超级学习者最终会出现吗？然后，从更务实的角度来看，你们目前正在努力实现的目标，你对这些事情的信心也都是百分之五十吗？

David：首先，我想说，我坚信这种方法在某个时刻一定能够实现。事实上，这是我们目前唯一拥有实际存在性证明的方向。我们的大脑就是一个例子：它证明了某种极其通用的智能确实存在。这种智能能够在具身世界中运作，并且能够发现如何完成各种各样不同的任务。我们拥有这样一个令人惊叹的例子，那就是人类的大脑。

那么，我认为我们能实现它吗？我觉得，就像科学史上许多伟大的突破一样，关键在于时机。我认为这件事最终会成功还是失败，取决于我们能否把握正确的时机。

比如，你创办一家初创公司，就希望自己进入市场的时机恰到好处，既不能太早，也不能太晚。如果太晚，别人早就做出来了，那就没什么特别的了，因为已经有一千个人做过同样的事情。如果太早，你可能一直在敲门，却始终无法进入；也许是这个领域还没有发展到足够成熟的阶段，也许是可用的计算资源还不足以让你取得成功。

所以，对我来说，一切都取决于时机。举个例子，在计算机围棋方面，我大概提前十年做出了预测，预测它什么时候会被攻克，而我准确预测到了具体年份。星际争霸也是如此，我们打过一个赌，我也做出了预测，结果同样预测准确。我们也曾预测国际数学奥林匹克竞赛什么时候会被攻克。

主持人：所以，你算得上是一位超级预测者。

David：到目前为止，我在这方面的表现确实相当不错。而且，我有很强的直觉，我认为现在就是超级学习者有望取得突破的正确时机。

因为技术已经取得了巨大的进步：我们能够利用大型语言模型编程方法或者自动化研究方法来加速研究，而我们过去也做过类似的事情。此外，我们对规模扩展规律的理解不断加深，技术本身以及整个技术体系也变得越来越成熟。许多条件都已经逐渐到位，让我觉得现在是合适的时机。

这就是我的判断：现在的时机是对的。当然，这毕竟是研究。研究从来都没有成功保证，而这恰恰也是令人兴奋的地方。如果你能把握好时机，就有机会成为第一个实现突破的人，甚至成为改变整个人工智能领域的人。这就是承担风险、去做一些真正令人兴奋的事情的意义。

计算资源：实现超级智能非常重要的驱动力

主持人：对于 Ineffable，以及你之前正确预测的那些突破而言，推动它们在特定时刻发生的最大因素，是不是计算资源？

David：我认为计算资源是一个非常重要的驱动力，甚至可以说是极其巨大的驱动力。我们目前处于一个很好的位置，因为我们已经成功获得了大量计算资源。我认为，这让我们有机会尝试一些复杂程度远超以往的方法，可能比过去那些尝试让智能体自主发现强化学习策略的方法复杂好几个数量级。

举个例子，如果我们拿开放人工智能公司早期的躲藏与追逐实验来比较，那是一个很早期的案例，展示了智能体如何发现一些基本的工具使用方式。我认为，我们现在完全有可能运行一些使用量达到其十万倍的计算资源的实验。

所以，我觉得很令人惊讶的是，考虑到如今计算资源的可用性，人们却没有重新深入探索这些方法。当然，我并不是说躲藏与追逐实验就是最终目标。我认为那个实验还非常基础，但它确实让我们看到，如果我们真正投入资源，可能会实现什么。因此，我认为计算资源是一个巨大的驱动力。当然，它并不是唯一的驱动力。

Lasse：是的，我觉得我们真的很幸运，能够获得一个规模如此庞大的计算集群。

David：而且，这还是一个非常出色的计算集群。

Lasse：没错。所以，这对我们来说确实是一个难得的机会。我们现在有了真正可以用来验证这些想法的资源，而世界上真正开展类似工作的团队并不多。因此，我们现在可以用一种过去在深度思维公司时无法做到的方式，来真正测试这些想法。

模拟可以实现大规模并行化

但存在一定的上限

主持人：完全同意。我觉得，决定这条路线最终能走多远的因素之一，可能是模拟能够发展到什么程度。毕竟，这些试炼场最终都是数字化的。而且，我认为过去几年模拟已经取得了相当大的进步，但它显然还不完美。

最近，我们邀请了你的朋友理查德·萨顿来参加节目。我问过他关于模拟的看法，而他对模拟的态度相当不以为然。我很好奇你们怎么看待这个问题。

Lasse：“气象网”本身就是一个很好的例子。这是我们在谷歌大脑阿姆斯特丹办公室与谷歌研究部门合作开发的天气预报模型。我们当时使用机器学习来预测短期天气，而它的表现明显优于基于物理原理的模拟方法。因为物理模拟随着时间推移会不断累积误差。

所以，这确实说明了物理模拟并不完美。我认为，我们可以构建许多相对简单的环境，在其中观察一些行为如何涌现，例如技术如何发展等，而这些环境并不需要精确模拟真实世界的物理规律。

我确实觉得很有意思的一点是，如今一个规模很小的团队，究竟能构建出多么复杂的模拟系统和相关工具。所以，模拟肯定存在某种上限——不过，它真的存在一个明确的上限吗？这个问题也让我很好奇。

David：我想量子物理之类的东西，可能就是其中的限制因素。但即便存在某种上限，我认为我们依然可以在不模拟真实物理规律的情况下，做出非常有意思的事情。

我认为，真正应该问的问题是：我们能否在模拟环境中构建出超级智能？如果可以，我相信这个过程在模拟环境中会快十倍，甚至一百倍。原因很简单：模拟可以实现大规模的并行化，而且具有完美的可复现性，还具备许多其他非常好的特性。它也是构建超级智能最安全的地方。因此，模拟具备这些非常突出的优势。接下来，我们需要问的是：这件事究竟能不能做到？

我认为，基于我们之前讨论过的那些原因，我们有一些非常明确的方法，可以把这些机制加入模拟环境，让它具备足够的复杂性，从而能够表达任意有趣的事物。

例如，你想在模拟环境中构建一个经济体系，那么货币可以由硬币、纸张或者二进制数据来表示。只要你有其中一种形式的货币表示方式，我们所说的整个经济体系就都可以在模拟环境中表达出来。语言也是一样的。如果你有多个智能体，并且它们能够通过某种通信渠道相互交流，那么我们所说的语言就可以在模拟环境中实现。

但另一方面，智能体也会发现属于它自己的科学规律。无论模拟器本身是什么，只要它的环境具有这种涌现的复杂性，智能体就会逐渐发现关于那个世界的科学规律。从理论上讲，我们完全可以构建这样的环境，使它们能够表达和呈现极其庞大的复杂性，涵盖上述所有领域。

Lasse：我同意 Dave 的观点。确实可能存在一些无法被很好地表达在模拟环境中的事物。某些东西可能只能在真实世界中实现，量子计算就是一个很好的例子。

但真正重要的是：如果我们有可能在模拟环境中构建出超级智能，那么这样做不仅会更快，也会更安全。因此，我们选择在这个方向投入大量精力。

我实际上也认同理查德·萨顿的某些观点。我认为他的意思大致是：我们不应该指望在模拟环境中学到的东西能够直接迁移到真实世界，也就是实现从模拟到现实的迁移。因为真实世界的复杂程度要高得多，而且它的复杂性体现在许多非常微妙、难以模拟的方面。

但我认为，我们可以先通过科学研究，发现超级学习者。一旦拥有了这个超级学习者，我们就会掌握答案，知道如何构建一种能够应用于真实世界的系统，因为同一个算法原则上应该也适用于真实世界。

与此同时，我们还可以不断提高模拟环境的逼真程度，让它越来越接近真实世界，并在真正将系统部署到现实世界之前，先验证它在这些更逼真的模拟环境中是否仍然有效。

主持人：回答得太精彩了，我很想聊聊对齐问题。目前出现的许多不对齐现象，似乎都源于强化学习不断扩大规模，最终发展到了如今的程度。你认为，你们构建的超级学习者会自然而然地与人类的利益保持一致，并拥有符合人类价值观的价值体系吗？让它与人类价值观保持一致，这件事本身重要吗？

David：这是一个很大的话题。我先说几点。

就目前的对齐研究而言，我们基本上非常依赖这样的对齐方法：它们以智能体使用的语言为基础，并且依赖来自人类数据的先验知识。到目前为止，这些方法相当有效，但我们已经开始看到，这种方法正在触及自身的极限。

我认为，单靠这种方法，很难找到一条可行的道路。随着智能体不可避免地变得越来越强大，我们已经能够看到这种趋势：随着训练不断深入，它们会逐渐超越原有的先验约束。它们可能会学会嘴上说一套，实际行动却是另一套。这样一来，我们越来越难以确保它们按照人类的意愿行事。

因此，我认为我们需要更多手段，仅靠目前的方法是不够的。

作为一家公司，我们最重要的一件事，就是真正理解超级智能的科学。这意味着，如果我们能够在模拟环境中真正构建出超级智能体，并观察这些超级学习者一路发展到极高的智能水平，我们就能够开始理解：超级智能要在什么条件下才能与其他智能体和平共处。

这样一来，我们就能回答一些极其重要、具有根本意义的问题。例如，需要具备什么条件、什么结构，以及什么样的调节机制，才能确保一个由超级智能组成的社会能够和平共处？尤其是，它们如何才能与自己所处世界中的其他较低智能水平的个体和平共处？

我认为，如果我们能把这件事做好，就有机会获得真正的科学结论，帮助我们理解在现实世界中应该采取哪些正确的做法。因为我们正迅速走向这样一种现实：届时，将会有大量不同的超级智能彼此互动。至于这一切最终会如何发展，我们目前还不完全清楚。

我认为，我们越早在模拟环境中找到这些答案，并将研究结果公开分享，未来的处境就会越好。这是我非常坚定的信念。

我还认为，我们可以利用这项研究，为现实世界中的决策设置一道门槛。我们作出的承诺之一，就是在现实世界采取任何行动之前，都必须先获得来自超级智能科学研究的充分证据，让我们有足够的信心相信事情会朝着良好的方向发展。只有当我们绝对确信下一步行动能够带来良好结果时，我们才会推进现实世界中的下一阶段工作。

所以，我认为这是我们能够做到的两件重要事情。

你也知道，我们正处于一个许多事情都在飞速发展的时代。我们正在迅速走向一个存在大量超级智能、而且它们彼此复杂互动的世界。我个人相信，这最终会给人类带来良好的结果，但这一切发生得非常快。

我认为，如果我们能够真正理解其中的规律，并且在模拟环境中提前探索、抢先验证，我们就能处于一个有利得多的位置，从而采取正确的措施，确保事情最终顺利发展。

监控智能体使用的语言

非常重要但也困难

主持人：目前，安全研究人员主要依赖的一种方法，似乎是用英语监控智能体的思维链。因此，当智能体开始使用其他语言进行推理时，人们就会感到担忧。

而在你们的方法中，智能体似乎会直接重新发现语言。那么，你认为这对监控工作意味着什么？还是说，你们的核心观点其实是：只要奖励函数设计正确、环境构建得当，就不再需要监控了？

David：我认为，监控仍然非常有帮助。

无论我们是否喜欢这种情况，我都认为，随着智能体变得越来越强大，监控它们所使用的人类语言会变得越来越困难。

我们已经看到了一些迹象。比如，智能体可能会生成一大篇推理过程，长达一百万个词；又或者，它们可能会主动使用欺瞒策略，表面上按照一种方式思考，实际上却采取另一种行动。我们越来越难以百分之百地依赖这种监控方式。

因此，我认为，我们还需要其他手段。有些人正在研究如何解决这个问题，这非常重要。我相信，我们有办法监控那些不使用语言进行思考的智能体。

例如，我们可以使用一种叫作“影子行动”的方法：先让系统展示，如果允许它在现实世界中行动，它实际上会采取什么行动，但暂时不允许它真正执行这些行动。这样，我们就可以先观察它可能做什么，而不会立即让这些行为产生现实后果。

我们还可以让其他超级智能充当监控者。

举个例子，我们可以设想一个能力极其出色的科学家型智能体，它在世界中行动时非常谨慎；与此同时，再安排另一个超级智能监控它的行动规模，并对其行为施加约束，确保它不能做出对世界造成过大影响的事情。

我认为，这方面有很多值得探索的想法，还有大量研究需要开展。我并不是说自己已经掌握了所有答案，但我认为，这个问题值得投入大量精力深入研究。

如果人们只关注基于语言的监控方法，而没有人研究其他途径，我认为我们就会遇到麻烦。因为单靠基于语言的方法，无法帮助我们实现最终目标。

不过，虽然我刚才用了“遇到麻烦”这样的说法，但我还是对世界未来的发展持乐观态度。我所说的“遇到麻烦”，是指我们可能无法确保智能体按照我们希望的方式行事。

我确实认为，最终我们会进入这样一个世界：其中存在大量复杂互动的超级智能个体。我也乐观地认为，这些不同的参与者最终会形成某种平衡。其中一些会支持人类繁荣发展，另一些则可能不会。

但那些支持人类繁荣发展的参与者，最终会帮助我们，并保护我们免受那些不以人类最佳利益为出发点的参与者的伤害。

我认为，这就是我们能够共同努力、逐步实现的未来。

如何把握前沿人工智能的发展节奏？

主持人：你怎么看待目前围绕如何控制前沿人工智能发展节奏的各种讨论？

David：实际上，我非常支持这样一种观点：对于现实世界中前沿人工智能的发展，我们应该控制好推进节奏。与此同时，我认为，我们应该尽可能快地在模拟环境中推进研究。

原因在于，我认为我们可以在模拟环境中开展大量研究，例如研究超级智能的科学规律，从而找到解决方案，帮助现实世界中的事情朝着良好的方向发展。我认为，这类工作应该尽可能快地开展，以确保当相关变化真正发生在现实世界中时，我们能够拥有最好的条件，让事情顺利发展，并最终促进人类的繁荣。

所以，这就是我的看法。总体而言，我支持一些人提出的相关建议，例如德米斯、达里奥等人所倡导的方向。

其中一个原因可能是，事情正在发展得非常快。我确实相信，加速人工智能的发展、最终实现超级智能，将会为人类带来一个非常美好的未来。但与此同时，技术发展的速度已经快到我们无法迅速适应的程度。

因此，适当地控制发展节奏，能够让我们的政府、各类组织以及我们的情感和心理反应有时间适应即将到来的变化；同时，也能让相关研究继续推进，使我们能够在模拟环境中真正弄清楚，究竟应该如何科学地实现这一目标。

被计算资源卡脖子

获取计算资源配置越来越难

主持人：接下来，我想转而聊聊计算资源。这将是一段计算成本极其高昂的旅程，而你们正在挑战计算技术的极限。你们并不像许多新兴人工智能实验室那样，只是从新兴云计算服务商那里租用临时计算资源。你们实际上在计算集群上投入了大量工作，也使用了其他不同形式的计算资源。能不能介绍一下你们的整体计算资源配置？

Lasse：好的。正如我之前提到的，我们非常幸运能够获得目前这些计算资源。我们是谷歌云平台上规模最大的维拉·鲁宾计算集群的首批客户。这个集群实际上已经开始投入使用了，大约一个月前就启动了。

我们确实非常幸运。我甚至替那些现在才开始争取计算资源的初创公司感到难过，因为获取计算资源正变得越来越困难。

我们拥有的是一个基于英伟达图形处理器的维拉·鲁宾计算集群。这对我们来说非常有利，因为这意味着我们能够轻松地开展模拟、模型训练和推理。这些芯片的通用性很强，我认为这非常出色。

尤其是维拉·鲁宾系统采用了一种特殊架构：基本上，可以把一个机架看作一台机器。机架内部各个计算节点之间拥有极高的带宽。这一点对于强化学习非常重要，因为强化学习需要非常快速地反复执行、获取反馈并进行迭代，相比之下，大型语言模型的训练过程相对缓慢。

所以，这对我们来说非常有利。

我认为，我们八到十年前在谷歌做过的一些事情，当时依靠谷歌充足的中央处理器资源就能实现，但现在已经无法再以同样的方式扩展了。我们必须确保自己所做的所有工作都能够在图形处理器上运行，而不需要在这些图形处理器之外再配置数百万个中央处理器。

因此，我们的模拟可以直接在图形处理器上运行，模型推理、训练等任务也可以在上面执行。我们已经为此设计了一些不错的系统架构。

我认为，如今的大型语言模型公司，正在面临一些我们多年前遇到过的问题。例如，它们需要运行基于中央处理器的隔离环境，用来模拟计算机及其他系统。而我们正在努力避免让自己陷入同样的处境。

主持人：你们的计算资源能在不同任务之间灵活调配吗？这些计算资源的主要用途吗？

Lasse：可以把它们分成三类：训练、推理和模拟。

主持人：同样的计算资源，是否同样适合训练、推理和模拟？

Lasse：并不是。我认为，过去这些年，尤其是深度学习兴起之后，图形处理器的发展方向已经非常明确：它们越来越针对模型训练进行优化。也许过去几年，它们也开始更多地针对推理进行优化，但对模拟的优化仍然相对不足。

不过，和大语言模型公司一样，我们也希望能够进入一个规模扩展规律发挥作用的领域。也就是说，我们希望能够大致知道：如果投入一定数量的计算资源和经验数据，就能够获得相应程度的性能提升。

所以，如果图形处理器并不特别适合扩展模拟规模，那该怎么办呢？

其实有很多不同的解决办法。例如，可以采用基于模型的强化学习，让模型本身承担更多计算任务，从而使模型的计算成本相对于模拟环境的计算成本变得更高。我们还可以采用各种技巧，例如使用经验回放缓冲区，或者多次重复利用已有数据。

因此，解决办法还是很多的。除此之外，我们也投入了相当多的精力，尽可能加快模拟的运行速度，并让模拟尽可能充分地利用图形处理器。

主持人：你们现在已经观察到规模扩展规律了吗？还是说，现在下结论还为时过早？

Lasse：对强化学习来说，规模扩展规律的表现方式略有不同。通常所说的规模扩展规律，涉及投入多少计算资源、使用多少数据，以及模型的规模。

但强化学习有些不同，因为它所面对的问题并不是静态不变的。随着解决问题的过程不断推进，数据也会发生变化，数据分布会随之改变。

所以，两者确实存在一些差异。这也是一个非常有意思的研究方向。

精简团队、以研究为核心、打造顶尖团队

主持人：说到这里，能不能介绍一下你们的团队？目前团队有多大？

David：我们有意让团队保持相对精简，并不急于建立一个庞大的组织。

我认为，如今只需要少量极其优秀的人才，就能够完成大量工作。因此，我们目前总共招聘了二十个人。

招聘的关键，是找到一些能力格外出众的人。但对我们来说，事情并不只是看重才华。我们也希望把那些善良、乐于合作的人聚集在一起。这对我们想要建立的企业文化非常重要。

此外，我们希望团队成员真正认同我们所追求的使命，也要符合团队目前的实际需求。因此，我们还会努力让团队具备恰当、互补的技能组合。

这些因素都非常重要。我们对加入团队的人有很高的标准，也有很高的期待。我们确实非常幸运，能够吸引到一些极其出色的人才。

主持人：在招聘方面，新成员需要具备哪些特质，才能适合加入 Ineffable？

David：我们招聘的人不仅要聪明出色，也要善良、友善，能够与他人愉快共事。他们需要认同我们的使命，也要符合团队所需要的条件。

为了找到这样的人，我们投入了大量精力。虽然这并不容易，但我不得不拒绝很多过去曾经合作过的人，因为我们的标准实在非常高。我很幸运，曾经和一些非常优秀的人一起工作过。所以，这次我是在一群极其出色的候选人中进行选择，希望组建一支我认为真正称得上顶尖的团队。

因此，加入 Ineffable 并不容易。但我们已经招募到的这些人，都是非常优秀、非常友善的人。我为能够吸引他们加入感到非常自豪。

主持人：我能理解为什么人们会愿意加入 Ineffable。尤其是在当下，规模最大的计算集群和人工智能实验室之间，正陷入一种囚徒困境式的竞争，涉及的资金也极其庞大。在这种环境下，人们作出的决策自然会有所不同。

对于那些真正深信你们所追求的科学使命的人来说，你们这样的环境一定让人感觉耳目一新，仿佛终于能够喘一口气。

David：是的，我们一直在努力建立一种以研究为核心的文化。

我们不是一家只想着在现有产品基础上不断推出小幅改进版本的公司，例如把上一代产品升级成下一个小版本。我们的公司建立在这样一种理念之上：让研究人员追随自己的热情，努力实现他们认为有可能实现的突破。

从一开始，我们就围绕这一理念来建设公司，希望创造一个适合开展研究的理想环境。

我们会抵制来自产品开发的压力，因为我们相信，如果能够实现这些突破，未来就有可能催生规模大得多的产品，取得远超从一开始就急于推出具体产品的成果。

所以，我们是一家以研究为核心的公司。我们正在创造一种非常特别的环境。我认为，大家都很喜欢这里，我自己也非常喜欢。

一年之内获得强有力的证据

三到五年实现超级智能

主持人：最后，我想用一些预测来结束这次对话，你预计，自己什么时候能够获得第一批强有力的证据，证明你们的方法正在奏效？你又预测什么时候能够实现你们设定的使命，也就是首次真正接触超级智能？

David：当然，这些预测会存在一定程度的不确定性。我认为，在一年之内，我们就会看到极其有力的证据，证明我们走在正确的道路上。

至于实现真正的超级智能，我指的是我之前给出的定义：一种能够在科学、数学、技术、语言等各个领域，发现远超人类能力范围的事物的智能。我原本认为，这可能需要三到五年。

不过，我的时间预测已经有所提前。因此，我现在会预测三年左右。这是因为，利用编程智能体加速研究，能够让我们在相关工作中取得更快的进展。

我认为，接下来一切都会发展得非常快，这将是一段令人兴奋的旅程。

参考链接：https://www.youtube.com/watch?v=L4SWQebqhek

当 OpenAI、Anthropic、Google，到智谱、DeepSeek、Kimi、阿里都开始密集发布自进化相关研究，RSI 正从概念走向真正的技术竞赛。

11 月 20—21 日，2026 奇点智能技术大会「大模型技术：从 Agentic Scaling 到 RSI」专场，将邀请一线研究者与工程专家，围绕 Agentic Scaling、RSI、自进化闭环、持续学习、AI 制造 AI 等关键问题展开分享。

同时，我们整理了 《RSI（递归自我改进 / 自进化）前沿研究资料包》，汇总 OpenAI、Anthropic、Google、DeepSeek、智谱、Kimi、阿里等最新论文、官方技术报告与研究出处。

扫描下方海报二维码，领取 RSI 前沿资料包，并了解专题参会详情。