别迷信AI能力有天花板，我研究AI是为了控制它

短短两周内，美国三大人工智能（AI）公司OpenAI、Anthropic和Meta接连“爆雷”，它们的AI模型在安全测试中“失控”，甚至发动网络攻击。

与此同时，“人类最聪明的头脑”——一位新晋菲尔兹奖得主宣布告别数学，停止招收博士生，投身AI领域，希望找到控制AI的办法。

视觉中国图

7月23日，在人类数学最高荣誉菲尔兹奖的领奖台上，多伦多大学数学教授雅各布·齐默曼（Jacob Tsimerman）做出了一个不同寻常的选择：加入OpenAI。

8月7日，雅各布·齐默曼在接受《每日经济新闻》记者（以下简称NBD）独家专访时透露，自己将于今年夏末之前正式入职OpenAI。他的目标是找到控制AI的办法，以遏制这场潜在的“文明级毁灭风险”。

雅各布·齐默曼说：“AI已成为这个时代最关键、也最危险的技术变量之一，但人类对其底层机制的理解仍极为有限。AI没有天然的安全刹车。”

为何转身加入OpenAI：我们对AI缺乏基础性认知

雅各布·齐默曼是两届国际数学奥林匹克（IMO）金牌得主、多伦多大学史上最年轻正教授。

从数学巅峰改换AI赛道，雅各布·齐默曼的选择不是个例。

目前，各大AI企业的安全团队正在加速招聘计算机行业之外的顶尖学者。

Anthropic聘用了一名斯坦福大学经济学家，以及一位得克萨斯大学奥斯汀分校的哲学家；OpenAI则招揽了一众顶尖数学家与物理学家。

仅2026年，就有至少22位教授选择离开或暂离斯坦福、伯克利、哈佛、麻省理工学院等顶尖学府，加入OpenAI、Anthropic、Meta及Google DeepMind。

NBD：您目前是否已经入职OpenAI并展开工作？

雅各布·齐默曼：还没有，相关事宜暂时尚未完全敲定，预计会在今年夏末之前正式入职。

NBD：您在获得菲尔兹奖后选择加入OpenAI，背后出于哪些考量？

雅各布·齐默曼：我认为AI是我们当下时代最关键的课题。它发展潜力巨大，但其背后也潜藏着诸多风险。

我们急需更多理论研究者、经济学研究者以及治理领域的专业人士投身AI领域。我希望自己能参与其中，也号召更多数学家共同为此作出贡献。

我认为建立一个健康的AI安全生态系统至关重要。

关于自己的去向，我曾有过慎重考虑。作为一名数学家，我的短板在于软件工程能力，而AI实验室正是学习相关技能的绝佳平台，这也是促成我做出选择的决定性因素。

NBD：近年来，顶尖AI实验室开始大量招聘数学家和哲学家，这背后的逻辑是什么？

雅各布·齐默曼：到目前为止，人工智能大体上属于一门经验性学科。

过度依赖经验性研究造成了一个重大弊端：我们缺乏基础性认知，未能从底层逻辑上弄懂AI系统的思考方式及其行为背后的根本动因。这导致我们很难精准预判AI下一步会采取何种举动。

引入更多理论研究者进入AI领域的初衷在于，如果我们能更深刻地理解某一事物，就更有可能去预测它、引导它、控制它，从而降低其潜在风险。

我相信许多数学家已经敏锐地意识到，AI安全是亟待解决的严峻课题，行业演进速度飞快，相关研究已刻不容缓。

为此，我搭建了一个网站，希望可以引导数学家跨界进入AI安全领域，帮助他们了解行业运作模式并指明研究方向。

“AI不存在能力天花板，潜藏文明级毁灭风险”

雅各布·齐默曼对AI安全的关注由来已久。

2025年，他与安德鲁·克里奇（Andrew Critch）共同发表论文，系统性地梳理了AI可能导致人类接近灭绝的潜在路径：无意灭绝、国家间竞争、机构俘获、个人滥用及自主AI接管。该论文并非认为AI导致人类灭绝是必然结果，而是希望推动相关预防措施。

NBD：各大AI企业围绕算力和商业化展开角逐。在这样的竞争环境下，最大的风险是什么？

雅各布·齐默曼：大家都心知肚明，随着AI模型能力的持续升级，它可以做到的事情越来越多，相应的风险也在同步攀升。

近期，上千名前沿实验室员工联名发布题为《调控前沿科技发展节奏》（Pacing the Frontier）的公开信。信中表达了科研从业者的担忧，提议建立管控机制，酌情放缓、暂停或是规范化管理AI模型的迭代速度。

AI系统越发聪慧本是好事，我们能够借助它完成各类造福人类的任务。但倘若我们无法有效管控风险，它便会埋下巨大的安全隐患。

NBD：近期OpenAI与Anthropic的模型相继曝出突破沙盒隔离、自主攻破外部系统的安全事件。这揭示出当前的AI风险已延伸至何种程度？可能引发哪些严重后果？

雅各布·齐默曼：从上述以及其他同类安全事件不难看出，一旦我们研发出思考速度优于人类的智能体，灾难隐患便随之诞生，这点也是我参与撰写的论文当中提到过的。

高智能AI可能被个人、小型团伙或大型机构恶意利用，从而制造巨大破坏；同时，AI自身也可能出现目标偏差，产生独立的诉求，甚至以违背人类初衷的方式来执行指令。

整体风险等级极高，甚至可能引发毁灭性灾难。风险覆盖各个层级：首先我们需要警惕可能撼动人类文明的顶级风险，同时还有重大经济冲击、社会层面的负面影响等，每一项都不容小觑。

我撰写那篇论文只为警示世人认清高危隐患，并非散播恐慌、制造焦虑，恐慌毫无益处。我们只需要正视这极高的潜在风险，并给予对等的重视程度。

NBD：关于您说的AI毁灭性风险，普通大众对此最大的认知误区是什么？

雅各布·齐默曼：大众最大的误区，就是主观地认定AI的底层架构天然存在某种智力上限或者任务能力的天花板。

很多人断言，AI本质只是预测下一个文本标记、相当于自动补全工具，永远做不到高难度工作。但现实情况是，AI正在不断攻克过去被认为无法被替代的领域，持续刷新着能力边界。已有大量事实证明，这类所谓的“能力枷锁”并不存在。

只要是人类能够设想出的任务，AI便有机会实现。因此我希望大众明白，AI没有任何天然的“安全刹车”。

NBD：在通往通用人工智能（AGI）的道路上，目前是否还存在关键的科学瓶颈？

雅各布·齐默曼：很有可能硬性科研瓶颈现在已经不存在了。我们或许只需要延续眼下的技术研发路线，就有机会打造出AGI。当然，这只是一种可能性。

行业内已有不少专家预测，AGI很快就会问世。

我投身AI安全研究，目标并不是加速AGI落地，而是为了确保一旦实现AGI，我们能足够清楚其内部运作机制，从而保持足够的掌控力、规避风险，驱使AI真正造福人类。

停止招收数学博士生：很快AI将赶超人类数学家

雅各布·齐默曼认为，AI可能在未来两年内超越人类数学家，因此，他已停止招收新的数学博士生。他曾表示，不希望培养学生进入一个可能很快发生重大变化甚至消失的职业领域。

NBD：您曾提到AI可能很快在数学推理上超越人类。那么未来人类数学家的核心价值会是什么？

雅各布·齐默曼：这是一个很棒的问题。可以肯定的是，人类的数学研究将不再以现在的形式继续存在了。AI的数学能力正在飞速赶超人类，不出短短数年，它的数学水平便会全面凌驾于人。

但是，人类依然需要钻研数学，也应当保留人类钻研、探索数学的各类途径。

此外，我们更要思考如何释放AI全新的数学能力，将其转化为对人类有益的产出。

纯数学理论到落地应用的转化链条十分漫长：一条数学理论从被发现，到服务社会，往往需要耗费数十年光阴。如果AI技术足够成熟，将有望大幅缩短这一转化周期。而一旦转化周期缩短，大量激动人心、具备实用价值的科研成果将会加速涌现。

NBD：对普通人而言，在AI时代应该如何应对就业和生存问题？

雅各布·齐默曼：我对大家的建议是，去亲身体验和使用它。实操体验AI模型，摸清它的运行逻辑，将其融入自己的日常工作流程中。

无论未来经济格局如何演变，显而易见的是，AI工具至少会成为我们工作流中至关重要的伙伴。如果不去学习和使用它们，我认为将会处于竞争劣势。

而在公共事务层面，我呼吁大家主动关注AI相关资讯，真正重视这件大事，并向政府传递大众的关切。

我们需要带动社会各界与大型机构投入AI议题的探讨；也需要政府意识到全社会都十分关心AI发展——这关乎每一个人的命运。只有全社会共同参与，我们才能拿出与风险等级相匹配的应对策略。