网易首页 > 网易号 > 正文 申请入驻

当最聪明的大脑集体涌向AI安全

0
分享至


"数学最高奖得主,转身走进AI安全。"

作者|家昌

出品|极新

2026年7月26日,新晋菲尔兹奖得主、算术几何领域顶尖学者Jacob Tsimerman宣布加入OpenAI,专注AI安全与对齐研究。这一消息震动了数学界和人工智能界。菲尔兹奖是数学领域的最高荣誉,获奖者放弃纯数学研究进入工业界,在历史上极为罕见。Tsimerman的选择折射出一个时代级的人才流动趋势:AI正在以前所未有的引力,将各学科最聪明的大脑吸入自己的轨道。而让菲尔兹奖级别的数学家来研究AI安全,也意味着这个问题的难度与重要性,已经上升到了基础科学的高度。

1


一个数学天才的选择

理解Tsimerman选择的冲击力,需要先了解他在数学界的地位。

Tsimerman出生于加拿大,在多伦多大学获得博士学位,目前在普林斯顿大学担任教授。他的主要贡献集中在算术几何领域,特别是在志村簇、安德烈-奥尔特猜想等方向做出了突破性工作。这些研究方向对于非专业人士而言如同天书,但在数学内部,它们是数论与代数几何交叉地带最艰深、最核心的领域。2026年的菲尔兹奖正是对他这些贡献的认可。

按照数学界的常规剧本,获得菲尔兹奖之后,Tsimerman应当进入一个更为自由的学术黄金期——摆脱了职称考评的压力,拥有足够的研究经费和学术声望,可以随心所欲地探索任何感兴趣的纯数学问题。大多数菲尔兹奖得主都沿着这条路径走下去了。

但他选择了另一条路。在宣布加入OpenAI的声明中,Tsimerman写道:“AI对齐问题本质上是一个关于如何用数学语言精确描述人类价值,并确保智能系统不偏离这一描述的问题。它需要代数、逻辑、概率论和优化理论的深度交叉,而纯数学家恰恰擅长于在抽象结构中寻找确定性的保证。这对我来说是最具智识挑战的问题,也是最值得投入生命的问题。”

这段话透露了两个关键信息。第一,他将AI安全视为一个数学问题,而不仅仅是一个工程问题。第二,他认为纯数学家训练出的那种“在高度抽象的结构中寻找绝对确定性”的思维习惯,恰好是解决AI对齐问题所急需的。这不是一个数学天才“降维打击”去解决工业界问题的故事,而是发现了一个只能由数学天才才能去解决的问题。

2


为什么AI安全需要菲尔兹奖级别的头脑?

在Tsimerman宣布入职的同一周,OpenAI首席科学家在官方博客中发布了一篇技术说明,解释为什么要招募纯数学家进入安全团队。

当前的AI对齐研究大致可分为两类。一类是“经验式对齐”,通过人类反馈强化学习等方法,在实践中不断调整模型行为。这种方法有效,但不提供理论保证——没有人能从数学上证明一个经过RLHF训练的模型不会在特定条件下出现有害行为。另一类是“形式化对齐”,试图用数学语言严格定义“安全”“对齐”等概念,并证明在给定的数学框架内,模型的行为可以保持在安全边界之内。


后者的难度堪比纯数学研究。它需要一种极其特殊的智力训练:在极其抽象的结构中,找到一组公理,然后从这组公理出发,推导出系统行为的确定边界。这与数论学家研究素数分布、几何学家研究流形拓扑的工作方式如出一辙——都是在看似无序的复杂现象背后,寻找严格的数学结构。

OpenAI并非第一家意识到这一点的机构。谷歌旗下DeepMind早在2024年就组建了一个名为“对齐数学组”的小团队,成员包括两位菲尔兹奖得主和多位IMO金牌得主。Anthropic的安全团队中也有来自代数拓扑和模型论领域的学者。Meta的AI安全顾问委员会则邀请了数位理论计算机科学家和逻辑学家。

Tsimerman的加入让这场“数学家争夺战”进一步升级。菲尔兹奖得主全职加入企业安全团队,这在整个AI行业历史上尚属首次。它标志着AI安全研究已不再满足于工程修补和经验调试,而是正在上升为一门需要基础科学突破的前沿学科。

3


人才虹吸,最聪明的大脑都在离开自己的领域

Tsimerman的选择并非孤例。它是一张正在加速的人才流动图谱上最新、也最扎眼的一个标注点。

据《自然》杂志2026年初发布的一项调查,过去两年中,全球排名前100的大学中,数学、物理和理论计算机科学领域的顶尖博士生和青年教授,选择进入工业界而非学术界的比例已从2020年的28%攀升至2026年的47%。而他们进入工业界的首选方向,几乎全部指向AI。

图灵奖得主中,杨立昆早在Meta担任首席AI科学家,约书亚·本吉奥在多家AI公司担任顾问,杰弗里·辛顿曾在谷歌工作多年。诺贝尔物理学奖得主中,已有不止一位开始用AI工具辅助自己的研究,或者直接加入AI创业公司。现在,菲尔兹奖得主也开始全职加入AI公司。这道人才流动的弧线,从工程界一路划到了基础科学的最顶端。


这股虹吸效应引发了一个尖锐的担忧:当最聪明的头脑都在涌向AI,其他基础学科怎么办?

这种“智力的重新配置”在历史上并非没有先例。二战期间,大量物理学家离开基础研究领域,投身曼哈顿计划。冷战时期的太空竞赛,同样将最优秀的工程人才汇聚到了一个单一目标上。但当时的智力集中是任务导向的、有时间期限的。今天AI对人才的虹吸,则更像一场没有明确终点的长跑——只要AI还在高速演进,它对顶尖头脑的需求就不会减弱。

4


对齐问题的前景

Tsimerman的加入,让外界对AI对齐问题的解决前景产生了新的期待。但客观而言,这个问题的难度可能被低估了。

OpenAI安全团队在2026年初发布的一份白皮书中,将对齐研究的现状描述为“局部可控,全局未知”。在特定任务上,通过RLHF、RLAIF等方法,模型的行为已经可以被约束到人类可接受的范围之内。但在“全局对齐”这个层面——确保一个具备通用智能能力的系统在任意情境下都不会偏离人类价值——目前还没有任何被数学严格证明的方案。

这正是需要Tsimerman这样背景的数学家的原因。全局对齐需要一个能够经受数学检验的框架:不是“模型看起来表现得安全”,而是“我们可以证明,在这个框架内,模型不可能不安全”。要达到这种严格程度,研究者必须突破一系列尚未解决的基础性问题:价值的形式化定义、多主体博弈中的稳定性条件、不确定环境下长期目标的保持。每一个问题都像一块为纯数学家量身定做的磨刀石。

但也必须诚实地指出,数学证明同样有其局限。人类价值本身并非一组可以被无歧义定义的公理,不同文化、不同个体对“安全”的定义存在根本性分歧。即便数学家能够在某个公理体系内证明一个AI系统的行为边界,那个公理体系本身的选择和设定,仍然是一个充满哲学和政治争议的过程。数学可以提供确定性,但无法替代人类在价值排序上的艰难选择。


一枚菲尔兹奖章的归属,折射出的是一种更深层的时代变迁。在工业革命时代,最聪明的大脑去造蒸汽机和铁路。在信息革命时代,他们去写操作系统和搜索引擎。而在AI加速演进的今天,他们正在走向那些尚未被解答的安全与对齐问题。

这本身就是一个值得深思的信号:AI安全已经不是一个可以被工程师和经验主义者“顺便解决”的工程问题。它需要数学家的严格性、哲学家的深度、甚至政治学家的平衡感。当菲尔兹奖得主愿意将自己的学术生涯押注在这个问题上时,它本身就说明——AI安全问题的分量,已经与基础科学相当。而人类是否能在AI能力指数增长的窗口关闭之前,跑通对齐这条生命线,或许将是这个世纪最重要的科学答卷。

更多干货分享敬请注我们的公众号与视频号~超多精彩对话内容等待您的解锁!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
看了两位小姐姐的打扮,还是觉得微胖身材的女生更有魅力

看了两位小姐姐的打扮,还是觉得微胖身材的女生更有魅力

美女穿搭分享
2026-09-20 12:47:52
特朗普正式签署对俄制裁法案!宣布对乌克兰近27亿军售

特朗普正式签署对俄制裁法案!宣布对乌克兰近27亿军售

项鹏飞
2026-09-19 20:14:17
库尔图瓦社媒发文:显而易见的情况令人沮丧

库尔图瓦社媒发文:显而易见的情况令人沮丧

懂球帝
2026-09-21 04:20:09
瘫了九年的库兹涅佐夫号,终于有新动静,俄海军:

瘫了九年的库兹涅佐夫号,终于有新动静,俄海军:

果妈聊娱乐
2026-09-20 12:33:09
蔚来新车官宣,9月21日继续开售,顶配42.28万元

蔚来新车官宣,9月21日继续开售,顶配42.28万元

手机讲坛
2026-09-21 00:19:25
“患癌就老实了!”低认知宝妈带娃在地下车库吃饭写作业,网友:打扮的还挺漂亮!

“患癌就老实了!”低认知宝妈带娃在地下车库吃饭写作业,网友:打扮的还挺漂亮!

林林先生
2026-09-15 10:24:09
叶赫那拉的“诅咒”:凡是拿了大清赔款的国家,终将都会变成大清

叶赫那拉的“诅咒”:凡是拿了大清赔款的国家,终将都会变成大清

纪史行者
2026-09-20 06:50:14
比利简金杯总决赛,郑钦文带着美网8强的手感回来了,这一次主场再遇意大利能领衔中国网球队翻身吗

比利简金杯总决赛,郑钦文带着美网8强的手感回来了,这一次主场再遇意大利能领衔中国网球队翻身吗

爱体育的小悠悠
2026-09-20 13:08:06
我开厂挣了3600万,爹妈问我有多少存款,我只说4万,结果第二天妹妹带着她的公公婆婆找上门来

我开厂挣了3600万,爹妈问我有多少存款,我只说4万,结果第二天妹妹带着她的公公婆婆找上门来

风起见你
2026-09-19 00:52:54
日本有一个奇特姓氏,不管取什么名字,译成中文后总让人忍俊不禁

日本有一个奇特姓氏,不管取什么名字,译成中文后总让人忍俊不禁

海佑讲史
2026-09-10 20:45:06
开油车的突然笑了,开电车的真要慌了!2026油电新政落地实锤!税费规则都要变了

开油车的突然笑了,开电车的真要慌了!2026油电新政落地实锤!税费规则都要变了

小怪吃美食
2026-09-19 00:24:11
寿命长短,走路便知?寿命长的人,走路一般有这4个特征

寿命长短,走路便知?寿命长的人,走路一般有这4个特征

展望云霄
2026-08-30 14:00:06
吃相难看,于东来发布招聘新规仅1天,恶心事发生,刘强东说对了

吃相难看,于东来发布招聘新规仅1天,恶心事发生,刘强东说对了

大鱼简科
2026-09-18 11:35:32
官媒怒批罗永浩,上次一句话干翻西贝,这次翻个“大跟头”

官媒怒批罗永浩,上次一句话干翻西贝,这次翻个“大跟头”

春之寞陌
2026-09-20 14:29:19
中美经贸磋商在美国纽约开始举行

中美经贸磋商在美国纽约开始举行

新华社
2026-09-20 22:50:08
马卡电台裁判专家:裁判系统负责人应回应穆帅,但他们不会

马卡电台裁判专家:裁判系统负责人应回应穆帅,但他们不会

懂球帝
2026-09-21 10:00:10
领先国际一代,南方六代机发动机喷口变了,“脖子”也更粗

领先国际一代,南方六代机发动机喷口变了,“脖子”也更粗

三叔的装备空间
2026-09-19 23:01:38
十一年战火!沙特求助中国斡旋,也门迎来和平曙光

十一年战火!沙特求助中国斡旋,也门迎来和平曙光

理想闲谈
2026-09-21 10:05:48
开售1小时3万人签收,iPhone 18 Pro凭什么这么快

开售1小时3万人签收,iPhone 18 Pro凭什么这么快

薛定谔的BUG
2026-09-19 20:09:24
马云“创意”拿下国际大奖,网友:“鬼点子”真多!

马云“创意”拿下国际大奖,网友:“鬼点子”真多!

大厂财经社
2026-09-20 17:11:26
2026-09-21 11:56:49
极新 incentive-icons
极新
我们是垂直于企服和硬科技的创投和行业研究媒体,致力于陪伴和记录科技企业进步和产业成长。
1525文章数 9关注度
往期回顾 全部

科技要闻

智谱将上线“零数据留存”机制

头条要闻

菲律宾挑衅中国后 英国和加拿大突然激动结果"翻车"了

头条要闻

菲律宾挑衅中国后 英国和加拿大突然激动结果"翻车"了

体育要闻

游泳2小时6金!亚运金牌榜:中国11金领跑

娱乐要闻

76岁站上红馆开唱,谭咏麟说回馈歌迷

财经要闻

机器人IPO门槛收紧?能否商业闭环成考量

汽车要闻

7年70万辆 新红旗HS5焕新升级,这次变在哪?

态度原创

教育
艺术
健康
公开课
军事航空

教育要闻

多所985,研究生新生人数反超本科生!

艺术要闻

豪车布加迪盖楼,美国首个住宅效果图曝光,你会买吗?

有人倒地抽搐?!是癫痫还是中风?

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

莫斯科称遭"有史以来最大规模袭击"

无障碍浏览 进入关怀版