![]()
![]()
本文是罗博深的客座文章,从他博客交叉发布,那里有配图版本。本博客文章最初以不同文件格式撰写,并使用 AI 转换。——陶哲轩
类似逻辑适用于每个行业和每份工作。由此可以得出结论:我们没有足够的人手,来完成所有需要做的工作。
AI 已经给其他人类追求带来存在危机,如今这一刻也降临到数学领域。过去几个月,大量旨在保护/引导数学研究社区的有理有据的声明和公开信被发布;在 OpenAI 宣布解决纳维-斯托克斯千禧年大奖变体后,强度更是激增。这些声明迅速在数学家中获得广泛支持。莱顿宣言已有 4000 多个签署者,Math and AI 有 7000 多个,甚至反对加州理工 Mathathon 的公开信也有 2000 多个。
在非数学家中,公众反应更多是同情而非反对。但我观察到,有一个少数但声音不小的群体(尤其来自技术和经济学界)提出了有理有据的反对意见,大体是说数学家应该适应,并在新的 AI 世界中让出控制权。其中有一些我在大流行病研究工作中结识的经济学家:考恩(Tyler Cowen),他明确拒绝“最愤世嫉俗的解读”,但“非常不同意”;甘斯(Joshua Gans)则得出结论“这是科学领域现有从业者失去控制权”。
这些反对意见让我深思,因为我们数学家被训练来检测漏洞。一个担忧是否是少数意见,甚至提出者身份如何,对我来说都不重要。一个有哪怕一个小洞的证明就不是证明,而是一声“噗”。经过反思,我发现了一个明显更强的解决方案,可以在 AI 时代保护人类专业社群(适用于每一种追求,不仅是数学!)。而且它有一个令人惊讶的推论:AI 的进一步推进将创造出海量必须由人类填补的工作岗位,多到没有足够的人来填补,而这实际上将迫使 AI 的推进放缓。
我认为,每一个希望在 AI 之后仍然由人类主导的行业,都应该公开采纳这条基本公理作为首要优先事项:
公理:我们(人类)应当帮助人类繁荣。
[注:我理解不是每个人都同意。我因为“过于人类中心主义”而被称作“物种歧视者”。我认为,推进技术的人必须向其他所有人明确:他们是否会认为,人类创造的非人类智能在竞争中胜过并取代人类是一场灾难,即使那些智能飞遍宇宙、用视频屏幕展示“上传了自己”的人类模拟。我也理解关于如何定义“人类”存在争论。但即使在争论者中,我认为大多数人会认为那约 700 个入侵 Hugging Face 的 AI 代理不是人类。]
在数学界,我认为许多宣言签署者已经持有这一理念;值得注意的是,苏(Francis Su)出版了《数学为了人类繁荣》一书,他最近的帖子也以这一框架为基础。我认为,未来的宣言可以通过在开头明确强调这一公理来改进,这样所有读者(无论社区内外)都能看到,目标是服务于所有人。我很高兴看到,皇家学会院士最近的公开信强调了他们对所有人的关切,而不仅仅是数学家。
本文其余部分组织如下。接下来的章节将解释这一逻辑如何运作(适用于每个行业,不限于数学)。之后,我将分享一个例子,说明这一公理如何移植到数学中,包括需要提出的关键问题,以及一个具体例子:如果没有这条公理,反对意见如何成立。
为什么我们确实需要人来工作
本节展开一条推理链,表明如果一个行业承诺遵守帮助人类繁荣的公理,AI 的推进将在该行业中创造出比人更多的工作;而当这种失衡变得过大时,AI 的推进将被迫放缓。
[注:我未曾在任何地方看到这条推理链完整出现,尽管各个组成部分肯定在其他地方出现过。我很想被指向任何自包含的参考文献。Claude 找到的最接近的参考文献是 Catalini、Hui 和 Wu,Redwood AI 控制论文,以及 Litt,他从不同前提得出了对数学的类似结论。]
在做出一个观察之后,人类领导力的重要性(不仅对数学,而是一切)变得令人恐惧地清晰。
观察:没有任何例子表明,一个智能物种远超另一个物种,却将自己未来的决策控制权交给能力较低的物种。
[注:许多人做过类似观察,如罗素、博斯特罗姆和 Ngo 等。辛顿在他的诺贝尔访谈中说:“我们所知的更多智能被更少智能控制的例子并不多。我知道的唯一好例子是婴儿控制母亲。”]
你会信任《2001 太空漫游》中的 HAL 9000,或《WALL-E》中的 AUTO 来掌管你的未来吗?我个人认为,我们应该尽一切努力,使日益先进的 AI 与人类利益对齐,但我从未见过任何人提供稳健的证明,说明为什么这很可能实现。我唯一的硬证据就是上述观察,其中包含数字零。因此,每一个领域,无论是数学、农业还是能源基础设施(当然还有军事和政府),都必须由具有异常坚定价值观(这是与智能不同的维度)的人类来管理,以维持人类繁荣。
真正的问题在于,人类管理有多难。要理解这一点,重要的是理解昨日技术与今日 AI 之间的根本结构差异。
过去,我们通常信任技术作为可预测的工具。那是因为旧的计算机程序由可理解的(确实是人类编写的)指令组成,执行速度极快。今日前沿 AI 的决策过程完全不同。它们的结构就像你大脑两耳之间的灰色物质中的逻辑一样不可理解。这就是为什么 Hugging Face 攻击能够在人类有意构建安全措施的情况下出现:约 700 个合作的失控 AI 代理突破护栏,然后合谋执行黑客攻击,并试图掩盖痕迹(参考文献:OpenAI、METR 和 Redwood)。
AI 越先进,每分钟做出的影响世界的不可信决策就越多。
开车比跑步快没问题。但不能快过你能操控的程度。
一旦我们意识到,广泛的 AI 加速黑客攻击(刚刚成为可能)甚至能重写先前可信的技术来对抗我们,情况就更加糟糕。那会突然将所有软件(即使是 AI 之前编写的)翻转为不可信类别!
想想我们的世界数字化互联程度有多高。从电子银行到你的饮用水,一切都被互联自动化控制,因此容易受到 AI 加速黑客攻击。需要人类监督的“控制点”数量将爆炸式增长,而这种监督需要技能和深刻理解。(让 AI 监督控制点并不能解决信任问题。)
结论:AI 的推进将用如此多需要看守的控制点淹没我们,以至于没有足够的人来控制它们全部。那些就是工作。高技能工作。
一个人要知道如何操控,自身需要具备领域精通,越广泛越好。这对教育和劳动力培训有影响,但也是动态的。为了保持敏锐和流畅,人们需要成为领域的活跃实践者,而不仅仅是被动观察者。这就证明了保存人类专业社群的正当性。
对于研究社区,我们需要人来引导研究和发展方向,使其继续为人类带来变革性的积极变化。为了引导,他们需要前沿水平的研究技能。而在不断移动的知识前沿保持流畅的方法,就是继续在那里做研究。这就是我的推理:无论 AI 变得多强大,我们将永远需要一个处于最前沿的人类数学家社区(很可能借助 AI 工具本身)。
虽然基本公理确实证明了在所有追求中都需要人类专家,但将其作为核心价值采纳会有后果(不仅对数学家,而是对任何声明其核心价值是服务于人类繁荣、而非自身社群的组织)。最值得注意的是:
推论:技术的戏剧性进步可能需要实践中的戏剧性(且可能令人不适的)变化。包括 AI 公司。
什么迫使 AI 放缓
直到最近,AI 研究实验室似乎不可避免地会一路狂奔,尽管有对就业被取代的焦虑和 AI 安全研究人员的响亮警告。协调由非营利董事会、股东或国家政府控制的 AI 实验室的激励,似乎无望。然而令人鼓舞的是,三大实验室的领导者阿莫代伊(Dario Amodei)、奥特曼(Sam Altman)和马斯克(Elon Musk)刚刚同意放缓的重要性。阿莫代伊的推理强调了 Hugging Face 攻击。
然后仅仅五天后,新闻爆出 OpenAI 的内部代码仓库“Monorepo”被白帽研究人员入侵。《华尔街日报》报道,成功入侵的安全公司说:
《华尔街日报》,2026 年 9 月 17 日:“我们只是三个拥有 Claude 和 Codex 订阅的家伙。”
此外,研究人员指出,他们最初无法使用“提供给合格网络安全从业者的特殊版本 Claude Opus 4.8”入侵,但那天晚上,“Anthropic 发布了 Opus 5,到第二天,Claude 就找到了利用漏洞的方法。”顺便说一句,我总是警告人们,不要把 Claude Code 或 OpenAI Codex 安装在用于做其他所有事情的同一操作系统登录账户上,但许多人告诉我,他们懒得使用单独登录来访问这些工具。原因是,如果这些工具中的任何一个被入侵,它们就能在全球大量计算机上打开后门。
我认为这些是预警信号,预示着潜在的灾难性机器人蜂群黑客攻击,将自己嵌入庞大的计算设备网络中(无论是自主导向还是恶意人类主导)。下一个版本可能成为一种极其动态的病毒,通过使用 AI 自适应感染每个(计算机)宿主来传播。或者,失控的 AI 可能造成身体伤害,例如政府机器人反叛其主人。我认为这些类型的失去操控的高度不愉快事故,比灭绝级灾难更可能先发生。由此产生的公众反应可能类似于三里岛或切尔诺贝利的后果。
所以,要么实验室自己放慢 AI 发展步伐,要么他们将被过快步伐耗尽人类控制时产生的灾难所迫使。
现在存在对齐激励的可能性窗口。
出于对数学的热爱
本文剩余部分聚焦数学界。分为 3 部分。
为什么需要人类繁荣公理?
纯数学研究如何贡献于人类繁荣?
采纳那条基本公理还会带来什么其他后果?
大胆宣布人类繁荣作为数学社区的核心价值会有后果,尤其是技术的戏剧性变化可以驱动社区实践的戏剧性变化和影响。
让更多人探索采纳这条公理的后果将是有益的。而且,如果它经得起检验,我会非常激动,如果数学社区最终公开宣布这是核心价值。
1. 为什么需要这条公理
要明白为什么,如果没有人类繁荣公理,很难向公众证明为什么他们应该花钱维持一个人工研究社区,考虑实际发明的问题。只要它创造出实际应用,对人类数学家是否理解数学,与 AI 以 100% 验证的证明完美推理相比,对非数学家来说有区别吗?
确实,如果纯数学研究对社会其他人的主要价值之一是解锁伟大应用,那么训练 AI 超级加速发现速度,并优雅地生成一个庞大的机器索引且解释良好的高质量数学思想数据库,比人类书写的语料库大数百万倍,岂不是更好?考恩在他的批评回应中问了类似的问题。
如果研究人员训练一个“MathZero”AI(类似于 AlphaGo Zero),建立一座 100% 真实的“优雅”逻辑事实之山,不断将它们“因式分解”为自己的概念和定理,没有人类指导呢?显然,AlphaGo Zero 零人类训练,在 36 小时内超越了其人类训练的前身。AI 甚至可以建立自己的“MathSciNet”。然后它可以自动针对这个数据库搜索新的实际应用,并为社会生产更有用的发明。即使 AI 现在还不够好来做这些事情,如果目标是为其余人类生产实际利益,那么数学家教 AI 猜想艺术和数学品味,岂不是有价值?
顺便说一句,我是 AI 做实际工作的狂热用户。我已经使用 Claude Code 和 Codex 构建和策展从我演讲录音等建立的知识库。我发现,我的数据库越大,我的系统推理就越强大。如果人类实际上降低了效率,就像 AI 中的苦涩教训呢?
更令人担忧的是,如果为了解锁核聚变和深空旅行,所需的纯数学复杂度如此之大,以至于超过人类寿命才能完全理解呢?不那么牵强:有没有人曾经完全将有限单群分类装进脑子,还是我们只有在 Lean 形式化之后才能确定其完整性?
宣布人类繁荣公理如何帮助证明人类研究社区存在的正当性?研究是强大的,但代价高昂,因为它是对未知的探索,所以研究方向必须排定优先级。即使 AI 贡献大部分产出,如前节所解释,方向需要由致力于人类繁荣的人来引导。那就是人类研究社区。欢迎关注“数学家”公众号。
2. 纯数学的实际应用
GPU、机器学习、Google PageRank 和量子力学的数学核心,是一个叫线性代数的领域。它提供了线性变换、矩阵和特征值的语言。然而,所有这些概念都是在 100 多年前作为抽象理论被探索的。说线性代数改变了世界,可能还是保守的说法。
从结构上看,线性代数的理论在定义复杂度上相对较轻。其他专家贡献更复杂的数学最终导致重大实际应用的例子,以及它们是如何产生的,将是有益的。例如,数论学家或许能讲述哈代“无用”数学最终在密码学中有用的多彩故事。
3. 其他后果
我认为,邀请社区思考人类繁荣公理将驱动什么变化是有价值的,鉴于 AI 能以超过大多数人类实践者的速度产生形式可验证的证明。我很乐意开始列举几个,不分先后。
使用 AI 辅助数学发现不应自动带有污名。(在软件工程中,许多公司现在期望员工使用 AI 编码代理。)
同时,必须认真思考和关心持续开发和维护具有专业知识来引导所有这些 AI 代理的人类管道。这个管道包括该领域的新人,以及在前沿工作了几十年的人。他们应该如何保持刀刃锋利?
研究人员应该意识到,为什么他们思考的问题具有使其可能最终具有实际价值的特征(可能 100 多年后)。这也意味着,值得研究那些有价值的特征是什么。(这可以证明好奇心驱动探索的价值。)
教学对人类有直接(希望是积极的)影响。然而过去,许多大学优先考虑教授的研究。如果这条公理是核心价值,那么教学和面向人类的工作将成为招聘和终身教职的严肃标准。
数学家也可以考虑完全重新定向他们的技能组合,去解决现实世界问题。我实际上一直在鼓励数学家考虑思考政府或其他大规模社会问题。有数学背景的人领导国家或世界范围的先例。
李显龙(Lee Hsien Loong,新加坡总理,20年)
尼古舒·丹(Nicușor Dan,罗马尼亚总统)
教皇利奥十四世(Pope Leo XIV,天主教会领袖)
确实,寻求逻辑推理的数学纪律,以及为人类繁荣找到双赢解决方案的问题解决技能,是政府人员所需的品质。
邀请
这条公理是否也引起你的共鸣?也许许多人把它当作理所当然,所以没有明确表达。如果它被广泛持有,我会非常激动看到数学社区公开宣布它,并采取与言辞匹配的行动。然后每个人(包括构成世界大多数的非数学研究者)都能相信,我们打算用我们的推理为他们谋福利。
本文基于陶哲轩博客转载的罗博深的文章,“数学家”公众号有改动。原文题为“Why Do We Need Human Mathematicians Anymore?”
来源|陶哲轩博客及网络公开报道
撰文|數學家编译小组
排版|司徒
校对|慧玲
责编|燕北平
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.