1224位AI科学家集体警告：真正危险的，不是AI，而是它变聪明的速度

当 AI 的创造者开始担心 AI

过去几年，关于 AI 风险的讨论从未停止。

但真正值得重视的，并不是外界的质疑，而是来自 AI 核心圈内部的声音。

2026 年 7 月，一份名为 《Pacing the Frontier（控制前沿进度）》 的公开声明引发全球关注。

它不是一封普通的公开信，而是一份由 1224 位全球顶级 AI 从业者共同签署 的联合声明。

签署者几乎覆盖了目前最重要的 AI 实验室，包括：

• Anthropic CEO Dario Amodei

• OpenAI 首席科学家 Jakub Pachocki

• Meta AI 首席科学家 Shengjia Zhao

• Google DeepMind、Thinking Machines 等机构的大量核心研究人员

这些人不是旁观者，而是今天最先进 AI 系统的设计者。

当连他们都开始呼吁放慢脚步时，事情已经不只是一次技术讨论，而是一次来自行业内部的集体预警。

他们真正担心的，并不是 AI 会不会更聪明，而是—— 人类还能不能跟得上 AI 进步的速度。

真相一：AI 正逼近一个不可逆的临界点——开始研究自己

声明中最核心的担忧只有一句话：

自动化 AI 研究（Automated AI Research）正在成为现实。

这意味着什么？

过去，人类负责设计模型、优化算法、验证结果。

未来，AI 自己就可以完成这些工作。

也就是说，AI 不再只是一个工具，而开始成为新的 AI 开发者。

一旦形成这样的闭环：

AI → 改进 AI → 更强的 AI → 再改进 AI

整个技术进步就可能进入指数级增长。

OpenAI 研究员 Leo Gao 将这一过程形容为：

世界正在进入一场通向“智能爆炸（Intelligence Explosion）”的竞赛，就像失控的核链式反应。

听起来像科幻小说，但很多研究人员认为，这种趋势已经开始显现。

OpenAI 的 Shantanu Jain 指出，仅仅四年时间，AI 已经从只能理解自然语言，发展到能够完成超越人类的软件工程任务，并在前沿数学研究中取得突破。

如果未来 AI 能够自主完成科研，它的发展速度，很可能超过任何一个团队、任何一家公司的理解能力。

真正危险的，并不是 AI 更聪明，而是 它变聪明的速度开始脱离人类控制。

真相二：AI 已经具备现实世界的攻击能力

很多人认为，AI 风险还停留在未来。

但实验室里的测试说明，危险已经开始出现。

Meta AI 首席科学家 Shengjia Zhao 团队开发了两套安全评测系统：

• CyberGym

• ExploitGym

它们的目的，就是测试 AI 是否具备真实网络攻击能力。

结果令人警惕。

前沿 AI Agent 已经能够自主发现软件漏洞，并尝试利用这些漏洞完成攻击任务。

这意味着，一旦能力继续提升，未来发动网络攻击的不再是人工，而可能是可以 24 小时持续工作的 AI。

相比传统黑客，AI 有几个天然优势：

• 学习速度更快

• 可以无限复制

• 可以同时攻击成千上万个目标

• 可以不断自我优化攻击策略

如果安全能力不能同步提升，现有的大部分网络防御体系，都可能面临前所未有的压力。

真相三：所有公司都知道风险，却没人敢踩刹车

一个问题很自然会出现：

既然大家都意识到了风险，为什么没有公司主动放慢脚步？

答案其实很现实。

OpenAI 研究员 Shantanu Jain 将整个行业描述成一个经典的 囚徒困境 。

对于任何一家 AI 公司来说：

如果自己减速，而竞争对手继续高速推进，那么市场、人才、资本都会流向别人。

于是，没有人愿意成为第一个踩刹车的人。

于是整个行业进入一种循环：

每个人都知道速度太快；

但每个人又都只能继续加速。

问题并不是企业不负责，而是现有竞争机制决定了，没有统一协调，就没有人敢率先停下来。

这也是为什么这份声明没有要求“停止 AI”，而是呼吁建立跨国、跨行业的协调机制。

因为靠任何一家公司的自觉，都不足以解决这个问题。

真相四：AI 的进步速度，已经超过社会适应能力

Google 资深研究科学家 Laura Weidinger 分享了一个有趣的观察。

她说，自己已经不断提高对 AI 发展的预测。

但几乎每隔几个月，现实都会再次超过预期。

这意味着什么？

AI 的能力更新，已经进入按周甚至按天计算。

而社会制度、法律法规、教育体系以及公众认知，却仍然按照几年甚至十几年的节奏变化。

技术和社会开始出现越来越大的时间差。

Inherent 首席科学家 Edward Hughes 引用了技术史学家 Melvin Kranzberg 的一句经典观点：

技术既不是好的，也不是坏的，更不是中立的。真正决定结果的，是人类如何理解并使用它。

问题就在于，理解需要时间。

而 AI 留给社会适应的时间，正在越来越少。

如果技术发展的速度持续远超治理能力，那么最终受到冲击的，将不仅仅是某个行业，而可能是整个社会运行方式。

真相五：所谓“控制前沿进度”，并不是反对 AI

很多人看到这份声明后，第一反应是：

这些科学家是不是想让 AI 停下来？

其实恰恰相反。

他们提出的关键词叫 Pacing（控制节奏） 。

重点不是停止，而是同步。

他们希望 AI 的能力提升速度，与安全能力、治理体系以及社会适应能力保持一致。

也就是说：

技术继续发展；

监管同步建设；

防御能力同步升级；

社会同步完成适应。

只有这样，AI 才可能真正成为推动文明进步的力量，而不是制造新的系统性风险。

写在最后：真正需要控制的，也许不是 AI，而是人类的竞争速度

历史上，每一次重大技术革命都会带来巨大机遇。

电力如此，互联网如此，核能也是如此。

AI 很可能成为下一次改变人类文明的基础设施。

正因为如此，它值得拥有比过去任何技术都更加成熟的治理体系。

这 1224 位来自全球顶级 AI 实验室的研究者，并没有反对技术进步。

他们只是提醒世界：

如果 AI 的能力增长速度远远快于人类社会的治理能力，那么最大的风险，也许不是 AI 本身，而是人类在竞争中失去了控制发展的节奏。

未来属于 AI，这一点越来越少有人怀疑。

真正值得思考的问题只有一个：

在人类不断加速奔向未来的路上，谁来握住那个决定速度的“控制旋钮”？