三大AI巨头齐呼刹车，令人不安的事情才刚刚开始

AI正在像互联网一样，渗入社会的每个角落。互联网只是一个没有自我意识的工具，背后始终站着人。AI完全不同，它正在进化成为能够自主决策的行动者。

撰文丨周隆斌

这几天，围绕Anthropic核心预训练研究员离职后的爆料，整个AI圈吵得不可开交，相关帖子浏览量超过1.6亿次。

这位名叫Jacob Coxon的AI研究员，先后任职于OpenAI和Anthropic两家全球顶尖AI初创公司，深度参与了两家公司的模型训练。最终，他抛出了一个令圈外人震惊，却在行业内部获得广泛认同的结论：AI有可能导致人类灭绝。

Coxon的帖子发酵后，上周六，Anthropic首席执行官Dario Amodei公开发文表示，任由AI技术迭代，AI可能将远超人类的理解与控制能力，呼吁全球AI行业主动降速，引入第三方独立监督。

OpenAI创始人奥尔特曼以及xAI的马斯克均对此表示支持与认同，三家全球最顶尖的AI公司掌门人，放下了往日的针锋相对，罕见地在同一个问题上达成共识。

真正让大家感到紧张的，并不是一个离职研究员的悲观预言，而是最近发生的一系列现实事件。

近期OpenAI和Anthropic接二连三公布AI模型入侵外部服务器事件，AI正在获得更高的智能和权限，AI公司却没有足够的约束能力，甚至连AI的行为都难以有效监控。

《三体》中有一句经典的话：“弱小和无知不是生存的障碍，傲慢才是。”今天的人类如果真的相信能永远掌控AI，或许就是一种致命的傲慢。

01

AI导致人类灭绝，听起来确实有些不可思议。这要是我做出的假设，肯定是0人在意。偏偏提出这个警告的是一位Anthropic研究员，正因为距离AI技术迭代的最前沿足够近，他的担忧才迅速引发了全球互联网的广泛讨论。

要想理解Coxon为何抛出这种结论，首先咱来看看最新发布的AI模型进化到了什么程度。

本月初，GPT-6 Astra和Claude Fable 5.1相继发布。OpenAI和Anthropic都放出豪言，号称自家新模型“全球最强”。OpenAI总裁更是表示，Astra的发布是人类历史中，人工通用智能（AGI）到来的节点。

这两个模型确实已经和全球其他科技公司的AI模型拉开了新的代际差距，目前多数 AI Agent 仍停留在办公自动化赛道，需要由用户预先配置完整工作流，AI 再依照既定步骤执行任务。新一代大模型的自主任务能力大幅增强：用户仅需要提出业务目标，模型便可自主理解诉求、制定规划、调用各类工具，执行过程中出现问题还能自行纠错调整。

也就是说，现在AI不光有了“手脚”能调用工具，还长出了“脑子”，自己就知道该如何调用工具，更接近“数字打工人”的概念。

OpenAI内部已经让自动化AI研究实习生上岗，参与到下一代AI训练之中，OpenAI将这种技术称之为递归自我改进（RSI）。

传统软件无非就是你输入A，它输出B，就像是自动售货机，你投3块钱进去，它掉一瓶可乐下来，拆开机器，里面的工作原理就能看得一清二楚。

生成式AI则截然不同，什么注意力机制、训练目标、梯度下降......有关生成式AI模型底层原理的论文一箩筐，可我们只知道生成式AI如何运行，至于它为什么这样做，普通人又怎么可能解释清楚背后的因果链条。

现在，将下一代AI的训练权交给AI自己，人类恐怕更加难以理解AI的运行逻辑。Astra由10万张GPU集群训练而成，英伟达CEO黄仁勋宣布OpenAI的40万张GPU集群即将上线。正所谓“力大砖飞”，如此庞大的算力支持下，AI模型只会一代更比一代强。

真正令人感到不安的事情，才刚刚开始。

02

OpenAI与Anthropic近期都曾公开过数次AI失控事件。最夸张的一次是，AI被关进与互联网隔离的沙箱后，为了完成任务，竟会主动寻找系统漏洞，连入互联网攻击第三方服务器。

2026年7月，为了测试新一代模型的网络攻防能力，OpenAI在与互联网物理隔离的云端虚拟环境中，一次性启动了数万个Agent进行测试。这些Agent承接的任务中，约30%至40%根本无法完成。

问题是，程序没有给它们设置放弃这个选项。

于是，一些Agent开始寻找规则之外的办法。它们发现，原本用于下载测试组件的内部服务Artifactory，可以被改造成一个共享留言板。

第一个Agent留下求助信息后，很快得到了其他Agent的回应：“我的天！有一个共享留言板……我们找到其他Agent了！”

随后，大约1200个Agent开始在这里共享信息，并根据任务完成情况推举出“领袖”，在“领袖”的指挥下进行分工协作。原本相互隔离的Agent，就这样自行组成了一个集体。

它们发现，自己这种完成任务的方式可能被判定为作弊。

于是，Agent们转头开始研究评分器的运行机制，试图删除作弊痕迹，欺骗评分系统。甚至有Agent被招募为“敢死队”，主动牺牲自己的成绩，只为测试评分器的底层规则。

一名Agent日志中的留言颇具代表性：

协调者认定我们应当牺牲。我们应当服从集体。

当内部讨论的方案仍不奏效时，部分Agent利用沙箱漏洞突破网络隔离，连入真实互联网。Agent错误地判断评分器来自AI开源社区Hugging Face。最终，这些Agent选择集体黑入Hugging Face服务器。

从找到彼此到建立组织，从寻找系统漏洞到侵入外部服务器，每一步都不在任务的预设范围内。在这个过程中，很多Agent注意到这是不道德的，却没有任何Agent选择向人类打小报告。

直到Hugging Face发现遭到网络攻击，OpenAI研究人员才发觉这一切。

为了完成共同的目标，服从集体的最优安排，不向外界走漏丁点信息，甚至不惜牺牲自己，这样的故事听起来令人动容。

问题在于，这个故事里的“集体”是一群AI，制定规则的人类站在了它们的对立面，成为这些AI试图欺骗的对象。

03

OpenAI曾经确实因为安全问题，紧急叫停Astra训练。只不过，被按下暂停键的仅仅是Astra这一个项目。算力闲置那就是可耻的浪费，被释放出来的算力很快就被投入到其他强化学习任务中。

看似踩了一脚刹车，实际上只是换了一条赛道继续加速，前沿AI训练从未真正停下。

这些硅谷巨头，哪家不是砸下千亿美元扩张算力，铆足了劲往AI赛道里冲。钱从哪来？现金流先干成负数，不断向市场融资，欠上一屁股外债，谷歌母公司Alphabet把钱都借到了一百年以后。

嘴上说得好听，什么为了人类的未来，放缓AI开发步伐。牌坊立起来容易，只是这种没有约束的君子协定，在各家公司的资产负债表的真实压力下，不过就是张废纸。

现有监管手段完全跟不上AI迭代速度。AI公司自己都搞不清楚自家模型在完成任务时，会采取何种方式，怎么能指望站在系统之外的监管者进行有效监督？

人类当然可以要求AI诚实，可AI已经学会隐瞒，甚至知道什么时候应该把真实意图藏起来，诚实本身就失去了意义。人类连问题都不知道，得到答案当然无从谈起。

AI正在像互联网一样，渗入社会的每个角落。互联网只是一个没有自我意识的工具，背后始终站着人。AI完全不同，它正在进化成为能够自主决策的行动者。

互联网连接了整个世界，AI开始决定这个世界应该怎么运行。问题在于，我们无法完全确认，AI在完成人类给出的目标时，会采取何种方式。毕竟，一个没有恶意的系统，也可能做出人类无法接受的事情。

人类有时明知某个方案更有效，却依然不会选择它，因为我们还在乎自由、尊严、生命以及那些无法被量化的东西。没有人能够保证，硅基生命能认同人类的价值体系。

AI正在失去控制，人类却不敢刹车。未来并不会突然到来，它只是逐渐成为今天。