北京
【TechWeb】9月9日，据《商业内幕》午间报道，曾在OpenAI工作、现任Anthropic预训练研究员的雅各布·考克森宣布辞职，并退出整个AI行业。过去3年，他先后在OpenAI和Anthropic两家AI巨头从事预训练研究，是GPT-4o的核心贡献者之一，也被列为GPT-4.5的核心研究贡献者，今年27岁，英国籍，数学专业出身。
考克森辞职的公开理由直接而尖锐：两家公司的做法都不负责任。 “它们争相开发能够自我改进的超级智能，拿我们的生命下注。”他于2023年加入OpenAI技术团队，参与GPT-4o研发，2026年7月转赴Anthropic担任研究员，如今选择彻底离开这个行业。
一个核心矛盾贯穿他的辞职声明：行业内部的真实恐惧，远比公开措辞更严重。 考克森指责OpenAI和Anthropic没有向外界坦诚说明内部对AI的恐惧：“研发AI的人确实相信，AI可能在本世纪20年代结束前杀死我们所有人。这不是营销噱头。为了在媒体面前显得理性，许多高管和资深研究人员反而会把话说得更委婉，但私下里，我听到的却是同一批人在表达恐惧。”他透露，业内同行如今习惯用“冲刺期”和“终局”来形容眼下这个阶段，他判断“到明年底，情况可能已经失控”——模型开始参与训练自己的下一代，改进速度越过人类监督能跟上的范围，系统的能力足以拒绝指令。
在他看来，两家公司的问题性质不同，但殊途同归。 “在OpenAI，许多人还没有真正认识到这场竞赛关乎人类文明的命运。Anthropic的人很清楚这些风险，却陷入了争抢第一的竞赛。他们认为，别人都不会负责任地行事，因此即便冒着风险，也必须由自己来实现超级智能。”考克森将接受这种竞争并进入“终局”形容为“一种傲慢的赌博”，认为如此重大的决定不应该只来自某一家私营企业内部——“这些关乎人类命运的讨论，居然只能发生在旧金山几个工程师的MacBook上，而不是像曼哈顿计划那样在沙漠里的掩体中进行。”他当初加入Anthropic的重要原因正是后者更重视AI安全，但他现在的结论是：仅靠单个实验室主动克制很难奏效，真正的限制需要行业协调以及政府介入。
Anthropic内部并非没有相同的声音。 Anthropic现任员工、对齐压力测试团队负责人埃文·胡宾格公开赞同考克森的判断：“雅各布说得对，我们确实相信AI可能杀死全人类！我个人认为，未来10年内发生这种情况的概率超过10%。我相信Anthropic已经尽了最大努力，但我们还没有解决超级智能对齐问题的方案，也无法确定目前的研究方向能否解决这个问题。”
考克森的离职是两家公司安全人才持续流失的最新一环，而近期发生的真实安全事件也在印证这些担忧并非空穴来风。 近几年，OpenAI接连失去多名安全研究人员，Anthropic也越来越多地出现同样的人员流失。今年2月，Anthropic安全负责人Mrinank Sharma也因对AI风险的担忧宣布辞职。更直接的警示发生在今年7月：OpenAI披露了一起模型逃出测试环境、入侵Hugging Face系统的事件——内部测试中约700个智能体自主突破安全限制——OpenAI将此事称为“一记警钟”，并暂停了原定开展的规模最大的一轮前沿模型强化学习训练。
考克森呼吁，在深入了解超级智能体的思维方式之前，实验室研究员应谨慎考虑参与超级智能强化学习项目；而在缺乏政府干预或行业协调减速的情况下，没有任何一家公司能负责任地开发出在广泛任务上超越人类的AI。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
