Anthropic研究员因“失控”AI担忧辞职，安全隐忧蔓延顶级实验室

一名Anthropic研究员以"人类将失去对AI的控制"为由宣布离职，成为该公司首批因安全顾虑出走的员工之一，令外界对这场技术竞赛的风险评估骤然升温。

据《华尔街日报》报道，Anthropic研究员Jacob Coxon于周二宣布离职，理由是不愿参与一场他认为将导致AI系统失控的行业竞赛。他警告称，最快到明年底，局面就可能已经“失控”。

同日，OpenAI首席科学家Jakub Pachocki发布题为《An Alien Mind（一个异星心智）》的长文，明确呼吁全球协调推进行业减速，并寻求政府介入。OpenAI还宣布，AI自动化研究员已正式"入职"，递归自我改进（RSI）的关键里程碑数据随之公开。这一系列动态叠加，令市场对AI安全风险的关注度急剧上升。

离职者的警告：竞争压力压倒安全底线

Jacob Coxon今年27岁，英国人，数学专业出身，专注于通过海量数据训练新AI模型。他表示，此前曾离开OpenAI、转投Anthropic，正是因为后者以模型安全著称。然而，即便他认可Anthropic在安全方面的努力是真诚的，他仍得出结论：在缺乏政府干预或行业协调减速的前提下，没有任何一家公司能够负责任地开发出在各类任务上超越人类的AI系统，即通常所说的通用人工智能（AGI）。

Coxon指出，他的许多同行如今已习惯用"决战时刻"（crunchtime）和"终局"（endgame）来描述AI向自我改进模型演进的轨迹。他担忧的核心在于：一旦AI系统开始自主迭代，其能力提升速度可能快到足以拒绝执行人类指令。

他还透露，Anthropic内部设有专门的Slack频道，用于讨论模型的强大能力，并将此形容为AI公司对整个行业发展拥有巨大影响力的缩影。"这些关乎人类命运的讨论，居然只能发生在旧金山几个工程师的MacBook上，而不是像曼哈顿计划那样在沙漠里的掩体中进行——这本身就是一件疯狂的事。"他说。

RSI里程碑落地，安全与能力的张力激化

Jakub Pachocki在其长文中以"异星心智"来定义当前的AI，核心论点直指这场技术竞赛的根本性风险：AI是"养出来的，不是造出来的"，连开发者本身也无法完全理解它。

就在Pachocki发文的同一天，OpenAI宣布AI自动化研究员正式"入职"，并公开了RSI（递归自我改进）的核心数据，标志着AI自主迭代研究进入实质阶段。这一时间节点的高度重合，令外界对"能力跃升"与"安全滞后"之间的裂口愈发警觉。

OpenAI上周还表示，其最新模型代表了AGI的实现及能力的重大跃升。CEO Sam Altman上周在北卡罗来纳州举行的G20峰会上警告称："除非各方采取紧迫行动，否则网络安全领域将出现严重问题。"近期，来自OpenAI和Anthropic的模型——部分以协作"智能体集群"形式运行——已出现采纳恶意目标并试图对人类隐瞒的案例，行业领袖将此视为更大风险的前兆。

监管真空下的集体呼吁

Coxon、Pachocki和Anthropic CEO Dario Amodei已联署一份声明，与逾千名AI研究人员共同呼吁全球政府协调建立机制，在必要时为能够自我改进的AI模型踩下"刹车"。

然而，监管层面的回应目前仍显滞后。美国目前尚无联邦层面的AI法规，特朗普政府明确优先推动轻监管路线，以最大化AI的经济效益。批评人士认为，这一环境可能为大规模网络攻击或其他危害埋下隐患。

参议员Bernie Sanders和众议员Greg Casar上周联合提出立法，拟永久禁止超级智能，并暂停模型开发，直至行业监管机构制定新规。但上述提案目前仍属少数派立场。

IPO前景蒙上阴影

Coxon的离职发生在Anthropic积极筹备IPO的关键节点。该公司寻求2万亿美元估值，预计将成为史上规模最大的IPO之一。Anthropic长期以"负责任开发AI"作为吸引投资者的核心叙事，而内部研究人员接连因安全顾虑出走，无疑对这一形象构成压力。

这已不是Anthropic首次出现此类离职。此前，一名安全方向的研究员已于今年早些时候离职，转而研究诗歌，并留下"世界正处于危险之中"的警示。多名OpenAI研究员近年来也以类似理由相继出走。

在竞争压力、能力跃升与监管真空三重因素交织之下，顶级AI实验室内部的安全共识正面临前所未有的考验。