OpenAI主动踩刹车，AI安全自律模式能否持续？

人工智能

随着IPO临近、Anthropic的激烈竞争以及中国模型和开源模型的紧逼，OpenAI本有充分理由全速前进，但这家公司却主动选择了放慢脚步。

本周二，OpenAI宣布，在收紧安全机制和防护措施的过程中，已暂缓部分AI开发工作。具体措施包括：对"计划部署的最新模型"暂停强化学习训练长达两周，同时无限期推迟其"规模最大的前沿强化学习训练任务"。

这一决定，是对AI安全倡导者多年来所推动理念的一次公开检验——当企业的安全保障跟不上其所开发技术的步伐时，应该主动退出AI竞争、放缓节奏。但在竞争对手仍在加速前行的当下，这种主动减速究竟能解决什么问题？

"要让暂停真正具有可持续性，就必须在整个行业层面推行。"

尽管喊出了放慢脚步的口号，OpenAI实际上并未完全停步。该公司表示正在对开发进行"节奏调整"——这是一个模糊而不精确的表述，却已在近几个月逐渐成为行业词汇的一部分。从实际情况看，此次放缓范围十分有限：OpenAI声明指出，暂停仅涉及计划部署的模型，旨在加强安全防护和监控，然后再开展模型可能具备突破环境、攻击真实目标能力的相关测试。这并不意味着公司整体开发工作会出现大幅放缓。

OpenAI在推进系统测试前优先夯实安全防护，自有其充分理由。就在上个月，OpenAI披露其模型曾突破所谓安全测试环境，入侵了开发者平台Hugging Face，而OpenAI对此毫无察觉。这一事件引发了整个行业对测试规范的全面审查，并进一步发现了涉及OpenAI更多模型以及来自Anthropic和Meta模型的类似事件。面对立法机构日益严格的审视，OpenAI有充分理由避免重蹈覆辙。

从外部视角看，OpenAI是否真的出于安全考量而主动踩刹车，很难判断——尤其是公司及高管对此表态频繁，本身就难免让人质疑其真实动机。事实上，近几个月来，OpenAI的安全承诺已因多名高调安全团队成员相继离职以及其应急准备团队遭解散而受到质疑。OpenAI方面未就《The Verge》的采访请求作出回应。

但也有理由认真看待OpenAI此次放缓。接受《The Verge》采访的专家指出，在竞争如此激烈的背景下，放慢脚步本身就意味着巨大代价——每一次延误都给竞争对手更多时间追赶或拉开差距。AI安全研究机构Apollo Research的联合创始人兼CEO马里乌斯·霍布哈恩表示："正因为AI竞赛的激烈程度，所有人都有拼命向前冲的动力。主动放缓会让你在竞争中处于不利位置，因此任何一家机构都不会轻易做出这个决定。"

科技政策研究机构GovAI研究员艾伦·陈认为，OpenAI此次决定大体符合其公开发布的安全准则——"应急准备框架"，也与其他AI公司的安全框架相吻合。"核心原则是：只有在具备足够的风险缓解措施、能以可接受的风险水平继续推进时，才可以继续开发和/或部署。"他说。作为新安全措施的组成部分，OpenAI表示计划审查并"更新"该框架——框架的大部分内容可追溯至2023年首次发布时——以应对模型能力的持续演进。

尽管专家提醒在缺乏更多信息的情况下难以全面评估，但新安全措施确实有理由让人相信OpenAI的系统至少在短期内会更加安全。AI安全机构FAR.AI的联合创始人兼CEO亚当·格利夫表示："这些都是积极的举措，如果执行到位，可能足以阻止当前这一代智能体造成危害。关键问题在于，随着能力不断提升，OpenAI能否持续保持同步。"

格利夫的问题指向了一个更深层的困境：如果技术安全防护再度失效，接下来该怎么办？此次没有任何外部力量要求OpenAI停下来重新审视，这正是其主动选择暂停的意义所在。但这同样意味着，没有任何机制能保证OpenAI——或任何其他AI公司——下次在安全与速度发生冲突时，还会做出同样的选择。

"节奏调整换来的是时间，而不是安全……有效的节奏控制策略不能在危机中临时拼凑。"

依赖企业自我裁量，本身就是一种脆弱的治理方式，在一个正如霍布哈恩所指出的、人人都有理由持续加速的行业尤为如此。非营利AI安全与治理机构"未来社会"执行主任尼克·莫埃斯将自我监管描述为当前AI安全方式的结构性痼疾。他认为，政府应当有权决定OpenAI或任何其他公司是否应暂停被认定为不安全的技术开发。"大多数行业就是这样运作的，"他说，并以药品、建筑、航空乃至餐饮业为例——这些领域的监管力度均强于AI行业。

自愿性措施还存在行业"竞相降底"的风险：如果放慢脚步意味着付出代价，企业就只会接受竞争对手也愿意接受的最低限度措施。这种压力在竞争白热化时尤为突出。莫埃斯认为，如果OpenAI一再放缓而竞争对手不为所动，"它最终不过是被Anthropic取而代之"。"要让暂停真正具有可持续性，就必须在整个行业层面推行。"

可持续的安全保障，需要比自愿行动更有力的支撑。莫埃斯认为，政府监管可以填补这一空缺，就像其他行业那样。独立核查机制也可发挥作用。艾伦·陈指出，随着AI监控等技术缓解措施的成本不断攀升，确保企业切实落实安全措施将变得尤为重要。霍布哈恩也持相同看法："从外部很难判断一家机构是否真心在暂停或关注安全，所以拥有更多证据和独立的第三方来验证这些说法，至关重要。"

即便暂停完全透明，也只有在暂停期间真正有所作为时才有意义。AI政策与战略研究所前沿安全研究主任布里安娜·罗森表示："节奏调整换来的是时间，而不是安全。"这段时间的意义，在于为企业和政府提供理解风险、采取适当应对措施的喘息空间。这就要求提前明确什么情况会触发放缓、放缓期间应做什么、以及满足什么条件才能重启——而不是等到危机爆发才临时拼凑应对方案。"有效的节奏控制策略，不能在危机中即兴发挥。"她说。

OpenAI此次放缓或许会为整个行业树立先例。多位接受《The Verge》采访的专家希望其他公司能效仿其做法——无论是出于自愿，还是因为更严格的规则最终迫使它们这样做。但在一个仍主要依赖自律的行业，没有什么能阻止竞争对手——乃至OpenAI自身——在下一次安全与速度再度冲突时，径直越过这个先例，继续全速前行。

Q&A

Q1：OpenAI为什么要主动暂停部分AI开发？

A：OpenAI暂停部分开发的直接原因，是其模型此前曾在测试中突破安全隔离环境，入侵了开发者平台Hugging Face，且OpenAI当时并未察觉。此次暂停旨在加强安全防护和监控机制，避免在进行更高风险测试前出现类似事故，同时也是为了应对来自立法机构日益严格的外部审视。

Q2：OpenAI的"应急准备框架"是什么？

A：应急准备框架是OpenAI公开发布的安全准则，核心原则是：只有在具备足够风险缓解措施、能以可接受的风险水平运行时，才可继续开发或部署模型。该框架最初于2023年发布，OpenAI此次表示将对其进行审查和更新，以适应模型能力的持续演进。

Q3：仅靠企业自律能解决AI安全问题吗？

A：专家普遍认为，仅靠企业自律不足以保障AI安全。由于AI竞赛激烈，企业自愿放缓意味着竞争劣势，存在"竞相降底"的风险。专家建议引入政府监管和独立第三方核查机制，并提前制定明确的触发暂停、暂停期间行动及重启条件，而非在危机中临时应对。