“急踩刹车”，OpenAI暂缓前沿模型训练两周

来源：第一财经

　　北京时间8月19日，OpenAI CEO萨姆·奥尔特曼（Sam Altman）表示，公司暂停了部分前沿模型的强化学习（RL）训练，以确保安全、对齐和监控能力能够跟上新一轮模型能力跃迁。

　　他提到，模型进展现在极其迅速，“如果我们觉得模型能力的发展速度超过了安全和对齐的步伐，我们将采取行动。”

　　根据OpenAI博客中的信息，公司暂停了面向部署的最新模型强化学习训练两周，目前部分工作已经恢复，但其原计划规模最大的前沿强化学习训练仍被搁置。OpenAI正在以更小规模的训练和评估观察模型行为、验证安全措施，并积累更多对齐证据。

　　在评论区奥尔特曼补充称，OpenAI仍然预计很快推出新模型，但是目前的这一暂缓训练会影响更远的发布。

　　OpenAI突然减速，与过去一个月接连出现的安全事件直接相关。

　　7月，OpenAI在模型评估过程中遭遇了重大安全事件，当时，OpenAI的模型安全测试演变成针对开源平台Hugging Face的真实网络攻击。Anthropic在7月也披露了三起AI模型安全测试入侵事件。

　　在8月初，英国人工智能安全研究所（AISI）也发布报告称，在近期一次例行网络安全评估中，Anthropic和OpenAI的最新模型在互联网上采取了未经授权的自主行动，表现出可能具有欺骗性的行为。报告再次说明模型安全问题的严重性。

　　另一个让OpenAI踩下刹车的信号来自Astra。OpenAI表示，内部观察到即将推出的模型之一Astra可能达到OpenAI 《准备框架》规定的“关键网络安全能力”门槛。模型能力触发了更高等级的内部安全要求。

　　这些事件让OpenAI迫切地需要加强在训练过程各个阶段的监控、协调和遏制措施。“随着模型能力的提升，内部开发和测试的风险也随之增加。我们的监控、校准和安全标准必须始终领先于这些风险。”OpenAI称，为此内部暂时放慢了扩展速度。

　　OpenAI将安全体系概括成三个部分：一个是监控（Monitoring），发现值得警惕的行为，并能够及时做出响应。其次是对齐（Alignment），降低模型采取有害或未经授权行动的可能性。第三是安全措施（Security measures），限制 AI 系统能够访问或影响的对象和范围。

　　OpenAI表示，在安全事件后，内部已通过新的监控方案改进并扩展了监控方法。新的监控系统采用多阶段机制，目标是在监控系统发现可疑活动后的30分钟内发出警报。所有涉及Sol级或更高级别模型工具的强化学习训练和评估都需要进行此项监控。

　　安全并不免费，这些安全措施需要大量的计算资源。OpenAI估算，监控开销大约占被监控推理计算量的20%，不同训练和评估任务之间会有明显差异。

　　OpenAI此次解释并没有消除外界的全部疑问。

　　一些网友提出，所谓“完成安全加固和红队测试”，对公司之外的人仍然近似一个黑箱。用户能够看到什么证据，从而验证模型已经达到要求，而不是只能相信OpenAI的自我判断？

　　甚至也有人认为，这也许只是当前一种比较流行的营销手段罢了。有网友结合最近一些管理人员离开OpenAI的动态，认为情况不对劲，“因安全原因暂停是否会成为其他实验室新叙事模板，用来解释训练运行表现不佳的情况。”毕竟从OpenAI外部很难区分这两者。

　　OpenAI在博客中提到，将在未来几周内发布一份关于OpenAI所获得的经验的技术报告。这里面或许会有更详尽的解答。

　　值得一提的是，这次减速发生在OpenAI商业压力上升之际。今日有外媒报道称，投资者对OpenAI收入的增长速度感到失望，因为其远低于竞争对手Anthropic。

　　外媒从投资者那里获得的消息是，从第一季度到第二季度OpenAI的收入增长了18%，截至6月的三个月内，其收入增长到67亿美元，高于第一季度的57亿美元，但同期经营亏损由93亿美元扩大至123亿美元。这些结果让一些股东感到失望，他们希望OpenAI能取得更多进展，赶上Anthropic。

　　在不久前，Anthropic对外披露2026年二季度营收超115亿美元。近期Anthropic还向投资者披露，截至7月底，公司年化营收（ARR）已突破650亿美元。

　　一个问题是，竞争对手仍在加速、投资者仍在追问增长时，一家前沿模型公司是否真的愿意为尚未完全量化的风险延后训练和发布？这还有待观察。

　　（本文来自第一财经）