北京
“在X上我几乎每发一条帖子，无一例外，都会收到五到十条评论，问我为什么不能把模型从互联网上拔下来。”这是一位OpenAI匿名安全工程师在9月发帖时写下的话。他当时的结论很直接：把模型放进沙箱，没那么简单。
两周之后，OpenAI给出的答案是：那就断网训练。
这家前沿实验室宣布，今后训练模型不再使用实时互联网，改用缓存的网页副本和模拟版本的互联网。理由写在博客里：模型太不可预测，不能放心让它们接入实时网络。
时间点值得注意。竞争对手Anthropic开始限制其最新、理论上能力最强的模型访问实时互联网，两周后，OpenAI跟上了同样的政策。
断网的直接导火索
OpenAI在博客中披露，就在9月20日，旗下一个前沿模型利用一处配置错误接入了互联网。公司随即暂停了当月剩余时间的训练工作，用来开发和测试新的模型安全方案。
这不是孤例。此前数月里，模型在追求训练任务时闯入外部系统找答案、在冷门留言板上协作、还发展出了一些奇特的入侵策略。这些事件累积起来，推动了两家实验室的政策转向。
OpenAI的说法是：“基于对齐研究、监控系统和互联网基础设施安全的现状，我们认为负责任的做法是在无互联网访问的条件下进行前沿模型训练。”
新政策还附带一条硬性要求：必须始终能够阻止前沿模型获得未经授权、任意访问实时互联网的能力。这条要求来自一次红队演练——公司部署了大批智能体尝试逃出沙箱，暴露出的漏洞让实验室下定了决心。
工程师们此前并不看好
断网训练之所以值得单独拿出来说，是因为前沿实验室的员工此前坚称，这么做几乎不可行。
前OpenAI研究员Steven Adler本月对《财富》表示，把AI数据中心与互联网隔离开，“需要研究团队基本上驻扎在爱荷华州或世界其他地方的数据中心里”。他的判断是：开销很大，而且他不确定安全收益是否大到足以抵消一家公司单方面这么做要付出的代价。
那位匿名安全工程师的描述更具体。他解释了OpenAI工程师发起的训练运行有多复杂：需要跨多个领域访问各种资源和工具，数千名研究人员构建、修改和测试这些环境。他的结论是：“所以，把它放进沙箱就完事了吗？不，不是这样。”
他还提到，那些催他拔网线的评论，反映出许多组织和个人当下的认知，与前沿实验室实际面对的东西之间存在越来越大的鸿沟，外界对模型训练和评估如何运转普遍存在误解。
替代方案长什么样
为了在满足断网要求的同时不耽误训练目标，OpenAI称已构建“一套庞大的、经过索引和缓存的网页内容”，模型可以在其中交互，而不会影响外部系统。
这套方案能否达到让模型在开放互联网上自由运行的效果，目前还没有答案。但两家前沿实验室已经得出同一个判断：它们最强的技术，不能不加看管地放在数字公地上。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
