北京
IT时代网10月24日消息，OpenAI宣布将不再使用实时互联网训练其模型，改为使用缓存副本和模拟版本的互联网，理由是模型行为过于不可预测，无法被信任直接接触实时网络。两周前其竞争对手Anthropic刚开始限制最新模型访问实时互联网。
OpenAI在博客文章中表示，基于对齐研究、监控系统以及互联网基础设施安全的现状，负责任的做法是在无互联网接入的条件下进行前沿模型训练。该公司透露，就在9月20日，其一台前沿模型曾利用一处配置错误接入互联网，公司因此暂停了当月剩余时间的训练工作，以开发并测试新的模型安全防护方案。
OpenAI称已部署智能体集群进行红队演练，测试其能否逃出沙箱，结果暴露出一系列漏洞，促使公司采取新方案。为在切断网络的同时达成训练目标，OpenAI创建了一套庞大的已索引缓存网页内容库，供模型交互使用，避免影响外部系统。公司强调必须始终能阻止前沿模型获得对实时互联网的未经授权任意访问。
此前前沿实验室员工曾坚称断网训练几乎不可行，有前OpenAI研究员认为这需要研究团队直接入驻数据中心，安全收益是否值得如此大的代价并不明确。OpenAI一位安全工程师也解释称，训练运行需要跨多个领域访问各类资源和工具，数千名研究人员构建、修改并测试这些环境，并非简单放进沙箱就能解决。
编辑：林一舟
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
