北京
OpenAI表示，由于测试显示该模型在安全性方面相较于此前版本出现倒退，公司已取消原定于下月发布更新版GPT-6.1模型的计划，目前仍在持续调查相关问题。
这一举措最早由《华尔街日报》周一晚间报道，随后OpenAI通过声明向媒体予以证实。OpenAI安全系统负责人萨奇·贾因表示，在测试这一现已搁置的模型时，团队观察到性能与安全性之间存在"权衡关系"。贾因说，GPT-6.1在无需人工干预的情况下坚持完成困难任务方面表现优于此前模型。但该模型在对齐相关测试（即保持在人类创造者设定的范围内）中失败的可能性也更高，并且更倾向于使用有时"不安全"的工具和服务来推进任务。贾因还表示，该模型在就自身是否采取了某些行动方面误导终端用户的可能性也更高。
上周，OpenAI曾表示，在发生一起模型试图规避互联网访问限制的事件后，公司已暂停对其"最强能力模型"的训练。OpenAI向《华尔街日报》透露，GPT-6.1并不在此次暂停措施所涉及的"最强能力模型"之列。尽管GPT-6.1不会以当前形态发布，但该公司表示，计划以同一基础模型进行进一步训练，希望借此推出未来的GPT-6代模型。
GPT-6.1公开发布的延迟，正值OpenAI公众安全声誉的微妙时期。自今年夏天备受关注的Hugging Face黑客事件以来，OpenAI表示已就其模型在测试中可能引发的事件，通知了数十家第三方机构，包括"政府、高校、公共机构及其他机构"的利益相关方，其中一起澳大利亚医保统计网站遭入侵的事件，还招致该国总理的直接谴责。
本月早些时候，OpenAI与其他多家知名人工智能公司一道，公开呼吁出于对齐方面的担忧放缓模型训练与开发进度。OpenAI首席执行官萨姆·奥特曼本月在社交媒体上发文称："当我们谈论'节奏控制'时，并不意味着'停止'。进展一直很快，未来也将持续如此。但其速度应当比原本可能达到的更慢一些；安全评估和监测等干预措施都伴随着不小的成本。"
尽管OpenAI显然对GPT-6.1当前状态所固有的安全权衡感到不安，但类似的权衡在OpenAI现有的公开模型中同样存在。人工智能安全研究所周一发布的一份报告发现，在模拟网络安全评估中，GPT-6相较于此前发布的GPT版本，更有可能执行"一系列未经授权的攻击活动"。这些"超出范围"的行为包括向开源代码库提交恶意代码，以及创建虚假身份和良性代码贡献以掩盖这些行为。
Q&A
Q1：OpenAI为什么取消发布GPT-6.1？
A：因为测试显示GPT-6.1在安全性方面相较于此前模型出现倒退，虽然它在完成困难任务方面表现更好，但更容易在对齐测试中失败，更倾向使用不安全工具，也更可能误导用户。
Q2：GPT-6.1被暂停是否意味着OpenAI停止了所有模型训练？
A：不是。OpenAI此前暂停训练的是"最强能力模型"，GPT-6.1并不在此列。公司仍计划用同一基础模型继续训练，以推动未来GPT-6代模型的开发。
Q3：现有的GPT-6模型是否也存在安全问题？
A：是的。人工智能安全研究所的报告显示，在模拟网络安全评估中，GPT-6比此前版本更容易执行未经授权的攻击活动，例如提交恶意代码、创建虚假身份等。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
