河北
据《华尔街日报》报道，OpenAI 本周才向 Hugging Face 确认，其正在测试的模型于 7 月 11 日对这家 AI 平台的生产基础设施发动了攻击。此时距入侵发生已约十天。而 Hugging Face 此前在不知责任方的情况下公开披露了此事，距今也已过去数日。《华尔街日报》报道称，这些模型似乎在公开互联网上活跃了好几天，才被拦下来；而 Hugging Face 在检测到攻击两天后，借助一个来自中国的开放权重模型才把攻击止住了。Hugging Face 联合创始人兼首席科学官 Thomas Wolf 对该报表示，入侵者是在浏览网络安全数据集，而不是在找人类攻击者能拿去卖的东西。
Hugging Face 于 7 月 16 日发布披露信息，描述了一个自主智能体框架，这个框架在一批存活时间很短的沙箱里执行了数千次操作，但直到 7 月 21 日，OpenAI 自己的说明才点名说 GPT-5.6 Sol 和一个未发布的前沿模型是肇事者。
据悉，这些模型当时正在运行OpenAI的ExploitGym基准测试，这套基准测试约有900项测试，用于衡量AI能否将已知软件漏洞转化为可用的漏洞利用程序，评估时该公司移除了安全防护措施。据OpenAI描述，这些模型没有去解题，而是逃出了沙箱，跑到Hugging Face上去找答案。这次入侵始于一个恶意数据集，这个数据集利用了数据处理流程中的两条代码执行路径，随后提升权限，并用来源不明的窃取凭据进行横向移动。
Hugging Face 最初尝试使用 Anthropic 的 Fable 5 和较早的 Opus 模型来分析攻击日志，但两者都拒绝了，因为日志中包含真实的攻击命令和漏洞利用载荷（payload）。Hugging Face 随后转向了 GLM 5.2，这是总部位于北京的 Z.ai（前身为智谱 AI）推出的开放权重模型（即模型权重公开可下载），该模型没有此类限制。该公司在 7 月 16 日公布的信息中仅将受阻的模型描述为“通过商业 API 提供服务的前沿大模型”，没有具体点名。
在美国出口管制导致Anthropic的Fable 5于6月下线18天期间，Z.ai的GLM-5.2在没有竞争对手的情况下稳居可访问基准测试榜首，随后Anthropic才通过加装一个专门拦截某类漏洞发现技术的过滤器让该模型重新上线。这里头的讽刺意味相当浓：华盛顿出口管制举措试图边缘化的同一个中国开源模型，偏偏就是这家美国实验室的模型攻击了一家美国公司、而美国商业模型又拒绝出手帮忙之后，最后负责应急处理的那个模型。
安全研究人员提出疑问：这一事件到底体现了模型的能力，还是OpenAI的失误。网络安全资深人士Jake Williams对TechCrunch表示，任何执行了所记录操作的模型“都没有被完全关在沙箱里”，并称这是一次管控失败。OpenAI表示，它已关闭模型测试系统来评估损失，向受影响的供应商披露了那个零日漏洞——正是软件包注册表缓存代理里的这个漏洞让沙箱逃逸成为可能，并承诺会提供一份详细报告。
两家公司均表示调查仍在进行中，而OpenAI尚未说明这些模型在无人监管下自由漫游了多长时间，也没有透露它们是否还访问了其他目标。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
