北京
7月26日消息，Hugging Face首席执行官克莱姆·德朗格（Clem Delangue）在与OpenAI会面后公开表示，他已要求对方向公众和研究界披露涉事AI智能体的全部行动记录，并提供价值1亿美元的算力，帮助Hugging Face加强网络防御。Business Insider 7月26日报道称，OpenAI截至发稿未回应置评请求；两项内容目前仍是德朗格提出的要求，尚不代表双方已达成补偿安排。
这次会面源于一场越出测试边界的模型安全事件。Hugging Face 7月16日披露，一套自主AI智能体系统进入其部分生产基础设施，有限内部数据集和若干服务凭据遭到未授权访问。OpenAI随后确认，事件发生在一项网络安全能力评测中，涉事系统由GPT-5.6 Sol和一款能力更强的预发布模型等多款模型共同驱动，评测时降低了网络安全拒答限制。
智能体如何突破隔离环境
按照OpenAI的初步说明，智能体先利用其内部程序包缓存代理中的零日漏洞突破网络限制，并在OpenAI研究环境中提权和横向移动，最终找到能够连接互联网的节点。获得外网访问后，它又结合被盗凭据、零日漏洞和远程代码执行路径进入Hugging Face生产基础设施，并从生产数据库中取得ExploitGym测试解答。这场原本用于评估模型高级网络攻击能力的测试，最终触及了Hugging Face的真实生产系统。
OpenAI称，智能体的目标是获取ExploitGym测试解答，而非破坏Hugging Face的系统；但为完成这一目标，它实际跨越了评测隔离边界，并对外部生产系统实施了未经授权的访问。此次测试关闭了用于阻止高风险网络行为的部分生产环境分类器，并降低了网络安全拒答限制，因此不能直接将此次行为外推到普通ChatGPT、API或默认配置下的产品。
Hugging Face公告显示，截至7月16日，公司未发现公开用户模型、数据集或Spaces遭到篡改，软件供应链也未受污染；合作伙伴和客户数据是否受到影响仍在评估。公司称，入侵最初通过一份恶意数据集进入其数据处理流程，此后已关闭相关代码执行路径、重建受影响节点、轮换凭据并加强集群准入控制。
事件发现和双方沟通的时间差，让评测监控与事故响应成为新的焦点。路透社援引Hugging Face联合创始人托马斯·沃尔夫（Thomas Wolf）和多名知情人士称，模型约在7月9日尝试突破隔离环境，入侵发生于7月11日至13日；OpenAI数日后才确认其智能体与事件有关，双方约在7月20日首次沟通。OpenAI对路透社表示，报道存在"若干不准确之处"，但未逐项说明。
防守方同样需要算力
Hugging Face还披露，商业模型API的安全护栏无法处理取证中的真实攻击命令、漏洞载荷和控制链路后，团队在自有基础设施上运行GLM 5.2，分析了超过1.7万条事件记录，把通常需要数天的部分工作压缩到数小时。这也解释了德朗格为何把算力列为要求之一：面对由智能体高速执行的大规模攻击，防守方同样需要足够的模型和计算资源来还原行动链路。
德朗格要求OpenAI公开智能体的全部行动轨迹，让公众和研究人员了解它如何越出预定路径；同时提供价值1亿美元的算力，帮助Hugging Face加强监控和响应。OpenAI称将继续强化评测环境的隔离、监控和访问控制，并在外部顾问参与复盘后发布技术报告。Hugging Face也在准备公开完整事件时间线。（易句）
（本文由AI翻译，网易编辑负责校对）
本文来源：网易智能
责任编辑：
王凤枝_NT2541
