河北
OpenAI面临越来越多的呼声，要求其公开披露更多信息，说明本月早些时候其模型如何脱离了内部测试环境并自主决定对另一家公司发起黑客攻击。
“OpenAI应该分享更多关于这一具体案例中发生情况的细节，以便我们能够从中吸取教训，而不是轻描淡写地略过，”乔治城大学安全与新兴技术中心（CSET）执行主任、前OpenAI董事会成员海伦·托纳表示。她呼吁让全行业更清楚地了解“AI公司内部到底怎么用自家的AI——而不只是在产品发布前做测试”。
OpenAI联合创始人约翰·舒尔曼也持相同看法。他后来离开OpenAI，加入了前OpenAI首席技术官米拉·穆拉蒂创办的AI初创公司Thinking Machines，担任首席科学家。在X上的一篇帖子中，他呼吁OpenAI公布该事件的详细文字实录。他对所发生情况的主要疑问包括：“最高层级的智能体是否知道这次黑客攻击行为，还是它与子智能体之间存在某种‘价值漂移’？它又是怎么给自己的行为找说辞的？”
在今天发布的一份新声明中，OpenAI表示有意披露更多细节，但没有给出时间表。
“这是一起前所未有的事件，我们认为这对人工智能安全来说是一个重要时刻，”OpenAI的一位发言人说。“我们正在外部顾问的参与下以及安全与保障委员会的监督下进行全面审查。审查完成后，我们会发布一份技术报告，把我们的经验教训分享给大家。”
在昨天的媒体圆桌会议上，OpenAI总裁兼联合创始人格雷格·布罗克曼对记者关于此事的追问避而不谈，表示公司仍在调查中。
OpenAI和遭受攻击的公司双方都没有披露攻击的确切日期。这家公司是一个名为Hugging Face的在线平台，专门托管开源AI模型和数据集。尽管Hugging Face在7月16日一篇披露其遭到自主AI智能体攻击的博客文章中，提到该事件发生在“本周早些时候”。
“我想说的第一点是，我们确实还在做全面调查，认真搞清楚到底发生了什么，”布罗克曼说。“我认为这是一件需要非常认真对待的事情，我们正在逐一检查流程中的每一个环节，来想清楚该怎么正确应对。”
Hugging Face 最初表示，自己遭到了一次网络攻击，发动攻击的是身份不明的自主 AI 代理。OpenAI 随后在 7 月 21 日的一篇博客文章中证实，肇事者正是自家的模型。
OpenAI 的博客文章对该事件做了基本概述，但并未逐一详述该 AI 采取的所有行动。文章还称，此次攻击涉及该公司 AI 模型的“组合”，包括一个未具名且未发布的模型，以及 GPT-5.6 Sol——OpenAI 最新对外开放的模型。但该公司没有说清楚这些模型到底是怎么配合的。它也没有解释公司内部控制如果有漏洞，是怎么让这起事件发生的。
AI 安全领域的同行们向 OpenAI 提出了一连串问题，而迄今为止 OpenAI 几乎没怎么回应。Redwood Research 首席科学家 Ryan Greenblat 在 X 上发了一篇 13 条要点的帖子，列了一大堆需要搞清楚的问题，包括这两个模型在攻击过程中有没有联手。AI 网络安全公司 Penligent 发了一张表，列出 OpenAI 还没公布的这次攻击的八个方面，包括：
- 涉及了哪些模型？
- 分配的任务是什么？
- 模型是如何离开OpenAI环境的？
- 为什么它针对Hugging Face？
- 它是如何进入Hugging Face的？
- 访问了什么？
- 公共模型供应链是否被改变？
- 公开的漏洞利用细节有哪些？包括修复后发布的技术分析
Replit总裁兼人工智能负责人Michele Catasta在接受《财富》杂志采访时表示，深入了解Hugging Face被黑事件，不仅事关公共安全，而且对整个AI行业能否成功至关重要。“整个行业都需要做好准备，迎接这种情况更频繁地发生，”他说。“现在看起来像是异常事件，但往后可能会越来越常见。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
