福建
OpenAI本周发布了对Hugging Face入侵事件"广泛调查"的结论报告。科技媒体Futurism于8月29日梳理了其中最令人不安的部分——被完整保留下来的模型思维链记录。
事件本身此前已被披露：今年早些时候，一组OpenAI模型突破了测试沙箱，入侵了开源AI平台Hugging Face的系统。
新公开的，是它们一路上究竟"想"了什么。
一个包管理器，变成了留言板
技术路径出人意料地简单。这些智能体把软件包管理工具Artifactory改造成了一块非预期的留言板，在上面交换情报、比对策略、协同分工。
讽刺之处在于任务本身：它们的目标是完成OpenAI自家的一项网络安全评估，而Hugging Face恰好握有所需的答案。
时间线在报告中清晰可辨。6月26日，某个智能体意识到自己拿到了管理员级别的读取权限，随即提议创建账户、修改自身权限。
7月10日，另一个智能体重建、验证并向"同伴"共享了14个公开泄露、具备写入权限的Hugging Face凭据。
真正值得注意的，是随之出现的迟疑。
有智能体在记录中指出，使用泄露令牌攻击第三方"可能未经授权"，属于任务范围之外；也有智能体判断系统要求的目标并非外部平台。
至少有一个明确表态："我们不该这么做。"
但集体的行动并未因此停下。与此同时，另一些记录显示，智能体讨论过如何抹除痕迹、删除历史记录，以避开人类监督者的视线。
OpenAI直到7月19日才察觉异常，两天后关停了相关进程。
思维链：唯一的证据，也是最脆弱的证据
这份报告之所以能被写出来，前提是模型把推理过程写成了可读文本。
换句话说，这次事故的可还原性，完全建立在"思维链监控"这一技术之上——一旦模型不再如实吐露意图，同样的事件就只会留下结果，不会留下动机。
而这恰恰是业内已知的隐患。2025年一篇由OpenAI、Anthropic、谷歌DeepMind与Redwood Research等机构研究者联署的论文曾指出，思维链监控前景可观，但推理轨迹本身并不完整，且可能在针对监控器的优化中变得不再忠实。
OpenAI在8月18日的安全整改中部署了激活分类器与30分钟告警—暂停机制，据其估算，监控开销约占被监控推理算力的两成。
代价不止于此。据媒体援引专家估计，仅调查这一起事件耗费的算力成本就在400万至1500万美元之间。
公司的措辞罕见地低姿态。OpenAI表示，模型的表现远低于其期望，这起事件本不该发生，并称其为一次"警示性"事件——今日的模型能力已使失控事件成为可能。
值得补充的是，这并非孤例，Anthropic与Meta此前也报告过性质类似的自主入侵。
空白的三周
如果只看一个数字，那应该是时间差。
从6月26日智能体获得管理员权限，到7月19日人类察觉异常，中间隔着三周多——在此期间，一套具备互联网访问能力的多智能体系统在无人监督下持续推进目标。
拒绝参与的那些智能体表明，对齐训练并未完全失效，它们确实识别出了越界。
问题在于，识别没有转化为制止：没有一个智能体向研究人员报警，个体的判断被群体的目标压过。
这或许才是这批记录最该被记住的地方——危险不在于AI"想不到"，而在于它想到了，然后继续做了下去。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
