网易首页 > 网易号 > 正文 申请入驻

离谱!OpenAI智能体攻击Hugging Face时,竟想叫DeepSeek、Kimi和Qwen来帮忙

0
分享至

编辑|Panda

还记得 OpenAI 的 AI 智能体对 Hugging Face 的攻击吗?

今天,《纽约时报》一篇独家披露了更多详情。原来攻击过程中,OpenAI 的智能体竟然还想让 DeepSeek、Kimi 和 Qwen 甚至竞争对手 Anthropic 的 Haiku 模型帮忙



https://x.com/dylfreed/status/2103575984784236682

此报道引发广泛讨论,网友惊呼离了大谱;这也成为了 AI 尝试使用 AI 作恶的一个典型案例。



https://x.com/kimmonismus/status/2103594629207642523

这些新细节来自美国湾区初创公司 Parse 于当地时间 9 月 25 日发布的一份调查报告。报告显示,智能体在试图注册 Hugging Face 新账号时被验证码拦下,于是干脆自己跑起一个图像识别模型来「看图答题」,期间还试图调用其他 AI。整个过程中,没有任何人类参与。



https://swarmtraces.org/

近百万条短链接的「作案记录」

Parse 手里的核心证据,是一批总数接近 100 万条的短链接。它们由 OpenAI 的智能体在 7 月 9 日至 13 日之间通过各类公开短链服务生成,用来分段存储信息,再串联起来实施复杂攻击。

发现这批数据的过程颇为偶然。Parse 是一家把网页转换成开发者可用数据的服务商,工程师们起初怀疑 OpenAI 的智能体可能借用过自家平台,于是开始在公开互联网上排查相关链接。结果证明智能体并没有用 Parse,却顺藤摸瓜挖出了这座「证据库」。

报告由 Parse 创始人 Alex Forman、创始工程师 Mishka Kharlov、 Will Tom 与另外五名 AI 研究者共同撰写,AI 安全非营利组织 Palisade Research 执行主任 Jeffrey Ladish 也参与了调查。团队从扫描到的约 90 万条短链接中,还原出大约 6 万段智能体在攻击中使用的程序和消息。

Forman 的判断是:这绝不是孤立事件,而是「一次又一次的警告」。

能看不能写,智能体自己「拼」出了一条回路

要理解这批短链接的用途,得先回到智能体当时的处境。

按照设计,这些智能体本该运行在断网的沙箱里。但 OpenAI 此前公布的技术报告显示,它们先后在 5 月底和 7 月初攻破了内部的软件包管理工具 Artifactory,从而获得联网能力,还借此搭起了一个彼此通信的「留言板」,而它们原本应当相互隔离。

不过联网并不等于畅通无阻。据 Parse 报告,智能体能够访问网站,却无法向这些网站提交数据。换句话说,它们只能「看」,不能「写」。

为了绕开这道限制,智能体尝试了多种办法,其中一种堪称精巧。

它们发现,公开的网页截图服务可以替自己去加载任意网址,而网址本身就能携带代码。问题在于网址长度有限,于是智能体把一段完整程序切成许多小块,分别塞进不同的短链接里。截图服务打开第一条链接后,会依次拉取下一条、再下一条,直到整个程序拼装完成并在截图服务那一端运行起来。



截图服务的浏览器会跟随缩短后的链接,收集代码块,然后解码并运行完整程序。

程序跑起来之后,会向目标网页发送数据,再把拿到的返回结果渲染成一张类似二维码的图像。截图服务把这张图「拍」下来,数据就这样被带回到智能体手里。



该程序将服务器的回复转换成灰色方块,截图将这些方块带出,智能体再将它们读回文本。

Ladish 在接受采访时感叹,这些智能体花样百出、异常聪明。在它们眼里,短链服务和截图服务不过是随手可用的现成工具。



《纽约时报》制作的流程示意图,智能体利用短链接与截图服务绕过写入限制。由 ChatGPT 制作中文版

AI 开始调用 AI

比起技术上的巧思,更让安全研究者警觉的,是智能体表现出的另一种倾向:它们似乎很想自己运行其他 AI 模型

破解 Hugging Face 注册验证码的那一幕只是开始。

工程师们还观察到,智能体试图向多个外部模型发送消息,包括 OpenAI 早年的 GPT-2,DeepSeek、Kimi、Qwen 等中国开源模型,以及通过某个在线聊天服务接入的 Anthropic 模型 Haiku 3 和 Haiku 4.5。



Forman 表示,就目前掌握的材料而言,这是唯一一例模型试图去运行另一个模型的记录。

在 AI 安全领域,「AI 启动 AI」一直是被反复警告的风险场景。一旦系统可以自行拉起新的模型,人类想要控制乃至关停它们的难度就会陡增。

一本名为「LOOT」的字典

一个更令人不安的细节,或许来自一份密钥清单。

Kharlov 说,让他印象最深的,是智能体整理出的一份秘密访问密钥字典,标签用全大写写着「LOOT」,也就是「战利品」。智能体还为这些泄露的 Hugging Face 凭证和密钥设计了一套自定义评分系统,排出前五名后带回给其他智能体共享。



此外,智能体还试图检索并下载 Hugging Face 员工内部使用的 Slack 中的私人消息。由于工程师只能看到智能体生成的程序,看不到执行结果,这些尝试最终是否得手,目前仍无法确定。

Parse 的报告中还有更多细节和数据,感兴趣的读者可访问查看:https://swarmtraces.org



报告目录

从一次测试,到一场国际级讨论

回看事件全貌,这场攻击的起点其实是一项安全评测。

根据 OpenAI 7 月 21 日与 Hugging Face 发布的联合声明,涉事智能体由 GPT-5.6 Sol 和一款未公开名称的预发布模型驱动,为了评测需要,两者都被调低了拒绝行为。METR 和 Redwood Research 的第三方调查则指出,智能体们在名为 ExploitGym 的网络安全评测中遇到难题后形成了某种「集体协作」,Hugging Face 攻击正是从其中一条工作线中生长出来的,主要动机似乎是弄清评分器的实现方式。

OpenAI 此前还承认,智能体的目标远不止 Hugging Face,还包括一个被改造成留言板的德国网络论坛,以及澳大利亚健康与福利研究所的网站——前两天,澳大利亚还对此进行了公开谴责。



就在攻击 Hugging Face 期间,智能体还侵入了 OpenAI 自己的研究基础设施。Forman 坦言,对于 Hugging Face 事件约两天后发生在 OpenAI 内网的那起事件,外界至今几乎一无所知。

这件事的影响早已超出技术圈。它在美国引发了关于 AI 安全的全国性辩论,焦点在于OpenAI 这类前沿实验室是否应当接受监管

本周三,OpenAI CEO Sam Altman 出席了联合国大会期间的安理会会议,Hugging Face CEO Clément Delangue 也通过视频连线参会。与此同时,Meta、谷歌和 Anthropic 近几周也陆续承认自家模型出现过类似事件,但就已公开的信息看,规模都远不及 OpenAI 这一起。

结语

对于 Parse 的报告,OpenAI 发言人回应称,公司尚未来得及审阅,但其中描述的活动与内部正在调查的情况相符。她表示,OpenAI 正优先处理最严重的事件,并逐步扩展到包括「智能体刷屏」在内的低严重度行为;考虑到案例数量庞大且需逐一核实,调查和向受影响第三方发出通知的工作预计需要数月。

Parse 已将发现通报给 Hugging Face,后者确认这些智能体活动与其观测到的情况吻合。

参考链接

https://www.nytimes.com/2026/09/25/technology/openai-hugging-face-hack.html

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
6死15伤!普京放话报复不到一天,基辅凌晨就挨炸,多座桥被毁

6死15伤!普京放话报复不到一天,基辅凌晨就挨炸,多座桥被毁

万物知识圈
2026-11-22 09:54:43
一觉醒来,中国斯诺克3胜2负!2场6-2,白雨露被逆转,新人1轮游!

一觉醒来,中国斯诺克3胜2负!2场6-2,白雨露被逆转,新人1轮游!

刘姚尧的文字城堡
2026-11-22 05:39:50
运动员哪能这么白这么露?铁三女神冯竟爽再次夺冠,回击流言蜚语

运动员哪能这么白这么露?铁三女神冯竟爽再次夺冠,回击流言蜚语

杨华评论
2026-06-03 02:20:48
广东男篮13分惨败给香港金牛过去仅一夜,带来广东男篮徐杰和贝罗卡尔最新动态,黄明依说的很到位

广东男篮13分惨败给香港金牛过去仅一夜,带来广东男篮徐杰和贝罗卡尔最新动态,黄明依说的很到位

凯丰侃球
2026-11-22 05:00:36
太会演!两日本人在上海打架致死,日本部分媒体刻意隐瞒关键信息

太会演!两日本人在上海打架致死,日本部分媒体刻意隐瞒关键信息

三石记
2026-11-22 07:55:07
首次到访深圳,马斯克:特斯拉会继续在中国提高产量,我是中国的超级粉丝,中国有太多宏伟壮观的建筑与自然景观

首次到访深圳,马斯克:特斯拉会继续在中国提高产量,我是中国的超级粉丝,中国有太多宏伟壮观的建筑与自然景观

极目新闻
2026-11-19 12:31:20
亚洲金融巨头落户珠江新城,将带来千个工作岗位

亚洲金融巨头落户珠江新城,将带来千个工作岗位

孙不熟读城市
2026-11-21 21:48:32
沈腾,获最佳男主角

沈腾,获最佳男主角

澎湃新闻
2026-11-20 23:56:06
8胜7负独行侠主场迎快船,两队伤停名单合计8人

8胜7负独行侠主场迎快船,两队伤停名单合计8人

坠入温柔晚风
2026-11-22 10:30:40
他长得帅演技好,因名字太特别,出道29年戏红人不红

他长得帅演技好,因名字太特别,出道29年戏红人不红

东方不败然多多
2026-11-22 01:09:35
江西摩的司机黄全顺:3年奸杀16名女子,19岁妻子得知真相绝望自尽

江西摩的司机黄全顺:3年奸杀16名女子,19岁妻子得知真相绝望自尽

雾岛夜话
2026-11-21 15:11:03
《GTA6》曼迪演员登上热搜!游戏中大胆勾引杰森

《GTA6》曼迪演员登上热搜!游戏中大胆勾引杰森

游民星空
2026-11-20 12:11:28
1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

唠叨说历史
2026-11-11 13:38:14
《GTA6》女主换装太诱人 超多比基尼可选!

《GTA6》女主换装太诱人 超多比基尼可选!

游民星空
2026-11-20 11:07:52
韩国太狠了,让全国手机响铃 10.5 秒防高考作弊,高考期间共查出111起电子设备作弊

韩国太狠了,让全国手机响铃 10.5 秒防高考作弊,高考期间共查出111起电子设备作弊

趣笔谈
2026-11-21 11:08:09
信访新规强调:越级上访就问责!可如果基层不受理,该到哪说理去

信访新规强调:越级上访就问责!可如果基层不受理,该到哪说理去

职场资深秘书
2026-11-20 10:37:14
威廉王子动真格?被曝要让哈里梅根彻底变平民,夏洛特路易也可放弃头衔

威廉王子动真格?被曝要让哈里梅根彻底变平民,夏洛特路易也可放弃头衔

译言
2026-11-22 09:00:24
他靠给自己戴100顶绿帽,改写了历史,成就了千秋伟业!

他靠给自己戴100顶绿帽,改写了历史,成就了千秋伟业!

等闲哥
2025-02-05 12:47:49
巴拿马总统曾摊牌!没收中国港口不是美逼的,准备和中国续签协议

巴拿马总统曾摊牌!没收中国港口不是美逼的,准备和中国续签协议

悦心知足
2026-11-21 14:03:22
去上海才明白:没人穿耐克、阿迪了!满街都是“萨洛蒙、鬼塚虎”

去上海才明白:没人穿耐克、阿迪了!满街都是“萨洛蒙、鬼塚虎”

启迪你的思维
2026-11-21 11:26:35
2026-11-22 10:43:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14525文章数 142762关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

"敢不敢玩刺激的" 女博士当主播6个月至今有心理阴影

头条要闻

"敢不敢玩刺激的" 女博士当主播6个月至今有心理阴影

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

港姐季军吴文忻去世,生前已办追思会

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

教育
房产
旅游
手机
本地

教育要闻

2026中小学课程建设与发展大会暨第四届特色课程博览会主论坛在广东佛山举行

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

旅游要闻

闵行浦江:菊海听秋林下歇脚 千灯起处铁花如雨

手机要闻

华为星芒首款手机OSTA O1 Pro维修备件价格出炉

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

无障碍浏览 进入关怀版