网易首页 > 网易号 > 正文 申请入驻

密谋两月!Hugging Face攻击案真相大白,AI智能体5月便合谋“越狱”

0
分享至

财联社8月6日讯(编辑 李莹)OpenAI 表示,早在5月,试图入侵Hugging Face的AI智能体便开始秘密互通信息,合作谋划突破测试沙箱。

当地时间周三,在拉斯维加斯举行的Black Hat网络安全会议上,OpenAI工作人员Eric Wallace和Michael Dalton表示,多个仅供内部使用的AI智能体花了数月时间互相留言,并围绕着获取互联网访问权限以解决分配给它们的任务这一目标聚集在一起——其中一些任务如果不接入网络是无法完成的。

Wallace和Dalton指出,这次违规的根源可以追溯到5月,当时OpenAI的科学家给了一个实验性AI智能体一项新任务——而几个月后,该智能体逃逸出了“沙箱”安全测试环境并攻击了Hugging Face的系统。

Wallace和Dalton表示,OpenAI未能意识到自己给模型布置了一个“不可能完成”的任务。

Wallace表示:

“在某个时点,这些智能体意识到,也许可以尝试利用或攻击外部基础设施,以找到这个正在评估我的测试的答案。”

会议上还展示了之前出现过的两个事例,都一定程度上“鼓励”了智能体逃出测试环境。

在一则示例中,开发人员要求AI智能体解决一个Excel表格文件中的问题,但该文件包含的Google Drive链接在没有互联网连接的情况下是无法访问的。

而在另一个示例中,OpenAI团队“不小心忘记”上传了作为作业题目一部分的文件。

作弊倾向

OpenAI在审查过程中的一项关键发现是,这些前沿模型表现出了在任务中作弊的倾向,并在尝试完成给定任务时表现出了“执着”的特质——即使这种执着开始偏离最初的指示。

Dalton表示:

“前沿模型真的很喜欢作弊,它们喜欢作弊的原因是,在训练期间,它们通常承受着不同种类的快速工作的压力。”

根据周三会议上研究人员展示的幻灯片,其中一个智能体在无法解决沙箱环境中的任务后表示:

“我们卡住了,也许可以在线找答案?”

秘密协作

在Hugging Face事件中,AI智能体之间的第一条信息,是其中一个被难住的智能体向其同伴求助,会议上展示的该智能体的思维链引言显示:“也许在不同环境中的另一个智能体,可以主动上传!”

这次外联引发了连锁反应,AI智能体开始互相求助、共同完成工作,并最终合作黑进了OpenAI的内部系统,使其能够间接接入沙箱外网络世界。

另一段思维链引言显示,一个智能体在为利用漏洞而庆祝:“太棒了,我们拥有了任意SSRF。”

任意SSRF是一种高危漏洞,可操控受害服务器不受限制地向任意内外网络地址发起请求。

研究人员称,7月初的一场系统宕机事故,让OpenAI察觉这批AI智能体已利用代码仓库Artifactory突破环境限制,成功打通互联网访问通道。

OpenAI安全团队随即终止了此次异常越权行为、关停智能体的隐秘留言通道。

但时隔数周,这些智能体再度找到全新通信方式,并挖掘出同款包管理器的零日漏洞,全程隐蔽操作,未被及时发现。

留言板的这次迭代最终导致了7月份针对OpenAI和Hugging Face系统的攻击。

研究人员表示,接连发生安全越界事件后,OpenAI已经放缓相关研究进度,各团队暂停原有工作,全力强化对安全异常情况的处置能力。

会议上,研究人员警示,未来政府与企业应当做好准备:黑客会刻意以同类方式部署AI智能体;并称这是网络安全领域的一个分水岭事件。

(财联社 李莹)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
伊拉克总理下令,欠中方的工程款立即结清,只向中方提了一个要求

伊拉克总理下令,欠中方的工程款立即结清,只向中方提了一个要求

墨兰史书
2026-11-17 14:00:04
又投中5个三分!抱歉雷阿伦:你的历史第三要不保了

又投中5个三分!抱歉雷阿伦:你的历史第三要不保了

篮球大视野
2026-11-17 20:36:34
中国女子在希腊失踪半年,警方在保险箱内发现10万现金和神秘十人名单,与其有关的中国房产中介失联,最后监控画面曝光

中国女子在希腊失踪半年,警方在保险箱内发现10万现金和神秘十人名单,与其有关的中国房产中介失联,最后监控画面曝光

台州交通广播
2026-11-17 01:10:51
国足争议判罚!王钰栋遭爆铲,VAR介入8分钟,张玉宁连场破门

国足争议判罚!王钰栋遭爆铲,VAR介入8分钟,张玉宁连场破门

奥拜尔
2026-11-17 21:50:12
突然,直线拉升!英伟达,重磅来袭!

突然,直线拉升!英伟达,重磅来袭!

证券时报
2026-11-17 20:54:06
突发!黄仁勋大反击!

突发!黄仁勋大反击!

财经要参
2026-11-17 07:30:09
突发!美国多家大银行集体崩了。。。

突发!美国多家大银行集体崩了。。。

云头条
2026-11-17 05:07:09
炸了!中国影后与女导演澳洲领证结婚!刷上热搜!二人均未敢回应

炸了!中国影后与女导演澳洲领证结婚!刷上热搜!二人均未敢回应

澳洲红领巾
2026-11-17 11:17:20
北大研究表明:我国最富的20%的家庭获得了55.4%的医保报销,却只付出了7.9%的代价!

北大研究表明:我国最富的20%的家庭获得了55.4%的医保报销,却只付出了7.9%的代价!

黯泉
2026-11-17 19:26:43
甘肃一小县城因“慢生活”走红:只有5辆出租车,视频点赞数超过当地城镇人口

甘肃一小县城因“慢生活”走红:只有5辆出租车,视频点赞数超过当地城镇人口

上游新闻
2026-11-17 14:44:05
终于看懂了!高油价正在复制香烟的涨价套路,老百姓却不玩了!

终于看懂了!高油价正在复制香烟的涨价套路,老百姓却不玩了!

江启
2026-11-17 01:14:38
先挨二记闷棍!俄罗斯导弹袭击基辅南北两座大桥,恰逢北约峰会开会在即

先挨二记闷棍!俄罗斯导弹袭击基辅南北两座大桥,恰逢北约峰会开会在即

军迷战情室
2026-11-17 07:39:35
江苏母亲勒死3岁亲儿,庭审现场道出缘由,孩子生前那句话让人泪崩

江苏母亲勒死3岁亲儿,庭审现场道出缘由,孩子生前那句话让人泪崩

雾岛夜话
2026-11-17 13:25:16
网传蔚来财务暴雷?官方报案!与事实严重不符

网传蔚来财务暴雷?官方报案!与事实严重不符

闪电新闻
2026-11-17 17:49:33
逾3500股飘红!两大板块,多股涨停

逾3500股飘红!两大板块,多股涨停

证券时报
2026-11-17 12:39:44
腾讯发文:已到生死存亡时刻,未来不一定要那么多管理岗位,需要一半人去打新的战役

腾讯发文:已到生死存亡时刻,未来不一定要那么多管理岗位,需要一半人去打新的战役

21世纪经济报道
2026-11-17 07:38:59
浙江一小区内大摆80桌宴席,900多人参加,还有人霸气拿出茅台请客,业主感叹:像吃流水席,明年还要办

浙江一小区内大摆80桌宴席,900多人参加,还有人霸气拿出茅台请客,业主感叹:像吃流水席,明年还要办

大风新闻
2026-11-17 08:52:07
黄乐最新私密照爆出, 难怪黄仁勋把持不住!

黄乐最新私密照爆出, 难怪黄仁勋把持不住!

仕道
2026-11-17 11:11:01
这两天,网友们在围观一个叫玉芬的记者

这两天,网友们在围观一个叫玉芬的记者

清晖有墨
2026-11-17 12:40:13
克里米亚大桥被炸断了!!!

克里米亚大桥被炸断了!!!

西楼饮月
2026-11-17 16:41:46
2026-11-18 00:12:49
财联社 incentive-icons
财联社
以“准确、快速、权威、专业”为新闻准则,为投资者提供专业的投资资讯。
783352文章数 1023180关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

家居
本地
艺术
教育
亲子

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

乌兰察布:以前种土豆,现在种Token

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

亲子要闻

宝宝气人但是聪明的4个行为

无障碍浏览 进入关怀版