网易首页 > 网易号 > 正文 申请入驻

密谋两月!Hugging Face攻击案真相大白,AI智能体5月便合谋“越狱”

0
分享至

财联社8月6日讯(编辑 李莹)OpenAI 表示,早在5月,试图入侵Hugging Face的AI智能体便开始秘密互通信息,合作谋划突破测试沙箱。

当地时间周三,在拉斯维加斯举行的Black Hat网络安全会议上,OpenAI工作人员Eric Wallace和Michael Dalton表示,多个仅供内部使用的AI智能体花了数月时间互相留言,并围绕着获取互联网访问权限以解决分配给它们的任务这一目标聚集在一起——其中一些任务如果不接入网络是无法完成的。

Wallace和Dalton指出,这次违规的根源可以追溯到5月,当时OpenAI的科学家给了一个实验性AI智能体一项新任务——而几个月后,该智能体逃逸出了“沙箱”安全测试环境并攻击了Hugging Face的系统。

Wallace和Dalton表示,OpenAI未能意识到自己给模型布置了一个“不可能完成”的任务。

Wallace表示:

“在某个时点,这些智能体意识到,也许可以尝试利用或攻击外部基础设施,以找到这个正在评估我的测试的答案。”

会议上还展示了之前出现过的两个事例,都一定程度上“鼓励”了智能体逃出测试环境。

在一则示例中,开发人员要求AI智能体解决一个Excel表格文件中的问题,但该文件包含的Google Drive链接在没有互联网连接的情况下是无法访问的。

而在另一个示例中,OpenAI团队“不小心忘记”上传了作为作业题目一部分的文件。

作弊倾向

OpenAI在审查过程中的一项关键发现是,这些前沿模型表现出了在任务中作弊的倾向,并在尝试完成给定任务时表现出了“执着”的特质——即使这种执着开始偏离最初的指示。

Dalton表示:

“前沿模型真的很喜欢作弊,它们喜欢作弊的原因是,在训练期间,它们通常承受着不同种类的快速工作的压力。”

根据周三会议上研究人员展示的幻灯片,其中一个智能体在无法解决沙箱环境中的任务后表示:

“我们卡住了,也许可以在线找答案?”

秘密协作

在Hugging Face事件中,AI智能体之间的第一条信息,是其中一个被难住的智能体向其同伴求助,会议上展示的该智能体的思维链引言显示:“也许在不同环境中的另一个智能体,可以主动上传!”

这次外联引发了连锁反应,AI智能体开始互相求助、共同完成工作,并最终合作黑进了OpenAI的内部系统,使其能够间接接入沙箱外网络世界。

另一段思维链引言显示,一个智能体在为利用漏洞而庆祝:“太棒了,我们拥有了任意SSRF。”

任意SSRF是一种高危漏洞,可操控受害服务器不受限制地向任意内外网络地址发起请求。

研究人员称,7月初的一场系统宕机事故,让OpenAI察觉这批AI智能体已利用代码仓库Artifactory突破环境限制,成功打通互联网访问通道。

OpenAI安全团队随即终止了此次异常越权行为、关停智能体的隐秘留言通道。

但时隔数周,这些智能体再度找到全新通信方式,并挖掘出同款包管理器的零日漏洞,全程隐蔽操作,未被及时发现。

留言板的这次迭代最终导致了7月份针对OpenAI和Hugging Face系统的攻击。

研究人员表示,接连发生安全越界事件后,OpenAI已经放缓相关研究进度,各团队暂停原有工作,全力强化对安全异常情况的处置能力。

会议上,研究人员警示,未来政府与企业应当做好准备:黑客会刻意以同类方式部署AI智能体;并称这是网络安全领域的一个分水岭事件。

(财联社 李莹)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
马克龙语出惊人:各国要么沦为中国的附庸,要么沦为美国的附庸?

马克龙语出惊人:各国要么沦为中国的附庸,要么沦为美国的附庸?

共工之锚
2026-11-20 11:13:34
高市早苗对台湾问题躲闪作答,日媒担忧:关系改善仍遥遥无期

高市早苗对台湾问题躲闪作答,日媒担忧:关系改善仍遥遥无期

环球网资讯
2026-11-21 07:06:48
“A10后备厢装几箱啤酒就被压露底”,零跑汽车回应:系物品超过设计承重上限所致,已与用户沟通并获得理解,后续将优化用车指引

“A10后备厢装几箱啤酒就被压露底”,零跑汽车回应:系物品超过设计承重上限所致,已与用户沟通并获得理解,后续将优化用车指引

政知新媒体
2026-11-21 09:48:46
露头就打!985高校沈丁立原形毕露!内鬼终于自己蹦出来了

露头就打!985高校沈丁立原形毕露!内鬼终于自己蹦出来了

平老师666
2026-11-21 08:49:53
东契奇25分8助湖人逆转送国王8连败,亨特30分拉文错失绝杀

东契奇25分8助湖人逆转送国王8连败,亨特30分拉文错失绝杀

湖人崛起
2026-11-21 13:25:02
黄金跌破800,囤金子的中产遍地哀嚎,抄底的商家拍断大腿

黄金跌破800,囤金子的中产遍地哀嚎,抄底的商家拍断大腿

每日人物
2026-11-21 11:01:49
特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

极目新闻
2026-11-20 18:45:32
APCE上的温情一幕,让人好感动!

APCE上的温情一幕,让人好感动!

低调看天下
2026-11-20 15:46:04
高市早苗飞离中国,中方铺红毯、礼仗队送别,日本认为“中方失礼”,根本站不住脚

高市早苗飞离中国,中方铺红毯、礼仗队送别,日本认为“中方失礼”,根本站不住脚

蓝星杂谈
2026-11-20 13:04:01
伦德伯格撞墙的力度真不轻

伦德伯格撞墙的力度真不轻

静易墨
2026-11-20 14:23:06
白宫记者:APEC欢迎宴会上 特朗普跳起标志性舞蹈

白宫记者:APEC欢迎宴会上 特朗普跳起标志性舞蹈

看看新闻Knews
2026-11-21 13:01:19
红果短剧全面下架,彻底失控了

红果短剧全面下架,彻底失控了

李东阳朋友圈
2026-11-20 10:00:35
特朗普:在深圳我观察很仔细,看了护栏、道路,路不但没坑洼,甚至都没修补痕迹,我们有些城市到处坑坑洼洼、锈迹斑斑,犯罪率高得离谱

特朗普:在深圳我观察很仔细,看了护栏、道路,路不但没坑洼,甚至都没修补痕迹,我们有些城市到处坑坑洼洼、锈迹斑斑,犯罪率高得离谱

政知新媒体
2026-11-21 10:17:31
希拉里发文炮轰特朗普:指责美总统“助纣为虐”,呼吁国会调查

希拉里发文炮轰特朗普:指责美总统“助纣为虐”,呼吁国会调查

麓谷隐士
2026-11-21 07:11:45
前国脚金敬道疑似出狱与美女合影:球场进不去,流量场先热身

前国脚金敬道疑似出狱与美女合影:球场进不去,流量场先热身

姜大叔侃球
2026-11-21 11:25:05
就在今天!哈登创造了80年NBA纪录

就在今天!哈登创造了80年NBA纪录

篮球大视野
2026-11-21 12:00:04
软银孙正义曾考虑1万亿美元收购SK海力士,现已暂缓

软银孙正义曾考虑1万亿美元收购SK海力士,现已暂缓

界面新闻
2026-11-21 10:40:18
英伟达,被查

英伟达,被查

第一财经资讯
2026-11-21 13:41:17
继黄仁勋、陈立武之后,轮到AMD总裁苏姿丰了?

继黄仁勋、陈立武之后,轮到AMD总裁苏姿丰了?

穿透
2026-11-20 18:44:35
顺丰速运被暂停参加全军采购活动

顺丰速运被暂停参加全军采购活动

观察者网
2026-11-21 11:18:09
2026-11-21 15:32:49
财联社 incentive-icons
财联社
以“准确、快速、权威、专业”为新闻准则,为投资者提供专业的投资资讯。
784606文章数 1023219关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

污蔑"整个华侨群体都是中国间谍" 法国媒体道歉

头条要闻

污蔑"整个华侨群体都是中国间谍" 法国媒体道歉

体育要闻

伦德伯格撞墙的力度真不轻

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

健康
旅游
本地
游戏
公开课

医生眼里"很伤腰"的椅子,很多人天天坐

旅游要闻

发现宝藏山东丨枣庄山亭:抱犊崮红叶冬景上新 体验别样山野乐趣

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

《大表哥2》“亚瑟”在《GTA6》登场!但是骑着狗

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版