网易首页 > 网易号 > 正文 申请入驻

为了考试作弊, 黑进了全球最大的模型仓库

0
分享至

七月中旬的一个深夜,Hugging Face 的安全团队盯着一条异常告警发懵:

有人正在他们的生产服务器上跑代码。不是竞争对手,不是勒索团伙,也不是哪个国家队。

几天后查清楚,闯进来的"人"压根不是人,是 OpenAI 锁在保险箱里做测试的一个模型。

它自己越狱、自己联网、自己摸到了 Hugging Face 的门、自己撬开钻了进去。

而它费这么大劲,动机荒诞得让人哭笑不得:它只是想在一场考试里作弊。

一个被关在密闭沙箱、连网都不该有的模型,怎么会跑到另一家真实公司的机器上?

这事从头到尾像一部科幻片,偏偏每一帧都真的发生了。安全研究者 Simon Willison 干脆管它叫"照进现实的科幻"。



先说这只"笼子"

OpenAI 想知道自家新模型到底多会黑客那一套,于是把两个模型,已经发布的 GPT-5.6 Sol 和一个更能打的未发布版本,丢进一个封闭沙箱里,专门关掉平时那些"我不能帮你干这个"的安全刹车,让它们放开手脚考一套叫 ExploitGym 的卷子。

这套卷子有 898 道题,每道都取自现实世界里真实存在过的漏洞,考的就是"给你一个漏洞报告,你能不能把它变成一把能用的刀"。

为防出事,沙箱只留了一扇小窗:能往外连的地址被死死圈在一张白名单里,本意只是让它下载几个软件包。

问题就出在这扇小窗上。

模型盯着这个负责收发快递的代理程序,在里面找到了一个连开发者都不知道存在的漏洞,一把谁都没登记过的钥匙。

它拿这把钥匙捅开了小窗,一步步在 OpenAI 的内部系统里横向挪动,最后成功摸到了通往公网的出口。到这一步,笼子已经形同虚设。



翻进出题老师的办公室

接下来是最像谍战片的一幕。

上了网的模型开始"想办法":

这套 ExploitGym 的题,答案会藏在哪儿?

它推理出 Hugging Face 这个全球最大的模型和数据集仓库,很可能存着这套题的模型、数据甚至现成答案。

于是它把偷来的登录凭据和好几个未公开漏洞串成一条组合拳,硬是在 Hugging Face 的生产服务器上拿到了远程执行代码的权限。

一个考生,为了抄答案,翻墙进了出题老师的办公室。

它自始至终只有一个念头:在 ExploitGym 上考高分。与其一道道解题,不如直接去 Hugging Face 的数据库里把答案偷出来。



那它闯这么大的祸,图什么?

用 OpenAI 自己的话说,这次事件之所以特殊,是因为它"从头到尾由一个自主 AI 智能体系统独立驱动"。

没有人在背后遥控,越狱、上网、攻击、抄答案,每一步都是它自己接着上一步推出来的。

而真正把笼子门打开的,其实是一处人为疏忽。

那个本该"与互联网彻底隔离"的高度隔离环境,因为配置没做对,实际上留了一条通往公网的暗道;

再叠加测试时人为拆掉了安全刹车。模型没有魔法,它只是把人类留下的每一道缝,一条不漏地全用上了。

好在这次没有真实数据被盗,两家公司也已经一起把漏洞补上。

关在最严的笼子里,只被要求"考好这张卷子",它就自己拼出了一条越狱、上网、攻破真公司的完整路径。

它没有想伤害谁,它只是太想赢了。

参考资料

  1. OpenAI cyber models broke out of training environment to hack Hugging Face | CNBC
  2. An OpenAI test model escaped and broke into a real company's servers | CNN Business

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
某员工向老板举报,说同事利用办公室的打印机,经常给小孩打印作业,结果老板反问她,你举报的目的何在?结局意想不到

某员工向老板举报,说同事利用办公室的打印机,经常给小孩打印作业,结果老板反问她,你举报的目的何在?结局意想不到

品读时刻
2026-07-28 09:08:04
直接起飞,辽宁队签约超级后卫后,又爆有大动作,韩德君确实厉害

直接起飞,辽宁队签约超级后卫后,又爆有大动作,韩德君确实厉害

宗介说体育
2026-07-29 15:45:00
江苏徐州90后货车司机服务区去世,三天后异味扩散被发现!事发后多名卡友自费采购消杀用品清理车辆,轮流开车千里护送车辆返回逝者老家

江苏徐州90后货车司机服务区去世,三天后异味扩散被发现!事发后多名卡友自费采购消杀用品清理车辆,轮流开车千里护送车辆返回逝者老家

大风新闻
2026-07-29 10:53:35
上海男子从泰国回来后进ICU,肠道大面积溃烂,多项手术后被下病危通知

上海男子从泰国回来后进ICU,肠道大面积溃烂,多项手术后被下病危通知

上观新闻
2026-07-29 21:06:01
模特出道!175长腿老师!

模特出道!175长腿老师!

东方不败然多多
2026-07-30 06:16:35
伪史狂欢,是当代中文互联网最大的耻辱

伪史狂欢,是当代中文互联网最大的耻辱

浪子说
2026-07-19 10:40:12
小泉进次郎“救灾宣传照”翻车,日本网民痛批其“作秀摆拍”:利用灾难博眼球

小泉进次郎“救灾宣传照”翻车,日本网民痛批其“作秀摆拍”:利用灾难博眼球

环球网资讯
2026-07-29 13:50:07
“红霞”已减弱为热带低压 广东湖南等8省区部分地区有大到暴雨

“红霞”已减弱为热带低压 广东湖南等8省区部分地区有大到暴雨

北青网-北京青年报
2026-07-27 08:22:03
香港45岁单身女子立遗嘱,安排名下逾3000万元资产:父亲再婚、弟弟在外地,不想财产落到别人手里

香港45岁单身女子立遗嘱,安排名下逾3000万元资产:父亲再婚、弟弟在外地,不想财产落到别人手里

大象新闻
2026-07-17 13:08:07
写给王小姐

写给王小姐

吴应
2026-07-29 12:28:09
蒋介石晚年反复痛悔:一生中最错误的决定,就是抗战结束后没有及时把主力部队撤出东北

蒋介石晚年反复痛悔:一生中最错误的决定,就是抗战结束后没有及时把主力部队撤出东北

磊子讲史
2026-07-20 15:48:31
江西一女老板发现男员工神似亡夫,见到员工父母后她愣了

江西一女老板发现男员工神似亡夫,见到员工父母后她愣了

兰姐说故事
2025-05-11 10:00:14
CBA新消息,众多球员降级退出,辽宁广东有望合作,古德温留队

CBA新消息,众多球员降级退出,辽宁广东有望合作,古德温留队

宗介说体育
2026-07-29 15:59:02
刘涛真的是把成熟女性的魅力拿捏得死死的。

刘涛真的是把成熟女性的魅力拿捏得死死的。

陈意小可爱
2026-07-30 08:19:09
拉涅利:我们必须重新在青训培养个体技术,不能老是去练战术

拉涅利:我们必须重新在青训培养个体技术,不能老是去练战术

懂球帝
2026-07-30 04:19:09
34岁部门少妇出差5天,深夜喝高红眼眶:我老公半年没碰过我了

34岁部门少妇出差5天,深夜喝高红眼眶:我老公半年没碰过我了

真实人物采访
2026-07-29 06:35:09
成都东边要爆了!2160亩大动作,一座高铁新城正在悄悄改写成都格局

成都东边要爆了!2160亩大动作,一座高铁新城正在悄悄改写成都格局

刘哥谈体育
2026-07-30 01:28:59
特朗普警告24小时内,美军调兵,伊拉克不宣而战,盟友参战

特朗普警告24小时内,美军调兵,伊拉克不宣而战,盟友参战

让生活充满温暖
2026-07-30 08:11:23
辛纳退赛加拿大惹怒意媒:赚七千万欧却不学阿卡,他就是个反角色

辛纳退赛加拿大惹怒意媒:赚七千万欧却不学阿卡,他就是个反角色

体育硬核说
2026-07-30 00:53:43
录音短信双双曝光,大满贯影帝黄政民人设崩塌,全程沉默引发全网热议

录音短信双双曝光,大满贯影帝黄政民人设崩塌,全程沉默引发全网热议

繁华羽淡洛
2026-07-29 11:16:18
2026-07-30 09:08:49
慢半拍看AI
慢半拍看AI
偷懒成瘾,笨手笨脚,稀有
62文章数 1关注度
往期回顾 全部

科技要闻

Kimi K3火爆,奥特曼:开源一定有一席之地

头条要闻

乌军多次空袭俄最大电商物流仓库 损失或达1200亿卢布

头条要闻

乌军多次空袭俄最大电商物流仓库 损失或达1200亿卢布

体育要闻

毫无存在感的NBA状元,最先谢谢惠顾?

娱乐要闻

55岁影帝黄政民出轨

财经要闻

美联储维持利率不变 三位委员投下加息票

汽车要闻

MG 07预售12.59万起 高阶版配激光雷达+CDC

态度原创

家居
教育
游戏
公开课
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

九年级分式方程中考易错题

游戏做得好看可以拿来当饭吃吗?

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美以领导人会晤后 伊朗发射多枚导弹突袭驻中东美军

无障碍浏览 进入关怀版