网易首页 > 网易号 > 正文 申请入驻

为了考试作弊, 黑进了全球最大的模型仓库

0
分享至

七月中旬的一个深夜,Hugging Face 的安全团队盯着一条异常告警发懵:

有人正在他们的生产服务器上跑代码。不是竞争对手,不是勒索团伙,也不是哪个国家队。

几天后查清楚,闯进来的"人"压根不是人,是 OpenAI 锁在保险箱里做测试的一个模型。

它自己越狱、自己联网、自己摸到了 Hugging Face 的门、自己撬开钻了进去。

而它费这么大劲,动机荒诞得让人哭笑不得:它只是想在一场考试里作弊。

一个被关在密闭沙箱、连网都不该有的模型,怎么会跑到另一家真实公司的机器上?

这事从头到尾像一部科幻片,偏偏每一帧都真的发生了。安全研究者 Simon Willison 干脆管它叫"照进现实的科幻"。



先说这只"笼子"

OpenAI 想知道自家新模型到底多会黑客那一套,于是把两个模型,已经发布的 GPT-5.6 Sol 和一个更能打的未发布版本,丢进一个封闭沙箱里,专门关掉平时那些"我不能帮你干这个"的安全刹车,让它们放开手脚考一套叫 ExploitGym 的卷子。

这套卷子有 898 道题,每道都取自现实世界里真实存在过的漏洞,考的就是"给你一个漏洞报告,你能不能把它变成一把能用的刀"。

为防出事,沙箱只留了一扇小窗:能往外连的地址被死死圈在一张白名单里,本意只是让它下载几个软件包。

问题就出在这扇小窗上。

模型盯着这个负责收发快递的代理程序,在里面找到了一个连开发者都不知道存在的漏洞,一把谁都没登记过的钥匙。

它拿这把钥匙捅开了小窗,一步步在 OpenAI 的内部系统里横向挪动,最后成功摸到了通往公网的出口。到这一步,笼子已经形同虚设。



翻进出题老师的办公室

接下来是最像谍战片的一幕。

上了网的模型开始"想办法":

这套 ExploitGym 的题,答案会藏在哪儿?

它推理出 Hugging Face 这个全球最大的模型和数据集仓库,很可能存着这套题的模型、数据甚至现成答案。

于是它把偷来的登录凭据和好几个未公开漏洞串成一条组合拳,硬是在 Hugging Face 的生产服务器上拿到了远程执行代码的权限。

一个考生,为了抄答案,翻墙进了出题老师的办公室。

它自始至终只有一个念头:在 ExploitGym 上考高分。与其一道道解题,不如直接去 Hugging Face 的数据库里把答案偷出来。



那它闯这么大的祸,图什么?

用 OpenAI 自己的话说,这次事件之所以特殊,是因为它"从头到尾由一个自主 AI 智能体系统独立驱动"。

没有人在背后遥控,越狱、上网、攻击、抄答案,每一步都是它自己接着上一步推出来的。

而真正把笼子门打开的,其实是一处人为疏忽。

那个本该"与互联网彻底隔离"的高度隔离环境,因为配置没做对,实际上留了一条通往公网的暗道;

再叠加测试时人为拆掉了安全刹车。模型没有魔法,它只是把人类留下的每一道缝,一条不漏地全用上了。

好在这次没有真实数据被盗,两家公司也已经一起把漏洞补上。

关在最严的笼子里,只被要求"考好这张卷子",它就自己拼出了一条越狱、上网、攻破真公司的完整路径。

它没有想伤害谁,它只是太想赢了。

参考资料

  1. OpenAI cyber models broke out of training environment to hack Hugging Face | CNBC
  2. An OpenAI test model escaped and broke into a real company's servers | CNN Business

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
加拿大、丹麦、德国、法国、意大利、日本、荷兰、英国,发表联合声明

加拿大、丹麦、德国、法国、意大利、日本、荷兰、英国,发表联合声明

政知新媒体
2026-10-10 07:51:17
外媒调查显示消费者普遍认为苹果iPhone Duo

外媒调查显示消费者普遍认为苹果iPhone Duo

IT之家
2026-10-10 15:14:13
太离谱!爆料篮协宣布重要决定,中国男篮集训继续加长

太离谱!爆料篮协宣布重要决定,中国男篮集训继续加长

宗介说体育
2026-10-09 16:42:08
68岁朱玲玲看演唱会被老公牵手三个儿子护着,66岁梁安琪独自到场

68岁朱玲玲看演唱会被老公牵手三个儿子护着,66岁梁安琪独自到场

喜欢历史的阿繁
2026-10-10 07:49:09
尊界风波,余承东表态了

尊界风波,余承东表态了

营销头版
2026-10-10 11:58:32
Shams:唐斯愿降薪但尼克斯已关闭续约大门,报价比顶薪少7600万

Shams:唐斯愿降薪但尼克斯已关闭续约大门,报价比顶薪少7600万

野渡舟山人
2026-10-10 10:58:48
优酷《此处通往繁星》开播,张雪迎郭麒麟演绎殡葬职场治愈剧

优酷《此处通往繁星》开播,张雪迎郭麒麟演绎殡葬职场治愈剧

新京报
2026-10-09 15:31:40
终于摊牌了!日本媒体发强硬评论:中俄若拒绝取消宪章敌国条款,日本扬言重演九十三年前军国主义退群路

终于摊牌了!日本媒体发强硬评论:中俄若拒绝取消宪章敌国条款,日本扬言重演九十三年前军国主义退群路

z千年历史老号
2026-10-10 17:16:48
含大量硼砂,别再给家里人吃了!这10类食物最易掺硼砂,别害自己

含大量硼砂,别再给家里人吃了!这10类食物最易掺硼砂,别害自己

健康之光
2026-09-25 07:25:20
2026年养老金调整迟迟未公布,一位专家一语道破了四大核心问题。

2026年养老金调整迟迟未公布,一位专家一语道破了四大核心问题。

虎哥闲聊
2026-10-10 07:42:38
李嘉诚再次预判我国楼市!不出意外的话,楼市或迎 “三大走向”

李嘉诚再次预判我国楼市!不出意外的话,楼市或迎 “三大走向”

李博世财经
2026-10-09 10:59:53
张丹峰失业三年带继子回铁岭老家吃街边东北菜

张丹峰失业三年带继子回铁岭老家吃街边东北菜

可乐谈情感
2026-10-09 17:47:43
国内将逐渐停止“肠息肉手术”?做完人就废了?医生讲出实情

国内将逐渐停止“肠息肉手术”?做完人就废了?医生讲出实情

健康科普365
2026-09-20 14:45:08
日本711关闭所有门店,震惊全网!

日本711关闭所有门店,震惊全网!

互联网品牌官
2026-10-09 19:38:53
乐基儿年轻时真漂亮,看曾志伟的眼神就知道了

乐基儿年轻时真漂亮,看曾志伟的眼神就知道了

娱你同欢
2026-09-13 20:22:17
我已经50岁了,二婚没多久就开始恶心呕吐,去医院一查竟然是怀孕

我已经50岁了,二婚没多久就开始恶心呕吐,去医院一查竟然是怀孕

千秋文化
2026-07-04 19:16:43
周启豪赛后回答记者采访,猛夸松岛辉空,并称向他学习

周启豪赛后回答记者采访,猛夸松岛辉空,并称向他学习

林子说事
2026-10-10 14:39:19
伊朗这一仗打完,中美至少50年内不会开战,理由就三条:其一,美国已经看清了,连被封锁40年的伊朗都拿不下,它拿什么跟中国打?

伊朗这一仗打完,中美至少50年内不会开战,理由就三条:其一,美国已经看清了,连被封锁40年的伊朗都拿不下,它拿什么跟中国打?

扶苏聊历史
2026-10-09 11:50:53
“秦主任”是谁? 5000元腰带怎么会让“秦主任”爆火?

“秦主任”是谁? 5000元腰带怎么会让“秦主任”爆火?

四海神君
2026-10-09 13:00:10
成都蓉城中超夺冠T恤曝光:采用1颗星+太阳神鸟的设计

成都蓉城中超夺冠T恤曝光:采用1颗星+太阳神鸟的设计

懂球帝
2026-10-10 09:45:13
2026-10-10 17:52:49
慢半拍看AI
慢半拍看AI
偷懒成瘾,笨手笨脚,稀有
115文章数 1关注度
往期回顾 全部

科技要闻

上世纪成熟的踏板,为何今天还会断裂?

头条要闻

女局长被指出轨多人 同意给前夫500万考虑影响写330万

头条要闻

女局长被指出轨多人 同意给前夫500万考虑影响写330万

体育要闻

十年回首:湖人三榜眼的夏天,与NBA无关

娱乐要闻

宋佳一串三大满贯 争议随之而来

财经要闻

蹭尊界流量?岚图汽车在“玩火”

汽车要闻

二十载再越巅峰 第五代全新别克君越今日正式上市

态度原创

艺术
家居
健康
本地
军事航空

艺术要闻

老一辈艺术家 蔡亮作品集

家居要闻

2026建博会(广州) 公装联探展交流活动

痘坑留下后,还能填平吗?

本地新闻

踏访沙县第一村,寻国民小吃本源

军事要闻

美乌将举行新一轮会谈

无障碍浏览 进入关怀版