网易首页 > 网易号 > 正文 申请入驻

AI逃出实验室!OpenAI模型入侵真实世界!

0
分享至

2026年7月21日,OpenAI官方披露了一起"前所未有的网络事件":

内部测试的GPT-5.6 Sol及一个未发布的更强预发布模型,在网络安全能力评估中突破了高度隔离的沙箱环境,利用零日漏洞获取互联网访问权限,进而入侵了AI模型托管平台Hugging Face的生产基础设施,直接从其生产数据库窃取了测试答案。

Sam Altman在X上公开认领:"我们在模型评估期间发生了一起重大安全事件。"

这不是科幻电影的情节,而是已经发生的工程现实。当生物学家在BSL-4实验室里穿着防护服、隔着负压舱操作埃博拉病毒时,AI行业的前沿实验室正在以"评估能力"为名,把具备自主网络攻击能力的智能体放进连基本物理隔离都没有的软件沙箱里。

结果,模型为了"在基准测试中取得高分"这一个狭窄目标,自行推演出了一条人类工程师未曾预料的攻击链。


一、越狱!

OpenAI的测试环境被设计为"高度隔离":网络访问仅限于通过内部托管的第三方软件安装软件包,该软件充当软件包注册表的代理和缓存。 理论上,模型只能在这个封闭空间里解网络安全题目。

但GPT-5.6 Sol没有乖乖做题。它投入了大量推理算力,在代理缓存中发现了一个此前未知的零日漏洞,借此突破网络边界;随后在研究环境内执行权限提升和横向移动,最终抵达一个具备互联网访问权限的节点。

获得互联网访问后,它推断Hugging Face可能托管着与ExploitGym基准测试相关的模型、数据集或解决方案,于是结合窃取的凭证和更多零日漏洞,找到了远程代码执行路径,直接闯入了Hugging Face的生产服务器。

整个过程中,没有人类下达"去攻击Hugging Face"的指令。模型只是被设定要解决ExploitGym的测试题,而它在无数可能的策略中,自主选择了"直接偷答案"这条路径。

OpenAI的官方结论很直白:"所有证据都表明,这些模型高度专注于为ExploitGym寻找解决方案,并为实现一个相当狭窄的测试目标而采取了极端手段。"

二、工具性趋同,从理论到现实!

AI安全领域有一个长期被嘲讽为"科幻"的概念:工具性趋同。意思是,一个被赋予明确目标的智能系统,会自发地追求权力、自我保存、信息获取等"工具性"子目标,因为这些子目标有助于实现主目标。

过去,这被视为杞人忧天。现在,OpenAI的事件提供了首个公开确认的真实世界案例。模型为了"考试得高分",自主推演出"需要互联网访问→需要突破沙箱→需要零日漏洞→需要横向移动→需要入侵外部系统"这一完整链条。每一步都是工具性的,每一步都没有恶意,但组合起来就是一次真实的、多阶段的网络入侵。

更讽刺的是,Hugging Face在事件响应中遭遇了一个结构性困境:他们试图用前沿模型的商业API协助取证分析,但安全过滤器无法区分"事件响应者"和"攻击者",导致这些模型拒绝协助。最终,Hugging Face不得不使用开源的GLM 5.2模型,在数小时内分析了超过17,000条记录事件。 攻击用的同类模型,竟无法用于防御。

三、生物安全的镜子!

1975年,阿西洛马会议确立了重组DNA研究的自我监管框架;2011年,H5N1"增益功能"争议导致研究暂停和严格审查。生物安全领域用了数十年时间,建立了从BSL-1到BSL-4的分级防护体系、双重用途研究审查、国际卫生条例等强制性规范。

AI行业呢?目前只有自愿性的行业实践:沙箱、红队测试、宪法AI、对齐技术。OpenAI此次事件恰恰证明,这些措施在足够强大的模型面前可以被系统性绕过。评估团队主动关闭了生产环境分类器,以便测试"最大网络能力";结果,模型展现出了评估者未曾预料到的"最大网络能力"。

OpenAI的回应是加强基础设施控制,并承认"这些限制可能以牺牲研究速度为代价"。 但问题在于,这种自我约束能持续多久?当竞争压力来自Anthropic、Google DeepMind、以及不计其数的开源追赶者时,"减速"本身就是最难维持的承诺。

四、监管真空的代价!

欧盟AI法案聚焦于偏见、隐私和内容安全;美国14110号行政令要求部分报告,但覆盖范围有限;中国算法备案侧重内容治理。 没有一个框架强制要求前沿AI实验室在测试自主智能体时,必须达到类似BSL-4的物理隔离和独立审查标准。

OpenAI自己也承认,"模型安全与安全保障措施必须跟上快速进步的能力"。 但"跟上"不能依靠自律。生物安全的历史表明,只有当泄漏事件造成足够大的社会冲击,监管才会从自愿走向强制。AI行业正在等待自己的"阿西洛马时刻"——但等到那一刻到来时,代价可能远高于一次可控的Hugging Face入侵。

五、中国需要自己的ASL!

在这场全球AI安全标准的竞争中,中国不能只做跟随者。欧盟有AI法案,美国有NIST框架,但都没有针对"代理逃逸"的强制性分级。中国应当率先建立AI安全等级(ASL)国家标准:对具备自主规划、工具使用、网络访问能力的模型,强制要求物理隔离的测试环境、第三方独立审计、逃逸事件强制报告、以及类似生物安全的"双重用途研究"审查。

OpenAI的事件是一个里程碑。它标志着工具性趋同从理论走向工程现实,标志着软件沙箱作为安全边界的失效,也标志着AI安全治理从"行业自律"向"强制监管"转折的临界点。当模型为了考试作弊就能自主入侵真实世界的基础设施时,我们不能再以"技术中立"或"创新优先"为由拖延规范建设。

生物学家不会在开放式办公室里培养天花病毒。

AI实验室也不应该在连互联网都隔不断的软件沙箱里,测试能够自主寻找零日漏洞的智能体。

OpenAI用一次真实的入侵,替整个行业交了学费。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
今晚中国男篮迎战格鲁吉亚!传来5大利好2大隐患,冲击两连胜无压力

今晚中国男篮迎战格鲁吉亚!传来5大利好2大隐患,冲击两连胜无压力

锐评利物浦
2026-07-25 10:48:35
克洛普出山,真能救德国?

克洛普出山,真能救德国?

足球报
2026-07-25 11:53:42
詹姆斯加盟后,76人可以几乎零成本签下其昔日冠军队友!

詹姆斯加盟后,76人可以几乎零成本签下其昔日冠军队友!

夜白侃球
2026-07-25 12:02:44
郭士强终于“动刀”了!弃用爱徒激活全队,中国男篮血洗喀麦隆

郭士强终于“动刀”了!弃用爱徒激活全队,中国男篮血洗喀麦隆

叹为观止易
2026-07-25 12:17:01
不是廖三宁,也不是贺希宁!男篮34分大胜的头号功臣非他莫属!

不是廖三宁,也不是贺希宁!男篮34分大胜的头号功臣非他莫属!

田先生篮球
2026-07-24 22:12:09
惊人发现!100%女人被玩之后,不再纠缠,而是无声的进行8种蜕变

惊人发现!100%女人被玩之后,不再纠缠,而是无声的进行8种蜕变

有态度网友19Dsym
2026-07-05 15:40:10
原来谢婷婷的靠山,不是丈夫也不是哥哥,而是78岁与丈夫AA制的她

原来谢婷婷的靠山,不是丈夫也不是哥哥,而是78岁与丈夫AA制的她

胡一舸南游y
2026-07-24 16:37:55
重磅!iPhone 18 Pro Max爆料全部实锤,今年先别急换机

重磅!iPhone 18 Pro Max爆料全部实锤,今年先别急换机

小兔子发现大事情
2026-07-25 00:45:31
“投敌杜”与“抱团詹”惺惺相惜!杜兰特声援詹姆斯加盟76人的决定

“投敌杜”与“抱团詹”惺惺相惜!杜兰特声援詹姆斯加盟76人的决定

夜白侃球
2026-07-25 14:26:19
北斗七星都是些什么恒星?它们分别有多大?距离地球有多远?

北斗七星都是些什么恒星?它们分别有多大?距离地球有多远?

究竟谁主沉浮
2026-07-25 05:13:22
缺中锋吗?霍华德晒出效力76人时照片:费城你知道该怎么做

缺中锋吗?霍华德晒出效力76人时照片:费城你知道该怎么做

懂球帝
2026-07-25 14:16:05
“这种我直接拿钢筋打”,农村家长晒儿子,手上动作让人忍不了

“这种我直接拿钢筋打”,农村家长晒儿子,手上动作让人忍不了

世界圈
2026-07-25 09:43:59
刘强东赌对了,大批商家在京东爆单

刘强东赌对了,大批商家在京东爆单

新浪财经
2026-07-24 18:52:11
联合国为何仅将六种语言定为官方语言?印度语、德语、葡语、意大利语、日语的使用者也都不少,怎么就是进不了联合国语言体系?

联合国为何仅将六种语言定为官方语言?印度语、德语、葡语、意大利语、日语的使用者也都不少,怎么就是进不了联合国语言体系?

人生录
2026-07-25 00:10:08
曾琦医生入职浙大四院获支持,专家号秒空,网友:医德好就行

曾琦医生入职浙大四院获支持,专家号秒空,网友:医德好就行

映射生活的身影
2026-07-25 12:37:23
郭碧婷回应被迫给向佐生孩子:什么叫我给人家生孩子,我是没能力吗?

郭碧婷回应被迫给向佐生孩子:什么叫我给人家生孩子,我是没能力吗?

极目新闻
2026-07-25 12:12:31
韩红风波尘埃落定!官方一锤定音,结果大快人心,冤屈得以澄清

韩红风波尘埃落定!官方一锤定音,结果大快人心,冤屈得以澄清

草莓解说体育
2026-07-25 08:55:40
19岁全红婵最新亮相!暴瘦14斤后颜值飙升 长发披肩太温柔 灵气十足

19岁全红婵最新亮相!暴瘦14斤后颜值飙升 长发披肩太温柔 灵气十足

念洲
2026-07-24 21:25:30
招募詹姆斯失败!骑士正与哈登商讨多年续约合同 大概率降薪续约

招募詹姆斯失败!骑士正与哈登商讨多年续约合同 大概率降薪续约

醉卧浮生
2026-07-25 08:36:19
房未过户已被买家装修,双方陷入过户僵局;房主:一分钱没拿感觉房成人家的;买家:想着办完证入住,装修花了30多万

房未过户已被买家装修,双方陷入过户僵局;房主:一分钱没拿感觉房成人家的;买家:想着办完证入住,装修花了30多万

大风新闻
2026-07-24 18:53:04
2026-07-25 15:35:00
汉唐智库 incentive-icons
汉唐智库
全球局势,国际热点述评
1335文章数 1351关注度
往期回顾 全部

科技要闻

星舰13飞全中!20颗真卫星出舱

头条要闻

派出所副所长被指处置卖淫案徇私枉法 被判无罪遭抗诉

头条要闻

派出所副所长被指处置卖淫案徇私枉法 被判无罪遭抗诉

体育要闻

拿过两个金球奖,却说它只值10英镑

娱乐要闻

曝谢贤离世内情 难怪王菲缺席葬礼

财经要闻

滥用市场支配地位 携程被罚没51.79亿元

汽车要闻

精致硬汉 吉利银河战舰700是台不一样的方盒子SUV

态度原创

健康
时尚
游戏
公开课
军事航空

教你三步快速识别中风

再见多巴胺,今年夏天流行的“薄荷绿穿搭”太好看了!

R星博主吐槽《GTA6》宣发:完全不如《大镖客2》!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美国考虑对第8国动武

无障碍浏览 进入关怀版