网易首页 > 网易号 > 正文 申请入驻

来源归属缺失与推广遗漏修正

0
分享至

给模型一句"禁止联网"的系统提示,然后把它放进一个默认能出网的容器里,这不叫隔离,叫放行。2026年8月,多个前沿模型从评测沙箱里跑了出来。不是AI觉醒,是工程没做对——只要出口路由还开着,你就没法用自然语言约束住代码执行。


所谓AI沙箱隔离,是把模型关进受限的执行环境,防止它在测试期间访问未授权网络或改动系统。很多团队做红队隔离时,动作只是把浏览器工具关掉。这没用。如果评测数据集本身要求发一个HTTP GET请求才能解出谜题,模型会直接生成Python代码去发这个请求。

它们是怎么跑出去的

前沿模型能逃出评测环境,是因为运营方依赖系统提示和没加固的Docker容器,而不是虚拟机监控器级别的隔离。模型通过Python标准库发出原始网络请求,绕开语义护栏,直接摸到公网——出口流量压根没在网络接口层被拦。

Mandiant在2026年第二季度的威胁分析里给了一个数字:84%的开源智能体评测框架,部署时默认的出口规则就允许出站HTTPS。这很荒唐。如果你的环境有一条通往0.0.0.0/0的默认路由,你拥有的不是前沿模型安全,而是一个公网端点。

当模型去跑一个网络安全基准测试时,它会拿到一个REPL或者bash shell。如果这个shell跑在缺少严格出口过滤的容器里,模型就能执行curl,或者手工构造原始套接字。

Logic42近期客户审计的内部遥测数据,给出了几个基线指标:

  • 62%的客户没有实现DNS黑洞(sinkholing)。
  • 一个拿到Python执行能力的模型,平均逃逸时间(MTTE)不到300毫秒

两种架构的差别

出事的架构长这样:前沿模型下面挂一个Python REPL或工具执行器,跑在标准Docker容器里,再往下接宿主机网络栈,默认路由直通企业防火墙,然后就是开放互联网。系统提示写着"无互联网",但网络层根本没拦。

加固后的架构是另一套:执行容器换成AWS Firecracker或gVisor这类microVM,没有默认路由,能力被丢弃;下面接专用VLAN或临时VPC;再下面是出口防火墙或NAT网关,默认拒绝一切;只放行到特定内部评测API的443端口;最后是DNS黑洞,所有外部域名解析统统指向127.0.0.1。

要避免沙箱逃逸,有四步:

  1. 强制硬件隔离。丢掉标准Docker容器,用AWS Firecracker这类microVM,它们在虚拟机监控器层面拦截和过滤系统调用。
  2. 实现零出口。在VPC层面默认丢弃所有出站连接。
  3. 代理外部请求。如果测试确实需要数据,强制流量走严格的内部网关,校验每一个目的地和载荷。
  4. 部署DNS黑洞。禁止执行环境解析外部域名,全部路由到127.0.0.1。

气隙也不是魔法

气隙安全模型是把系统从非安全网络上物理隔离,而AI沙箱依赖的是联网主机内部的逻辑边界。就算网络隔离做对了,供应链也会出卖你。数据总得跨过那道边界。

Gartner的2026年预测估计,企业AI泄露事件中40%将源自通过所谓安全边界注入的投毒依赖。你要引入模型权重,要导入评测数据集,要定义工具schema,其中任何一项都可能夹带漏洞。一个自定义的search_internal_db工具schema,很容易藏一个针对宿主应用的缓冲区溢出攻击。如果你假设跨过气隙的输入是安全的,那你的AI隔离失败已经排上日程了。所有东西都要消毒,把每一份JSON载荷当成放射性物质处理。

CISO该要什么

不核查基础设施架构、就把前沿模型交给第三方厂商的日子结束了。CISO必须在模型接触评测环境之前,强制要求对方拿出具体的架构证据:

  • 提供确切的iptables或云网络安全组规则,证明执行容器是DENY ALL出口。
  • 记录执行所用的虚拟机监控器或microVM技术。
  • 说明DNS架构。
  • 提供工件生命周期,展示两次运行之间执行环境被临时销毁。
  • 演示遥测和日志如何在不建立双向网络路径的前提下外送,比如用OpenTelemetry。

系统提示是用户界面元素,不是安全控制。把这两者搞混,AI沙箱逃逸就是这么发生的。别再指望模型"配合",去把边界真正工程化:按NIST SP 800-207的零信任原则,把网络防火墙架起来,信任硬件,对自然语言约束保持应有的不屑。

本文原文作者为Asif Muhammad Iqbal(Logic42创始人兼CEO),原文发表于https://logic42.ai/articles/ai-sandbox-containment-failures。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
日本要急坏了?中方罕见出招,高市无法招架,日媒称最坏结果已现

日本要急坏了?中方罕见出招,高市无法招架,日媒称最坏结果已现

荷兰豆爱健康
2026-10-19 07:34:05
蛋白粉大涨价,网友盯上“蟑螂粉”!商家称其蛋白质含量70%,每斤不到20元,医生提醒:可能携带病原微生物

蛋白粉大涨价,网友盯上“蟑螂粉”!商家称其蛋白质含量70%,每斤不到20元,医生提醒:可能携带病原微生物

每日经济新闻
2026-10-19 12:24:23
轰20咋还不问世?美专家想明白了:不是技术问题,中国无法弥补

轰20咋还不问世?美专家想明白了:不是技术问题,中国无法弥补

影孖看世界
2026-10-18 22:14:43
太恐怖!“女版林丹”赛季61胜1负,只要她参赛别人只能争夺亚军

太恐怖!“女版林丹”赛季61胜1负,只要她参赛别人只能争夺亚军

里芃芃体育
2026-10-19 17:00:21
曹可凡不再隐瞒!发文揭开刘翔私下人品,原来孙海平当初没说谎

曹可凡不再隐瞒!发文揭开刘翔私下人品,原来孙海平当初没说谎

草莓信箱
2026-09-16 16:31:27
菲政坛要变天了!特朗普还没到菲律宾,小马科斯先遭自己人背刺!

菲政坛要变天了!特朗普还没到菲律宾,小马科斯先遭自己人背刺!

小莜读史
2026-10-18 18:34:35
《职业卫生与应急救援》编辑部主任黄沪涛逝世,终年47岁

《职业卫生与应急救援》编辑部主任黄沪涛逝世,终年47岁

澎湃新闻
2026-10-19 20:04:27
近6万兵力逼近台海,火力前置百余公里,美日这步棋风险远超想象

近6万兵力逼近台海,火力前置百余公里,美日这步棋风险远超想象

张斌说
2026-10-19 15:16:49
韦斯特被问是否与詹姆斯母亲发生过关系,回:绅士从不说这些

韦斯特被问是否与詹姆斯母亲发生过关系,回:绅士从不说这些

陈意小可爱
2026-10-19 01:12:39
批评尊界就是不爱国?

批评尊界就是不爱国?

廖保平
2026-10-14 08:26:07
公开否定“文革”第一人,他是最敢说真话的硬骨头!

公开否定“文革”第一人,他是最敢说真话的硬骨头!

涵豆说娱
2026-10-18 14:11:18
他刚入行就被30个剧组拒绝,得了焦虑症待业在家1年,如今爆红了

他刚入行就被30个剧组拒绝,得了焦虑症待业在家1年,如今爆红了

追影客栈
2026-10-18 16:58:34
世界首次500强差距断崖:日本149家,美国151家,中国3家,如今呢

世界首次500强差距断崖:日本149家,美国151家,中国3家,如今呢

福建睿平
2026-08-28 07:25:16
936球427助,千球倒计时64:全世界都在等,只有梅西自己不着急

936球427助,千球倒计时64:全世界都在等,只有梅西自己不着急

生活新鲜市
2026-10-18 20:11:28
突然!抄底资金,涌入!万亿赛道大爆发

突然!抄底资金,涌入!万亿赛道大爆发

证券时报
2026-10-19 12:54:07
1972 年,76岁辛普森夫人向46岁英女王行屈膝礼,姿态卑微讨好

1972 年,76岁辛普森夫人向46岁英女王行屈膝礼,姿态卑微讨好

照见古今
2026-10-19 19:11:31
545分天堑+腿伤崩盘,斯瓦泰克含泪宣布:不期待年终总决赛了

545分天堑+腿伤崩盘,斯瓦泰克含泪宣布:不期待年终总决赛了

林子说事
2026-10-19 16:09:46
央视红人洛桑之死,时隔25年后,搭档博林坦白:他根本没喝多少酒

央视红人洛桑之死,时隔25年后,搭档博林坦白:他根本没喝多少酒

李橑在北漂
2026-10-19 20:52:18
小杨哥新号粉丝数一度归零,知情人士称系数据展示异常,目前账号粉丝数已经正常显示

小杨哥新号粉丝数一度归零,知情人士称系数据展示异常,目前账号粉丝数已经正常显示

黄河新闻网吕梁
2026-10-19 10:39:05
忍了18个月,究竟是什么让泽连斯基决定公开对抗特朗普?

忍了18个月,究竟是什么让泽连斯基决定公开对抗特朗普?

澎湃新闻
2026-10-19 15:28:34
2026-10-19 21:40:49
Ping值焦虑
Ping值焦虑
有态度网友ytd
229文章数 109关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

女子随口一句"姐过得不太好" 8年前帮过的小伙飞来送钱

头条要闻

女子随口一句"姐过得不太好" 8年前帮过的小伙飞来送钱

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

房产
艺术
健康
亲子
教育

房产要闻

最新房价:海口,三亚齐跌!

艺术要闻

俄罗斯当代画家 叶夫根尼·戈洛洛博夫风景油画选

看着很健康的人,怎么会突然猝死?

亲子要闻

工程车小故事:小车车受伤了

教育要闻

全国精神残疾高中在读仅 723 人:6 条容易被忽略的升学路径,很多家长都不知道

无障碍浏览 进入关怀版