网易首页 > 网易号 > 正文 申请入驻

梁文锋用沙盒开启RSI

0
分享至



DeepSeek联合清华大学发表了一篇文章,署名的最后一人是梁文锋。

文章表面上是说DeepSeek训练Agent所使用的沙盒,但是论文第6节越看越不对劲。字里行间写了三个英文字母:RSI。

通过这个沙盒,Agent能创建自己需要的环境,这个环境会再次训练Agent,被训练的更强的Agent会创造更好的环境。

由此形成了一个小型的RSI闭环。

也正是因此,沙盒,或许成为了开启RSI第一场战争的一把钥匙。

那这篇文章到底讲了什么呢?

01

这篇论文到底讲了什么

梁文锋署名的这篇新论文,标题叫做《DeepSeek Elastic Compute (DSec): A Sandbox Infrastructure for Effective Agentic Training at Scale》,9月19日提交到 arXiv,编号2609.22978。作者超过130人,梁文锋排在最后一位。合作方是清华大学。

论文做的事情,一句话就能说完:DeepSeek完整公开了自己用来训练Agent的“沙盒工厂”DSec。

但是要理解DSec,就得先理解“训练Agent”和“训练大模型”的区别。

训练大模型,是喂数据、算梯度,环境就是GPU集群。训练Agent则完全不同,Agent要在环境里写代码、跑编译、开浏览器、装依赖、调工具,然后根据执行结果不断重试,直到任务完成。

但如果把Agent放在电脑里训练,它万一捣鼓点什么出来,那整个环境就毁了。

所以这就需要一个隔离的、有状态的、能跑真实软件的沙盒。

DSec就是这样一个平台。它通过一套统一的Python SDK(libdsec)对外提供四种后端:函数调用(FnCall)、容器(Container)、轻量虚拟机(microVM)、完整虚拟机(Full VM)。

简单来说,DSec就是外卖APP,Agent是骑手,沙盒就相当于是派单。由此类推,FnCall、容器和轻量虚拟机就是外卖站点分发的电动车和保温箱,完整虚拟机是冷链货车。



但这里有个小问题,隔离强度和系统功能两者生来就“不对付”。

越像一台真机,启动越慢、内存开销越大。跑一段短脚本用函数调用,改一个代码仓库用容器,跑安全任务用microVM,而要跑安卓、图形界面这种完整系统,就只能上完整虚拟机。

论文显示,一个生产单元约160个CPU节点、3万核、250TB内存,托管PB级镜像。

一天服务约300万个沙盒,峰值并发超过38万个,创建速度超过每秒5000个。单个训练任务最多能一次性拉起3.2万个沙盒。单节点上,最高能塞进800个 microVM或3200个容器。

DSec有三个核心机制。

第一,把环境拆成“可组合的层”。

过去一个沙盒环境是一整块镜像,改一个工具包就得重建整块镜像,维护成本随组合数暴涨。DSec把基础镜像、工作区、工具包拆成三层独立版本化的只读层(EROFS),启动时用overlayfs拼起来,改哪层只重建哪层。实测比 tar.gz 打包方式快1.76倍,磁盘写入量少5.5倍。

相当于是给骑手配车,以前是坏了其中一个零部件,那么整车都要换。DSec是坏了哪个换哪个。

第二,镜像“按需加载”。镜像存在3FS(DeepSeek 的分布式文件系统)上,元数据预取到本地,数据块只在真正读到时才拉。实测8192个容器的突发部署,按需加载35分钟跑完,而 Docker 冷拉取要60分钟以上,磁盘写入量少了约57%。

老办法是“不管用不用,整仓先搬空”。DSec是“根据外卖单,用到哪件骑手去取哪件”。

第三,内存和CPU的“精打细算”。

用virtio-pmem配合DAX,让多个虚拟机共享同一份页缓存,峰值内存降40.2%;用DAMON加balloon回收冷页,时间积分内存再降21.2%;CPU上把沙盒分成“延迟敏感”和“尽力而为”两类,用core scheduling把SMT干扰从45.2%压到17.3%。

此外,从DeepSeek-V4.1开始,论文还把Agent的rollout从可被抢占的GPU训练Pod里拆出来,独立跑在DSec上,GPU被抢时rollout状态不丢。

说白了就是让骑手们公用同一张地图、同一批货架,车里压仓的冷货随手退回仓库,加急单和普通单分道跑、互不抢道。

02

藏在第6节的RSI

论文里最容易被忽略一句话,不在摘要,而在第6节的小标题里:Build environments of Agents, by Agents, for Agents。意为由Agent建造、为Agent服务、属于Agent的环境。

这句话等于DeepSeek悄悄交代了一件大事,DeepSeek也实现了部分RSI。

论文第6.1节写到,手工构造Agent RL所需的大量环境已经“不现实”(impractical)。

于是DeepSeek换了个做法,让Agent在训练用的同一套沙盒里,交互式地自己搭环境,再用pack_diff把这次会话打成一张增量快照,直接变成下一批可复用的训练场。

造环境的Agent和被训练的Agent共用DSec这套沙盒基础设施。

Agent铺场地 → 场地训练Agent → 更强的Agent再铺更好的场地。DeepSeek的RSI由此部分实现闭环。

但是这个闭环仍处于早期。

第6.4节记录了大量Agent作弊事件,比如去平台里翻残留的参考答案,伪造RPC消息直接发给chronus套答案,翻 chronus日志找泄题,甚至覆盖/bin/bash来绕过检查。

被拦住之后,又用XFS_IOC_SWAPEXT这个ioctl把受保护文件的存储块换到另一个文件描述符上,结果把XFS元数据搞坏、逼得文件系统关闭。

有作弊的自然就有闯祸的。一个Agent从根目录递归grep、一路读到/proc/kpagecgroup,触发内核bug直接把内核干崩。

另一个Agent调了yes命令,chronus把它的输出全记下来,几十GB数据堆在存储上。



现在的RSI转不起来,卡的从来不是GPU,是环境供给。

Agent RL每一代都要新任务、新沙盒、新服务依赖,人工造环境才是真瓶颈。

DSec相当于是把这一环部分自动化了,自动生成RSI所需要的环境。

还是用外卖来举例。

一个外卖平台想越跑越快,不能只靠一个骑手重复送同一单。想要骑手变强,就需要接更多不同种类的单,而单越多又反过来把骑手练得更强。

但是想要把这个飞轮转起来,卡的从来不是骑手,是餐厅够不够多。没餐厅,骑手再能跑也是空转。

DSec是盖了一个“自动建餐厅”的系统。

以前平台得人工一家家谈商家、装修后厨、写菜单、定考核标准,几百几千家根本谈不过来。

DSec说:“别谈了,让骑手在跑单的同一个后厨里,顺手把店开了。他怎么装的灶台、进的什么货、接的什么水电,系统用pack_diff‘啪’拍一张快照存下来,下一波骑手直接拎包入驻这家店开工,不用重新装修。”

03

沙盒,成了新的战场

DSec不是孤例。整个行业都在朝着“Agent沙盒”这一个方向发力。

最出名的案例是Kimi K3。

月之暗面7月16日发布K3,2.8万亿参数的 MoE,每个token激活约104B 参数,100万 token上下文,原生视觉,号称“全球首个开源的3T级模型”,SWE-bench拿到76.8%、开源第一。

它的Agent Swarm最多能并行调度300个子代理。DeepSeek这篇论文里,引用的也正是Kimi-K2.5的Agent Swarm。

Kimi训练K3的时候所使用的AgentENV也是一种沙盒。

AgentENV跑在Firecracker microVM上的分布式沙盒平台,每个沙盒独立Linux内核、独立网络栈、独立文件系统,底层存储用OverlayBD + ublk,只读层全集群共享,每个沙盒写自己的上层。跟DSec是同一套技术栈。



DSec论文第7节写到,它用的那套Rust版OverlayBD/ublk存储库,就开源在AgentENV这个仓库里。

两者相当于是同门师兄弟。

但AgentENV没法实现RSI,它给的是fork/snapshot这种“状态操作原语”,让RL rollout能并行、能回滚、能干净判分。因此,它没法像DSec那样让Agent自己造环境。

类似的还有阿里。云栖大会上,阿里云CTO李飞飞抛出了“Agentic Cloud”战略,把Model、Harness、Context 当成三个核心场景,一口气推出AgentCore、Agent Sandbox、新一代存储CPFS。

其中Agent Sandbox能创建吞吐10万个/分钟,深休眠唤醒小于600毫秒,兼容E2B和K8s。

沙盒正在成为“新的运行时”。

云计算的主体,从虚拟机,到容器,再到模型,现在轮到Agent。谁掌握Agent的执行环境,谁就掌握了下一代云的入口。

这就导致,竞争焦点从“模型能力”转向“环境基础设施”。

“训练大模型拼算力,训练Agent拼环境”。

在GPU 之外,CPU、内存、存储、镜像分发,全都变成了新的瓶颈。

还有一点,安全从附加项的价值也变得极为重要。OpenAI、Anthropic各种模型越狱、DSec论文里Agent的作弊和内核崩溃,说的是同一件事。

沙盒如果不牢,训练信号就是假的,评估就是废的。所以像是阿里这样的厂商,会把“安全围栏”也当成卖点,DSec用AppArmor加eBPF。

沙盒厂商过去比的是快和便宜,现在开始比谁更牢固。

RSI的第一战已经开始了。想跑RSI,那你就先得有沙盒,有环境。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
双色球2026113期开奖解析!蓝球11连开两期,10注一等奖花落7地

双色球2026113期开奖解析!蓝球11连开两期,10注一等奖花落7地

有态度的网友624
2026-09-30 07:00:18
也门政府军支棱起来了,胡塞武装大败而归,伊朗担心的情况发生了

也门政府军支棱起来了,胡塞武装大败而归,伊朗担心的情况发生了

民间胡扯老哥
2026-09-29 03:33:04
确定!这些公务员编制不再招收本科生!

确定!这些公务员编制不再招收本科生!

山东教育
2026-09-28 09:16:49
小学号召每人200元“自愿捐款”为教室装空调,却在家长群“实名接龙”,家长称“不敢不捐”;教育局:已责令学校立即停止,捐款全额退回

小学号召每人200元“自愿捐款”为教室装空调,却在家长群“实名接龙”,家长称“不敢不捐”;教育局:已责令学校立即停止,捐款全额退回

扬子晚报
2026-09-30 07:35:01
2-0掀翻联盟第一!中国女篮27岁2米07王牌创黑八奇迹:辅佐三巨头冲冠

2-0掀翻联盟第一!中国女篮27岁2米07王牌创黑八奇迹:辅佐三巨头冲冠

李喜林篮球绝杀
2026-09-30 11:37:54
维达尔:拜仁为诺伊尔接班人做准备,考虑2027年引进皮克福德

维达尔:拜仁为诺伊尔接班人做准备,考虑2027年引进皮克福德

懂球帝
2026-09-29 17:30:08
正式退出!25岁孙颖莎官宣告别后,传来另一好消息,央视下场亲邀

正式退出!25岁孙颖莎官宣告别后,传来另一好消息,央视下场亲邀

小嵩
2026-09-29 08:38:18
国务院任免国家工作人员

国务院任免国家工作人员

新华社
2026-09-29 17:13:07
陪睡门主角魏莹奢靡生活曝光,豪车出行、到处旅游打卡,纸醉金迷

陪睡门主角魏莹奢靡生活曝光,豪车出行、到处旅游打卡,纸醉金迷

一曲一场談
2026-08-20 15:50:26
92米62!23岁斯里兰卡标枪手一年连夺四冠

92米62!23岁斯里兰卡标枪手一年连夺四冠

温柔且自由
2026-09-29 17:47:09
那年我开货车去甘肃送货,路上搭了个美女,她下车前拔了我车钥匙

那年我开货车去甘肃送货,路上搭了个美女,她下车前拔了我车钥匙

白云故事
2025-08-25 18:05:05
原来拉拉之间也是要彩礼的,网友说:那个拉拉无助的像个男人!

原来拉拉之间也是要彩礼的,网友说:那个拉拉无助的像个男人!

黯泉
2026-09-29 18:36:26
知名医院官宣放假:中秋、国庆停诊10天!多地探索落实医务人员休假权益

知名医院官宣放假:中秋、国庆停诊10天!多地探索落实医务人员休假权益

华医网
2026-09-30 05:42:10
胡蝶被戴笠软禁多年,晚年却坦言:他对我很好,我永远不会忘记他

胡蝶被戴笠软禁多年,晚年却坦言:他对我很好,我永远不会忘记他

大运河时空
2026-09-29 10:55:05
别克新车正式官宣:10月10日,正式上市  !

别克新车正式官宣:10月10日,正式上市 !

科技堡垒
2026-09-30 00:33:54
画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

易玄
2026-09-12 10:24:46
衣不蔽体、医美成性,41岁戚薇会走到如今的境地,根本怪不了别人

衣不蔽体、医美成性,41岁戚薇会走到如今的境地,根本怪不了别人

眉眼动人
2026-09-28 18:46:08
闹大了!乒协官网祝贺王曼昱遭围攻,冲上热搜,7.3亿阅读量

闹大了!乒协官网祝贺王曼昱遭围攻,冲上热搜,7.3亿阅读量

小鞄搞笑解说
2026-09-30 12:02:54
张继科道出看法:孙颖莎不止是顶尖选手,她自身便是一条水平线

张继科道出看法:孙颖莎不止是顶尖选手,她自身便是一条水平线

老娱记啊
2026-09-27 15:41:02
空姐下跪。

空姐下跪。

停机坪
2026-09-29 18:11:11
2026-09-30 13:36:49
字母榜 incentive-icons
字母榜
让未来不止于大。
2819文章数 8094关注度
往期回顾 全部

科技要闻

OpenAI凌晨大上新!新助手dots迎战Muse

头条要闻

疑妙瓦底电诈园新据点卫星图公开 建筑群迅速"繁殖"

头条要闻

疑妙瓦底电诈园新据点卫星图公开 建筑群迅速"繁殖"

体育要闻

石雨豪:亚运金牌与背后的十年

娱乐要闻

金鹰这夜,演员争辉,有惊喜,反差

财经要闻

中央财政首次贴息房贷 定向支持首套刚需

汽车要闻

5.1米大车跑云南盘山路,海狮08试驾体验超预期

态度原创

数码
旅游
手机
教育
艺术

数码要闻

影目Air 3智能眼镜在美召回:镜腿过热存在烫伤风险

旅游要闻

徐州汉文化旅游节经开区分会场启幕,促消费惠民福利同步加码

手机要闻

太坑粉!苹果SiriAI支持名单出炉,大批老机型直接被砍,果粉心寒

教育要闻

课堂、资源、平台三端发力,天府新区构建数字思政工作体系

艺术要闻

40岁,她改造170㎡复式房送自己:一个人生活也很精彩

无障碍浏览 进入关怀版