网易首页 > 网易号 > 正文 申请入驻

登顶RoboChallenge Table30!LoopWAM开源,与pi的部署自进化理念不谋而合

0
分享至



项目主页:https://loop-wam.github.io

论文原文:https://arxiv.org/abs/2610.18873

开源代码:https://github.com/loop-wam/LoopWAM

近日,由清华大学、原力灵机与极寰时代联合研发的世界动作模型LoopWAM,登顶真机评测榜单RoboChallenge Table30 V2,成功率与过程分双双位列榜首,成绩超过VLA-DM0.5等同期方案。同时,LoopWAM在仿真榜单RoboTwin 2.0和RoboCasa365上同样取得SOTA表现。

LoopWAM在所有榜单评测中使用的模型,均由国产卡阿里云 PPU-810E训练,非NVIDIA系列卡。

这一成绩背后,是一条从真实部署中持续学习的技术路线:让成功、次优和失败经验共同拓展世界模型的学习范围,增强对任务过程和动作后果的理解,再通过质量引导提升动作生成,使机器人在下一轮部署时做得更好。

从仅使用专家演示训练的初始模型出发,经过三轮部署与训练,LoopWAM的整体成功率提高了约19.7个百分点,相对提升约83%,过程分也从36.10提升至56.80。

让真实部署经验成为下一轮进步的起点,是LoopWAM此次登顶的关键。

这种从真实部署反馈中持续迭代的思路,与Physical Intelligence近日发布的PI API workflow不谋而合:通过“数据上传—模型微调—机器人部署—评估与数据收集”的循环推进能力提升。LoopWAM则在部署数据的利用上更进一步:闭环更新无需额外采集专家演示,也无需引入强化学习,而是发挥世界模型从动作与环境变化中学习的特点,将成功、次优和失败的rollout轨迹全部纳入视频预测训练,再通过质量steering与加权动作监督提升动作生成质量,让部署经验本身成为持续自提升的来源。


图1 PI API(来源:Physical Intelligence)


01

30项真机任务检验综合能力

RoboChallenge Table30 V2覆盖ALOHA、DOS-W1、ARX5和UR5四种机器人本体,包含物品整理、工具使用、精细操作和双臂协同等多类任务。


图2 RoboChallenge 多任务可视化


真实操作中的挑战,存在于每一次接触与运动之中:能否选对目标,能否稳定抓取,能否把工具用到位,又能否连续完成多个操作步骤。Table30 V2通过成功率和过程分,分别衡量任务完成情况与执行过程的完成质量。

在本次评测中,LoopWAM在11项任务上的成功率达到60%及以上,9项任务过程分达到80分及以上。几组具体成绩,让模型能力更加直观:

  • 整理水果、物品分类、取出绿色积木:成功率均为100%
  • 用小勺舀取物体:成功率90%,过程分92
  • 按下按钮:成功率80%,过程分92.5
  • 堆叠碗具:成功率80%,过程分89

从辨认目标、完成分类,到操作工具、推进多阶段任务,高分表现分布在不同本体和任务类型上,共同支撑了LoopWAM的综合成绩。

02

让成功与失败经验进入学习闭环

登顶背后,LoopWAM关注的是一个直接影响机器人持续进步的问题:真实部署中积累的经验,怎样才能被用好?

专家演示为机器人提供了优质的学习起点。但进入真实环境后,机器人会遇到演示之外的状态:抓取发生偏移、物体意外滑落、工具接触不充分,或者任务只完成了一部分。

这些部署轨迹包含了丰富的物理交互信息,也混杂着质量不同的动作。把所有动作都当作模仿目标,可能强化不理想的行为;只保留成功轨迹,又会丢掉大量关于动作及其后果的经验。

LoopWAM由此提出一种闭环世界动作模型:把成功、次优与失败经验纳入统一训练,用更广泛的真实交互增强世界建模,再通过质量引导和动作监督加权,让策略吸收经验的同时保持对高质量行为的偏向。


图3 LoopWAM闭环自提升


这项工作的完整名称是LoopWAM: Closed-Loop Generalist Policy Improvement from Deployment Rollouts。贯穿其中的流程可以概括为:

部署 → 收集成功、次优与失败轨迹 → 质量感知训练 → 再部署。

每一轮新经验都会与专家演示和此前积累的轨迹共同进入训练,形成持续迭代的闭环。

03

支撑闭环自提升的关键技术

LoopWAM围绕一个目标展开:充分利用真实部署中的各种经验,增强世界模型对任务与物理交互的理解,并将这种理解转化为更高质量的动作。为此,它把数据分布扩展、动作条件世界建模、视频与动作联合生成,以及质量感知学习结合起来。LoopWAM以Wan2.2-TI2V-5B预训练视频模型为基础,构建视频与动作双分支架构,联合预测同一时间范围内的未来画面与机器人动作。


图4 LoopWAM方法


吸收更多真实部署数据,拓展世界模型的学习范围

专家演示提供完成任务的优质路径,真实部署则带来更广泛的状态、动作及其结果。LoopWAM将成功、次优和失败轨迹都纳入训练,保留所有质量轨迹的视频预测监督。更丰富的交互过程由此成为世界模型的学习材料,拓展其对环境变化和物理交互的表征能力。

强化ACWM,让模型学清动作带来的后果

LoopWAM在同一世界动作模型中强化动作条件世界建模(Action-Conditioned World Modeling,ACWM):利用已执行的动作,预测它们对应的视觉结果。其关键是来源相关的噪声采样,分别控制视频与动作在训练中的噪声水平。

对于专家演示,模型从较强噪声中恢复专家执行对应的未来画面,同时学习动作生成,让模型能够学到如何完成任务。对于部署轨迹,则对动作施加较小的噪声,保留更多动作信息,让视频分支据此学习动作会引起的环境变化。即使任务没有完成,动作与结果之间的联系仍能用于训练,促进预测视频与生成动作在行为及结果上的一致性。

让世界建模直接参与动作生成

在同一次联合去噪过程中,视频与动作信息通过每一层的双向注意力持续交互。丰富的视频预测监督帮助模型学到更好的物理世界表征和动作后果知识,二者共同支持动作生成:模型既学习“任务怎样最优完成”,也学习“生成的动作会怎样改变环境”,让世界模型更充分地支持机器人控制。

区分数据质量,引导生成高质量动作

为了让模型在吸收更多经验的同时清楚行为优劣,LoopWAM为轨迹赋予质量分数,并将质量条件加入任务指令,通过质量steering的方式驱动视频与动作分支。训练时,模型学习同一任务下不同质量的行为分布;真实部署时,指定专家质量条件,将生成引导到高质量行为分布。

质量条件之外,LoopWAM还根据轨迹质量调整动作监督的权重。在所有轨迹都保留完整视频预测监督的同时:

  • 专家轨迹提供完整的动作监督。
  • 次优轨迹按质量加权,降低对较差动作的模仿强度。
  • 失败轨迹的直接动作监督权重设为零,其真实交互后果仍用于世界建模。

质量steering负责区分不同的行为分布,监督权重决定各类动作被模仿的程度。二者共同作用,让模型从更广泛的经验中学习世界,并引导动作生成偏向高质量行为,支持真实部署的闭环自提升。


图5 四项任务的视频预测


上面的动图展示了整理水果、收纳笔、堆叠碗具和滚筒除尘四项任务上的视频预测效果。每组左侧是机器人执行时的真实观测(Obs),右侧是模型预测(Pred)。对照可见,预测视频能够反映机械臂运动、物体移动和操作进程,直观呈现了视频和动作预测在主要运动和操作进程上的一致性。

这种一致性由训练与生成机制共同促进:训练时,丰富的交互数据提供动作与实际结果之间的对应关系,来源相关的噪声采样强化ACWM,使模型学习动作会引起的环境变化;生成时,视频与动作在同一次联合去噪中通过双向注意力持续交换信息,让对未来的预测与正在生成的动作相互关联。

04

三轮部署带来持续提升

闭环是否有效,可以直接看三轮部署的变化。在覆盖30项任务的Table30 V2实验中,LoopWAM持续吸收自身的真实部署经验,并通过三轮闭环更新提升多任务表现。

整体成功率:23.67% → 28.00% → 37.67% → 43.33%。

过程分:36.10 → 42.63 → 51.65 → 56.80。


图6 多任务自提升


三轮更新中,两项总体指标每轮均有提高。这组结果表明,LoopWAM能够将自身在多任务环境中积累的部署经验,转化为后续策略改进。

05

叠衣服任务中的持续自提升

面对困难单任务的后训练,LoopWAM同样能够利用真实部署经验持续提升。在叠衣服任务上,LoopWAM能够从随意丢到机器人面前、杂乱的衣物开始操作。衣物的初始状态混乱且复杂多样:褶皱与堆叠会遮住衣角,适合抓取的位置也随姿态变化而变化。

机器人需要先在混乱状态下寻找合适的抓取位置,通过反复抓取与逐步展开,让衣物边角暴露出来,再抓住衣角完成后续折叠。衣物会随着操作不断变形,这要求模型根据每一步的实际变化持续调整动作。

LoopWAM从多任务模型出发,先使用新采集的专家叠衣演示进行单任务后训练,再开展两轮部署驱动的自提升。

叠衬衫成功率由13.20%提升至32.54%,最终达到55.56%;过程分从14.44提升至67.78。


图7 叠衣服后训练自提升



图8 叠衣服效果展示(操作部分10倍速)


这说明,在模型已经针对一个困难任务完成适配后,继续利用真实执行反馈,仍然能够带来明显增益。

06

在仿真基准中进一步验证

在两个仿真基准上,LoopWAM进一步验证了更广泛意义下的自提升:模型更新可以利用任意已部署策略产生的轨迹,即使这些策略的表现较差。来自不同策略的部署经验扩展了可学习的状态、动作与结果分布,LoopWAM通过质量感知训练从中学习世界变化,并引导动作生成偏向高质量行为。

在包含50项双臂任务的RoboTwin 2.0上,LoopWAM取得94.5%的平均成功率,其中标准环境约94.6%,域随机化环境约94.4%,所有指标超过LingBot-VA 2.0等方法,取得SOTA。


图9 RoboTwin 2.0评测结果


在RoboCasa365的50项任务评测中,LoopWAM取得49.5%的总体成功率,高于ABot-M0.6的46.6%。对于同时排除在专家训练数据和部署训练数据之外的16项未见组合任务,模型也取得了14.9%的成功率,展示了对未见任务组合的迁移能力。


图10 RoboCasa365评测结果


这两组实验均未进行额外的具身数据预训练,而是在预训练视频模型基础上,利用专家演示与部署轨迹进行学习。结合真实机器人实验,LoopWAM在真实与仿真的三个基准上均取得了最优成绩,为混合质量部署经验的利用价值提供了充分证据。

让每一次真实部署都带来可学习的经验,在真实部署中持续自提升,这是LoopWAM希望持续推进的方向。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
国内高校究竟怎么了,居然有近七成青年教师都想辞职!有学者把青椒比作“工蜂” ,负担整个蜂群最重的劳动,却分不到多少蜜!

国内高校究竟怎么了,居然有近七成青年教师都想辞职!有学者把青椒比作“工蜂” ,负担整个蜂群最重的劳动,却分不到多少蜜!

学术眺望
2026-10-20 14:25:03
以色列总理下令推翻伊朗政权

以色列总理下令推翻伊朗政权

每日经济新闻
2026-10-20 09:11:20
特朗普:法国骚乱的原因在移民,他们既不爱法国建筑,也不爱法国艺术,我早就叫马克龙关闭边境他不听

特朗普:法国骚乱的原因在移民,他们既不爱法国建筑,也不爱法国艺术,我早就叫马克龙关闭边境他不听

极目新闻
2026-10-20 11:08:07
泽连斯基:希望美方不要干涉乌克兰选举问题

泽连斯基:希望美方不要干涉乌克兰选举问题

界面新闻
2026-10-20 19:30:33
流浪宠物爱心博主感染罕见真菌病逝,年仅27岁,丈夫:妻子在ICU抢救了22天,她随时带着猫狗粮,走到哪里看到流浪猫狗都会喂

流浪宠物爱心博主感染罕见真菌病逝,年仅27岁,丈夫:妻子在ICU抢救了22天,她随时带着猫狗粮,走到哪里看到流浪猫狗都会喂

芒果都市
2026-10-20 15:15:51
越算越紧的养老账!企业职工养老保险八成靠保险费,机关事业单位四成靠财政

越算越紧的养老账!企业职工养老保险八成靠保险费,机关事业单位四成靠财政

可达鸭面面观
2026-10-20 17:18:44
事态升级!解放军锐评旭日旗事件,陈某迎四大噩耗,不止遣返那么简单

事态升级!解放军锐评旭日旗事件,陈某迎四大噩耗,不止遣返那么简单

秋枫凋零
2026-10-20 16:26:07
为什么大家宁愿在路边等网约车,也不愿意去坐就在路边的出租车?

为什么大家宁愿在路边等网约车,也不愿意去坐就在路边的出租车?

抽象派大师
2026-10-20 08:10:46
女子约男网友缠绵3天,网友嫌太累要收她7万,2014年她嫌要的多被杀

女子约男网友缠绵3天,网友嫌太累要收她7万,2014年她嫌要的多被杀

汉史趣闻
2026-10-19 20:07:58
0-5落后,连胜7局翻盘!WTA再现郑钦文式奇迹,年终8强已尘埃落定

0-5落后,连胜7局翻盘!WTA再现郑钦文式奇迹,年终8强已尘埃落定

侃球熊弟
2026-10-20 19:04:50
炸裂!章子怡套现巨款走人

炸裂!章子怡套现巨款走人

新浪财经
2026-10-18 21:45:22
太前卫了!学生情侣约定开房一人一次承担房费,男方多次清算订房记录,女生哭诉经济压力大,聊天记录流出

太前卫了!学生情侣约定开房一人一次承担房费,男方多次清算订房记录,女生哭诉经济压力大,聊天记录流出

火山詩话
2026-10-19 07:59:53
人情薄如纸,河南女子在浙江被朋友做局欠下220万,债务逾期后,亲戚朋友全部远离,如今无家可归

人情薄如纸,河南女子在浙江被朋友做局欠下220万,债务逾期后,亲戚朋友全部远离,如今无家可归

捣蛋窝
2026-10-20 08:56:07
伊尔汗.奥马尔被查,奥巴马坐不住了

伊尔汗.奥马尔被查,奥巴马坐不住了

南文视界
2026-10-20 12:58:28
四川省纪委监委通报:攀枝花市公安局党委委员、副局长蒋光红被查

四川省纪委监委通报:攀枝花市公安局党委委员、副局长蒋光红被查

封面新闻
2026-10-20 19:20:05
女子称“不想伤母亲”求男方配合演完婚礼,事后分手用“已办婚礼”为由少退彩礼8.8万

女子称“不想伤母亲”求男方配合演完婚礼,事后分手用“已办婚礼”为由少退彩礼8.8万

不掉线电波
2026-10-20 17:57:01
蒋万安6选区全都大幅落后沈伯洋,王世坚:合乎情理,意料之中

蒋万安6选区全都大幅落后沈伯洋,王世坚:合乎情理,意料之中

金牛传声
2026-10-20 13:26:54
00后小伙踩着自制飞行滑板飞越长江被质疑是AI,本人辟谣,景区回应

00后小伙踩着自制飞行滑板飞越长江被质疑是AI,本人辟谣,景区回应

界面新闻
2026-10-20 19:58:28
大破防!华裔二代怒撕父母:你们当初移民美国,我们错过中国发展

大破防!华裔二代怒撕父母:你们当初移民美国,我们错过中国发展

北纬的咖啡豆
2026-10-19 14:39:50
张铁林聚餐照曝光!叼大烟斗,桌上摆满老北京铜锅涮肉

张铁林聚餐照曝光!叼大烟斗,桌上摆满老北京铜锅涮肉

草莓解说体育
2026-10-19 06:44:09
2026-10-20 23:35:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14254文章数 142748关注度
往期回顾 全部

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

00后小伙踩自制飞行滑板飞越长江被质疑是AI 景区回应

头条要闻

00后小伙踩自制飞行滑板飞越长江被质疑是AI 景区回应

体育要闻

巴拉克:天生亚军与漫长极夜

娱乐要闻

刘恺威承认新恋情,打球认识

财经要闻

抄底万达之后 私募大佬又对恒大下手了

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

教育
时尚
健康
本地
手机

教育要闻

华中师范大学2027届保研数据:两个交叉班50%并列第一,师范班集体被反超

献祭奚梦瑶9年后,维密悄悄赚翻了

痘痘能根治吗?皮肤科医生说实话

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

手机要闻

剑指苹果iPhone Duo:三星2027最豪华折叠手机阵容曝光,共计6款

无障碍浏览 进入关怀版