网易首页 > 网易号 > 正文 申请入驻

ICRA 2026 | 首个 36 自由度双臂灵巧操作 VLA 模型,开源!

0
分享至

原文作者:公众号“深蓝具身智能”

原文链接:https://mp.weixin.qq.com/s/yGE3tLQywqf4wvsOlj6WxA


同时支持双臂协同、双灵巧手高自由度精细操作

——端到端VLA模型

过往主流VLA系统,要么聚焦双臂低自由度夹爪控制,要么专攻单臂高自由度灵巧手操作,始终无法兼顾双臂协同与精细手指动作的双重需求。

比如活塞插入需双臂精准配合,拧瓶盖、精细取物则依赖多指灵活调控,这类任务长期缺乏统一的VLA解决方案。

近日,首个原生面向双臂双高自由度(36自由度)灵巧操作的开源VLA模型:Dexora,打破此前VLA的形态壁垒,为通用灵巧机器人的落地提供了全新范式。


硬件与遥操作:虚实协同的灵巧数据底座

高自由度灵巧操作的核心前提,是精准、可规模化的数据采集。Dexora摒弃单一遥操作方案,打造“外骨骼+VR”混合遥操作系统,同时驱动物理机器人与MuJoCo数字孪生,从根源解决数据采集的精度与规模难题。


▲Dex 硬件与混合遥操作系统示意图©【深蓝具身智能】编译

  • 硬件层面,Dexora搭载两台6自由度AIRBOT机械臂与一对12自由度XHAND灵巧手,单只手12个关节独立驱动,拇指与食指支持侧摆动作。

可实现扭转、捏取等类人精细操作,整套系统总计36自由度,为复杂双手协同任务提供硬件基础。

  • 遥操作设计上,采用“大动作+小动作”分离策略:

定制外骨骼背包捕捉机械臂整体运动(无漂移、低延迟),Apple Vision Pro实现无标记手指追踪,兼顾手臂大范围移动的稳定性与手指精细动作的灵活性。


▲仿真 / 真实数据集物体与任务分布示意图©【深蓝具身智能】编译

更关键的是虚实同步设计:

遥操作指令同时下发物理机器人与数字孪生,两者传感器数据(4路RGB、36自由度关节状态)20Hz同步记录。

既保障真实场景数据的真实性,又能在仿真中低成本扩展任务场景,形成“真实+仿真”互补的数据集。

最终构建的数据集包含10万条仿真轨迹(650万帧)、1万条真实遥操作轨迹(292万帧),覆盖30类仿真物体、17类真实物体,兼顾基础抓取与精细灵巧任务。


模型架构:扩散Transformer+质量判别器双核心

Dexora基于数据质量感知的端到端VLA架构,通过扩散Transformer生成动作,搭配离线质量判别器过滤噪声数据,解决遥操作数据质量参差不齐、高维动作训练不稳定的行业痛点。


▲Dexora 整体总览图(动机 / 数据 / 架构 / 性能 / 泛化)©【深蓝具身智能】编译

扩散Transformer策略网络

采用解码器-only扩散Transformer作为策略核心,输入多视角RGB图像、语言指令与当前关节状态,输出36自由度连续动作序列。

模型采用T5编码语言指令、SigLip编码图像特征,交替注入Transformer块,通过去噪预测生成动作,兼顾多模态融合能力与高维动作建模精度。

数据质量判别器

遥操作数据常因操作误差、传感器噪声存在低质量轨迹,直接训练会拉低模型性能。

Dexora设计离线判别器,通过“运动平滑度+任务成功率”双重标准筛选数据:

  • 预筛选:计算轨迹加速度、抖动值,保留运动平稳的样本;

  • 后验证:重放轨迹,保留无碰撞、任务成功的样本。

判别器以冻结的预训练策略为基准,预测轨迹质量得分(0-1),训练时将得分转化为权重,高质量轨迹权重高、低质量轨迹权重低,公式简化为:

其中为质量权重,为预测噪声,为真实噪声。这种设计让模型聚焦有效数据,大幅提升高维灵巧动作的训练稳定性。


训练流程:三阶段渐进式优化

Dexora采用“仿真预训练+判别器训练+真实微调”三阶段训练,平衡基础能力与灵巧技能,实现从仿真到真实的平滑迁移。


▲Dex 数据过滤、判别器训练、质量感知训练框架图©【深蓝具身智能】编译

第一阶段,10万仿真轨迹预训练,让模型掌握抓取、组装等基础操作,形成初始动作生成能力;

第二阶段,用筛选后的高质量真实数据训练判别器,使其精准识别轨迹优劣;

第三阶段,用全部真实数据微调策略,通过质量权重引导,让模型从基础能力进阶到拧瓶盖、精细取物等灵巧技能。


性能与泛化

实验结果显示,Dexora在基础任务、灵巧任务、跨形态泛化三大维度均实现突破,验证了双臂双高自由度设计与质量感知训练的有效性。


▲基础任务示例图©【深蓝具身智能】编译


▲基础任务成功率对比表©【深蓝具身智能】编译

  • 基础任务(抓取、组装、关节操作):

平均成功率达89.6%,12项任务中7项成功率超90%,双臂协同任务(如双手递物、嵌套碗分离)优势显著,远超GR00T N1(82.1%)、π0(50.4%)等基线。


▲灵巧任务示例图©【深蓝具身智能】编译


▲灵巧任务成功率对比表©【深蓝具身智能】编译

  • 灵巧任务(拧瓶盖、用钢笔、切韭菜等):

平均成功率66.7%,较最优基线GR00T N1(51.7%)提升15个百分点,尤其在拧瓶盖、精细面团操作等需要双手配合+多指调控的任务中,基线几乎失效,Dexora仍能稳定完成。


▲分布外泛化性能图©【深蓝具身智能】编译

  • 泛化能力:

一是分布外泛化,在未知背景、光照、物体、遮挡等场景下,成功率仅小幅下降,鲁棒性强;

二是跨形态迁移,36自由度模型可直接适配单臂夹爪、双臂夹爪、单臂低自由度手,无需重新训练,仅需适配动作维度,打破VLA的形态依赖。


▲基础任务成功率对比表©【深蓝具身智能】编译

消融实验证,质量判别器可降低动作抖动,提升任务稳定性,证明“真实数据+质量感知”是灵巧VLA的核心要素。


▲质量判别器效果对比轨迹图©【深蓝具身智能】编译


灵巧VLA:价值与局限并存

Dexora是首个原生双臂双高自由度VLA,证明高自由度模型可向下兼容低自由度设备,为通用机器人提供“高维训练、低维部署”新思路。

虚实协同采集+质量感知训练,解决灵巧数据稀缺、噪声大的难题,为高维VLA数据建设提供参考。


▲Dexora 与主流 VLA 的形态覆盖对比图©【深蓝具身智能】编译

同时,存在的局限在于:

硬件依赖:36自由度系统成本高,难以快速普及,且无触觉反馈,拧瓶盖等接触敏感任务成功率仍低。

任务局限:复杂长时序任务(如多步骤装配)、动态环境适应能力不足。

泛化边界:跨材质、极端场景的稳定性有待提升。

过往VLA要么“能双手不精细”,要么“能精细不双手”。

Dexora首次将两者统一,用开源模式降低门槛,为服务机器人、工业灵巧操作等场景提供可行方案。

未来,若能融合触觉反馈、强化长时序推理,Dexora有望进一步缩小与人类操作的差距,推动通用灵巧机器人从实验室走向实际应用。

Ref

论文标题:Dexora: Open-source VLA for High-DoF Bimanual Dexterity

论文作者:Zongzheng Zhang, Jingrui Pang, Zhuo Yang, Kun Li, Minwen Liao, Saining Zhang, Guoxuan Chi, Jinbang Guo, Huan-ang Gao, Modi Shi, Dongyun Ge, Yao Mu, Jiayuan Gu, Rui Chen, Hao Dong, Huazhe Xu, Li Yi, Yixin Zhu, Hang Zhao, Pengwei Wang, Shanghang Zhang, Guocai Yao, Jianyu Chen, Hongyang Li, Hao Zhao

论文链接:https://arxiv.org/pdf/2605.18722

项目链接:https://dexoravla.github.io/

雷峰网

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
姬鹏飞为儿子求情,偏偏找上最不该找的人,对方怒斥:你儿子是军中败类!

姬鹏飞为儿子求情,偏偏找上最不该找的人,对方怒斥:你儿子是军中败类!

凉州辞
2026-09-10 13:00:03
阿森纳多次拒绝卢顿租借请求,16岁新星不外放

阿森纳多次拒绝卢顿租借请求,16岁新星不外放

坠入温柔晚风
2026-09-17 04:05:21
俄罗斯学者曾表示:若败给西方,将向中国归还150万平方公里土地

俄罗斯学者曾表示:若败给西方,将向中国归还150万平方公里土地

牛马搞笑
2026-09-16 01:44:34
长征结束后,周恩来才向毛主席坦白一事,毛怒道:我当面问贺子珍

长征结束后,周恩来才向毛主席坦白一事,毛怒道:我当面问贺子珍

顾秋韵
2026-09-16 13:13:23
交锋 最大反转 被全队怀疑的马憩 竟用一缕棉絮钓出潜伏20年的北风

交锋 最大反转 被全队怀疑的马憩 竟用一缕棉絮钓出潜伏20年的北风

动物奇奇怪怪
2026-09-16 10:58:07
峰学蔚来武亮宣布中秋国庆连休23天,每个老师送3套冲锋衣,“自己和父母各一件,放假出去玩刚好”,武亮假期将前往张雪峰老家齐齐哈尔

峰学蔚来武亮宣布中秋国庆连休23天,每个老师送3套冲锋衣,“自己和父母各一件,放假出去玩刚好”,武亮假期将前往张雪峰老家齐齐哈尔

极目新闻
2026-09-16 15:14:09
中国正式改口!以后不叫“日本政府”了,新称呼传递的信号不一般

中国正式改口!以后不叫“日本政府”了,新称呼传递的信号不一般

潘冹旅行浪子
2026-06-23 00:04:49
王凯、欧豪、彭昱畅主演电视剧,引发两岸热议!国台办回应

王凯、欧豪、彭昱畅主演电视剧,引发两岸热议!国台办回应

南方都市报
2026-09-16 11:00:23
郭宋玉任福建省民政厅党组书记

郭宋玉任福建省民政厅党组书记

金台资讯
2026-09-16 21:36:39
马斯克:西方不搞电车,欧日韩集体拥抱氢能,中国电动车错了没?

马斯克:西方不搞电车,欧日韩集体拥抱氢能,中国电动车错了没?

天天热点见闻
2026-09-16 06:57:47
中国又一超级王牌,比稀土稀缺100倍!或将领导新一轮半导体革命

中国又一超级王牌,比稀土稀缺100倍!或将领导新一轮半导体革命

至死不渝的爱情
2026-09-16 03:56:45
提醒:煮熟也有毒,一口都别吃,很多家庭天天吃,看完赶紧扔掉

提醒:煮熟也有毒,一口都别吃,很多家庭天天吃,看完赶紧扔掉

观星赏月
2026-09-11 06:31:51
她为嫁中国男人被全网骂惨,如今的日子打了谁的脸?

她为嫁中国男人被全网骂惨,如今的日子打了谁的脸?

小椰的奶奶
2026-09-16 15:47:41
【减持速览】9月16号这些公司减持了

【减持速览】9月16号这些公司减持了

市值财经
2026-09-16 20:26:38
世界杯出局仍获最高分!20岁美女国门6次神扑难救主 采访哽咽落泪

世界杯出局仍获最高分!20岁美女国门6次神扑难救主 采访哽咽落泪

我爱英超
2026-09-17 03:46:55
一个让我醍醐灌顶的消费观:凡是使用时间超过1000小时以上的东西

一个让我醍醐灌顶的消费观:凡是使用时间超过1000小时以上的东西

说故事的阿袭
2026-09-16 01:20:37
在江浙沪,普通人的消费降级到什么程度了?

在江浙沪,普通人的消费降级到什么程度了?

经济学教授V
2026-09-09 19:23:37
发不出工资,很多单位开始“不择手段”了

发不出工资,很多单位开始“不择手段”了

细说职场
2026-09-16 21:27:44
11岁夏洛特身高猛蹿!和凯特同框快齐平,网友:女王影子回来了

11岁夏洛特身高猛蹿!和凯特同框快齐平,网友:女王影子回来了

影视情报室
2026-09-16 19:12:31
多问一嘴真的能改变命运!网友:真心佩服这种脑子灵光转得快的人

多问一嘴真的能改变命运!网友:真心佩服这种脑子灵光转得快的人

夜深爱杂谈
2026-09-09 20:42:11
2026-09-17 05:32:49
雷峰网 incentive-icons
雷峰网
关注智能与未来!
71003文章数 656239关注度
往期回顾 全部

科技要闻

赛力斯接管问界,撑得住华为给的身价吗?

头条要闻

3000万房产要拆迁 女子意外发现丈夫有16岁私生子

头条要闻

3000万房产要拆迁 女子意外发现丈夫有16岁私生子

体育要闻

对话西甲联盟高管:西班牙足球到底强在哪?

娱乐要闻

乔任梁去世十周年,陈乔恩悼念

财经要闻

邢自强:中美AI决胜点不在算力

汽车要闻

激光雷达+EVA机器人+爆胎稳行 星瑞L PLUS预售限时价11.57万起

态度原创

艺术
旅游
教育
家居
公开课

艺术要闻

这才是国画!刘佰玥“西遇”山水,治好了我的精神内耗!

旅游要闻

环球度假区将增加两项全新体验

教育要闻

南京高三零模,明天开考!

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版