网易首页 > 网易号 > 正文 申请入驻

通用机器人迎来“珠峰级”考试:人类登顶满分,最强AI还在山脚

0
分享至


具身智能时代,通用机器人策略距离“登顶”还有多远?现有基准仍难以回答这个问题。

不少基准依赖简单、短程或技能范围狭窄的任务;仿真评估效率高、易扩展,但难以反映真实物理部署能力;真实世界评估更接近实际部署,却成本高、耗时长,也更难复现。

针对这一问题,来自香港大学、加州大学伯克利分校、清华大学、北京大学等联合研究团队提出了面向仿真与真实世界的统一评估基准 RoboDojo,覆盖多样、长时程、精度要求高、依赖记忆和开放式的操作场景。


论文链接:https://arxiv.org/abs/2607.04434

实验结果显示,现有通用机器人操作策略还远谈不上可靠:即便是当前 SOTA 模型,也难以稳定完成 RoboDojo 中的复杂任务,在真实世界部署中成功率仅 12.8%,远低于人类遥操作的满分表现。

基于这些结果,研究团队建立了公开排行榜,系统分析了当前策略在仿真与真实世界中的局限,并提出了未来通用操作策略的关键方向。


图|RoboDojo 概览。

RoboDojo:统一的机器人评估基准

整体来看,RoboDojo 以五类核心操作能力定义仿真基准,并由仿真评估平台、真实世界评估平台和 XPolicyLab 共同完成任务构建、策略训练、部署与评估。


图|RoboDojo 任务概览。

仿真基准覆盖五类核心操作能力:泛化、记忆、长程执行、精细控制与开放指令理解,并通过 42 个任务系统诊断策略在不同操作能力上的短板。

  • 泛化任务测试策略对未见背景、光照、目标和杂物的适应能力;
  • 记忆任务考察历史信息利用;
  • 长程任务评估策略完成多步骤操作序列的能力;
  • 精细控制任务聚焦窄孔插入等高精度接触操作;
  • 开放任务测试策略能否将已学技能迁移到未见语言指令和新目标。

从系统构成来看,RoboDojo 由仿真评估平台、真实世界评估平台和 XPolicyLab 三部分构成,具体如下:

仿真平台:负责任务构建、资产生成、并行评估和数据采集。任务和场景通过配置文件定义,不同物体被构建为数字孪生资产;评估时,平台可并行运行多个场景以提升效率;采集数据时,简单任务可自动生成轨迹,复杂任务则通过 VR 遥操作获取高质量示范。


图|RoboDojo 中的技能多样性。

真实世界评估:强调可复现性,通过统一硬件、工作空间、光照、场景重置和评估协议,减少真实机器人实验中的偶然因素;RoboDojo-RealEval 则借助触摸屏界面和布局叠加机制,规范任务重置与执行流程。


图|真实世界任务亮点。

XPolicyLab:统一策略开发、训练、评估与部署流程,并通过标准化数据转换、训练模板、部署流程和 observation-action 接口,降低策略接入成本。

此外,RoboDojo 还设立了仿真与真实世界双榜单:仿真榜单围绕五类能力反复评估,并以资深 VR 遥操作员为人类参考;真实世界榜单基于 RoboDojo-RealEval,在 3 种机器人本体、18 个任务上评估 10 个代表性策略,统一重置、部署与评分协议。


图|RoboDojo-RealEval 系统概览。

RoboDojo 的评测结果如何?

研究团队发现,现有通用机器人操作策略整体仍不可靠:即便是当前领先模型,也与人类专家存在显著差距,且仿真中的优势未必能延续到真实部署中。不过,RoboDojo 本身具备较好的评估效率和可复现性。具体结果如下:

1.仿真结果

目前领先策略仍远低于人类水平:目前领先模型包括 Hy-Embodied-0.5-VLA、Spatial Forcing、π0.5、X-VLA 等,但最佳策略平均成功率仅 8.80%、平均分 13.07,远低于人类专家的 76.03% 和 80.42 分,说明现有策略距离稳定完成任务仍有巨大差距。


图| RoboDojo 仿真基准排行榜。

不同模型能力发展不均衡:Spatial Forcing 更擅长泛化,X-VLA 在精细操作上领先,π0.5 在开放任务上相对更强,Hy-Embodied-0.5-VLA 则在长程执行、记忆和总体表现上最好;但这些优势多局限于单一维度,难以覆盖完整任务集。即使在表现较好的泛化和长程维度,最佳成功率也不足 15%,精细控制、记忆和开放指令理解仍是短板。

泛化方面,场景随机化会显著削弱策略表现:Hy-Embodied-0.5-VLA 在标准场景下领先,但随机化后下降 92.9%;Spatial Forcing 在随机场景下相对更稳,但绝对表现仍很低。当前策略对视觉和空间分布变化高度敏感,可靠泛化仍需要更稳定的控制、闭环校正和失败恢复能力。


图|标准与随机化视觉设置下的策略性能。

长程执行方面:动作先验、具身预训练和空间 grounding 带来的提升仍然有限。Hy- Embodied-0.5-VLA、π0.5 和 Spatial Forcing 成功率接近 15%,说明模型能推进部分多步任务;但最佳成功率仍不足 15%,且分数高于成功率,模型常能推进前期步骤,但难以稳定完成最终目标,技能组合、阶段决策和错误恢复能力仍不足。

精细控制方面:X-VLA 表现最好,成功率 12.00%、分数 18.32,但仍远未达到可靠水平。Hy-Embodied-0.5-VLA 虽总体最佳,却在该维度落后于 X-VLA 和 Spatial Forcing,说明整体表现不能直接转化为局部精细控制;三维定位、平滑动作预测和闭环接触控制仍是短板。

记忆方面:当前策略仍难以有效利用历史信息完成后续操作。Hy-Embodied-0.5-VLA 表现最好,具身预训练和动作先验有助于利用历史信息;但 EventVLA 的显式记忆设计和 X-WAM 的隐式时间记忆都未能带来稳定成功,表明记忆能力仍难以转化为可靠控制。

开放语义操作方面:当前策略仍难以应对开放指令和新目标。即使表现最好的 π0.5,成功率也仅 1.67%、分数 1.98。强视觉-语言骨干虽能提升感知和语言理解,但尚不能稳定对齐开放指令、视觉 affordance 与可执行动作,语义目标到机器人行为的转化仍是关键短板。

2.真实世界结果

真实世界部署方面,当前通用机器人操作策略仍不可靠。最佳策略 π0.5 在 18 个真实任务上的成功率仅 12.8%、分数 22.9,远低于人类遥操作的满分表现。分数普遍高于成功率,说明模型常能完成部分步骤,却难以完成完整任务。


图| RoboDojo 真实世界基准排行榜。

仿真性能与真实可部署性并不完全一致。π0.5 在仿真和真实评估中均表现较强,但真实排名并不完全遵循仿真结果:InternVLA-A1、GalaxeaVLA 在真实测试中优于预期,部分仿真领先模型在真实机器人上优势缩小。仿真更适合能力诊断,真实评估则用于检验策略对感知噪声、校准误差、执行延迟和接触不稳定等物理因素的适应性。

真实世界评估暴露了成功率之外的执行与安全风险。真实部署中会出现动作抖动、无效重复、接触不稳定甚至安全关键行为,DM0 等模型还需要人工监控或干预。这说明真实评估不能只看任务是否完成,还要检验策略在物理机器人上的控制稳定性和失败恢复能力。

3.评估效率与稳定性

RoboDojo 具备较好的评估效率和稳定性。异构并行仿真提升了大规模测试吞吐量;真实世界评估中,π0.5 完成 180 次试验仅耗时 202 分钟,平均每个任务10 次试验约 11.2 分钟,体现了标准化重置、统一接口和本地部署带来的效率提升。


图|每个任务的真实世界评估时间。

重复评估结果显示,仿真与真实世界的最大成功率标准差分别仅 1.1 和 1.3 个百分点,榜单结果较稳定、可复现。


图|多次重复运行中各任务真实世界评估的完整稳定性。

不足和未来发展

研究团队指出,尽管 RoboDojo 已覆盖仿真与真实世界评估,但当前机器人操作策略在泛化、长程执行、精细操作、记忆和开放任务理解上仍有明显短板;真实世界结果也表明,现有模型在复杂物理部署中仍不够稳定。

研究团队表示,他们将在未来持续更新 RoboDojo 的策略、任务和评估结果,并扩展到更广泛的场景、机器人本体和感知模态,包括灵巧手操作、类人全身操作、触觉操作和移动操作等方向。


图|RoboDojo 的未来扩展。

同时,他们也将为 RoboDojo 在不同方向引入多个机器人本体,提升基准的可访问性,增强跨硬件平台比较的公平性,最终发展为面向具身操作的通用评估平台。

更多技术细节,详见原论文。

作者:夏千斯

如需转载或投稿,请直接在本文章评论区内留言

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
30万斤摘下来堆成山,树上还有6万斤,低价卖不动,农民心凉了

30万斤摘下来堆成山,树上还有6万斤,低价卖不动,农民心凉了

一些小事
2026-10-03 17:51:29
17所985惨遭淘汰!双非大学0上榜!冲上热搜

17所985惨遭淘汰!双非大学0上榜!冲上热搜

史海流年号
2026-10-01 10:24:10
四川巴中一新娘在婚礼前一天,开窗准备收袜子时不幸被马蜂蜇伤嘴唇,唇部明显肿胀,自嘲仿佛“蛤蟆精”

四川巴中一新娘在婚礼前一天,开窗准备收袜子时不幸被马蜂蜇伤嘴唇,唇部明显肿胀,自嘲仿佛“蛤蟆精”

潇湘晨报
2026-10-03 14:52:08
收官再添金!中国队结束亚运征程

收官再添金!中国队结束亚运征程

五星体育
2026-10-03 20:01:49
叶剑英坦言:毛主席用三次“神指挥”,折服了所有的将帅

叶剑英坦言:毛主席用三次“神指挥”,折服了所有的将帅

纪史行者
2026-10-02 06:00:10
宁愿不参加APEC,高市早苗也没收回那句话,访华付出再多也是徒劳

宁愿不参加APEC,高市早苗也没收回那句话,访华付出再多也是徒劳

墨兰史书
2026-10-03 15:40:13
如释重负,韩国亚运队多名球员赛后喜极而泣,主帅李敏成热泪盈眶

如释重负,韩国亚运队多名球员赛后喜极而泣,主帅李敏成热泪盈眶

懂球帝
2026-10-03 20:43:10
中秋大闸蟹彻底遇冷!老养殖户坦言:不是没人吃,是时代变了

中秋大闸蟹彻底遇冷!老养殖户坦言:不是没人吃,是时代变了

放开他让wo来
2026-10-03 17:04:34
东航再通报“空姐跪地道歉”事件:旅客欧某某相关行为严重侵害员工人格尊严,已报案,公司已暂停为欧某某提供承运服务

东航再通报“空姐跪地道歉”事件:旅客欧某某相关行为严重侵害员工人格尊严,已报案,公司已暂停为欧某某提供承运服务

闪电新闻
2026-10-03 19:08:54
刺伤迪拜航空机长的副驾驶,身份披露:阿曼公民,曾因极端主义观点被另一家航司解职,“似乎存在自杀意图”

刺伤迪拜航空机长的副驾驶,身份披露:阿曼公民,曾因极端主义观点被另一家航司解职,“似乎存在自杀意图”

极目新闻
2026-10-03 09:23:31
男子捐80万建教学楼 举报钱款去向不明 反被刑拘600天

男子捐80万建教学楼 举报钱款去向不明 反被刑拘600天

闪电新闻
2026-10-03 16:33:47
“丢脸”“可耻”!日本观众在亚运赛场举起旭日旗

“丢脸”“可耻”!日本观众在亚运赛场举起旭日旗

观察者网
2026-10-03 19:37:13
美国、法国、德国、英国、意大利、日本、加拿大,将立即启动行动

美国、法国、德国、英国、意大利、日本、加拿大,将立即启动行动

政知新媒体
2026-10-03 08:13:21
中日对峙若继续拖延下去,越来越多国家终将意识到:中日一旦开战,不会像俄乌冲突那样给第三方留下渔利空间,而注定是一场惨烈血战

中日对峙若继续拖延下去,越来越多国家终将意识到:中日一旦开战,不会像俄乌冲突那样给第三方留下渔利空间,而注定是一场惨烈血战

人生录
2026-10-02 20:33:29
中国近代史百年风雨,为何唯独1976年,被称作“最诡异”的一年?

中国近代史百年风雨,为何唯独1976年,被称作“最诡异”的一年?

文史达观
2026-10-01 09:23:26
公安部再三叮嘱:手机绑银行卡,2个设置不改,钱悄悄被转走

公安部再三叮嘱:手机绑银行卡,2个设置不改,钱悄悄被转走

小虎新车推荐员
2026-10-03 01:31:28
网友称广元一酒店“平时168元国庆涨到1284元”,店方表示系平台问题,市监部门已介入调查

网友称广元一酒店“平时168元国庆涨到1284元”,店方表示系平台问题,市监部门已介入调查

极目新闻
2026-10-03 20:10:12
连韩国国脚也绝望了!前中超外援怒丢球鞋,黄仁范含泪痛诉:没人能帮我们

连韩国国脚也绝望了!前中超外援怒丢球鞋,黄仁范含泪痛诉:没人能帮我们

足球大腕
2026-10-03 18:41:56
玄学提醒:出门遇到这9件怪事,别硬闯,转身回家!

玄学提醒:出门遇到这9件怪事,别硬闯,转身回家!

糖逗在娱乐
2026-10-03 21:25:01
林昀儒把事闹大了!正式申诉状告林诗栋,张本智和也吃过这个亏

林昀儒把事闹大了!正式申诉状告林诗栋,张本智和也吃过这个亏

青橘罐头
2026-10-03 21:57:31
2026-10-04 03:19:00
学术头条
学术头条
致力于学术传播和科学普及,重点关注AI4Science、大模型等前沿科学进展。
1487文章数 5081关注度
往期回顾 全部

科技要闻

英伟达盘中创历史新高,市值逼近6万亿美元

头条要闻

刚刚拿到绿卡 中国籍夫妻突发车祸身亡

头条要闻

刚刚拿到绿卡 中国籍夫妻突发车祸身亡

体育要闻

这个讨论了一夏天的问题,马刺有答案了吗

娱乐要闻

马思纯一家爬山祈福!素颜出镜笑容甜

财经要闻

4亿台电视挂墙落灰 为何没人愿意开了?

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

房产
本地
艺术
手机
公开课

房产要闻

保利大爆发,冲到榜一!海南楼市前三季度,热销榜出炉!

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

艺术要闻

何家英作品欣赏

手机要闻

华为Mate 90 Pro Max旗舰机首个版本更新内容曝光,实装四卡三待、3D动态照片等功能

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版