双臂示范数据采集的挑战
训练通用机器人操控策略需要大量高质量的专家示范数据。现有的遥操作系统在灵巧的双臂任务上存在明显不足:
- 基于视觉的VR头显(如Apple Vision Pro)存在腕部追踪抖动、不同光线条件下手指估计不准确以及遮挡等问题。
- SteamVR 精度较好,但需要固定的外部激光灯塔,便携性差,不适合移动机器人平台。
- 基于标记点的动捕系统(如Vicon)精度极高,但价格昂贵且搭建复杂
为应对上述挑战,卡内基梅隆大学的研究人员开发了BiDex,一套专为机器人学习采集高质量示范数据而设计的可移植双手遥操作系统。
BiDex:便携式双臂遥操作系统
BiDex是一套可移动、低延迟的双臂遥操作系统,通过将高保真手部追踪与关节级手臂控制相结合,实现自然流畅的人机动作映射。值得注意的是,在该研究所评估的三套系统(Vision Pro、SteamVR 与 BiDex)中,MANUS 数据手套均作为统一的手部追踪方案被采用。这一设计使研究人员能够单独评估手臂追踪方式对遥操作整体质量的影响,避免手部与手臂追踪差异的相互干扰。
MANUS手套采用电磁场传感器追踪指尖位置并估算每根手指的关节角度,无需外部摄像头或追踪基础设施,所采集的数据随后通过逆运动学实时重定向,将操作者的手部动作映射至机器人关节空间。BiDex的核心创新在于其手臂追踪方案:有别于依赖VR头显或外部灯塔的方式,BiDex采用受GELLO启发设计的示教臂,即一种由操作者佩戴的轻量化3D打印运动学复制装置,直接追踪手腕姿态与手臂关节角度。这种基于关节空间的控制方式具有低延迟、低抖动的特点,同时兼具完全可移动性。
![]()
操作员穿戴BiDex设备远程控制安装在AgileX移动底座上的两台xArm机械臂,这些机械臂配备 LEAP Hands灵巧手并搭载三台摄像头
遥操作与策略训练结果
BiDex在遥操作基准测试中全面超越Vision Pro和SteamVR:递接任务完成率达 95%,远高于Vision Pro的60%;完成速度也快出三倍以上(6.5秒 vs. 21.6秒)。此外,由于SteamVR依赖固定的外部灯塔追踪,BiDex是唯一适用于移动场景的方案。
在策略训练方面,基于BiDex示范数据训练的策略在20至100条示范数据的范围内普遍优于基于Vision Pro数据的策略。这部分原因可能在于BiDex在关节空间操作,动作更加平滑;而Vision Pro在末端执行器空间控制,细小的预测误差可能引发更大的关节偏差。在新手用户研究中,参与者普遍认为BiDex更准确、响应更灵敏、更易上手,但个体间存在一定差异。
![]()
通过BiDex设备进行箱子搬运遥操作任务的操作员视角
对灵巧机器人学习的启示
BiDex的研究表明,灵巧机器人学习的关键制约因素往往在于示范数据的质量,尤其是手臂追踪的精度,而非学习算法或机器人硬件本身。通过以MANUS手套统一手部追踪方案、仅改变手臂追踪方式的实验设计,本研究提供了比以往工作更为严谨的系统对比基础。该系统能够支持多种可移动双臂操作任务,涵盖筷子夹取、锤击、清理餐具及电钻操作等场景,有助于采集需要精细手部动作与双手协调配合的高质量示范数据。
关于搜维尔科技
我们热衷于动作捕捉技术的研发与推广。我们热衷于推动技术发展,使其处于技术前沿甚至更前沿。在这个频道上,我们想分享我们基于动作捕捉技术的最新体验。搜维尔科技与Manus总部签署代理合作协议,成为其在中国大陆地区的授权代理经销商。搜维尔科技现支持相关产品购买、咨询与售后支持等服务,欢迎垂询。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.