10月12日,跨维智能(DexForce)正式发布全球首个机器人任务原生3D世界模型UNITAS(A 3D-Native World Action Model for Embodied Manipulation)。UNITAS以三维物理世界作为模型的原生表示空间,将机器人的观察、动作以及动作引发的环境变化放在同一坐标系中学习,为Physical AI处理跨本体、跨场景、跨数据源的物理经验提供了新的技术路径。
![]()
机器人世界模型进入3D原生阶段
目前,大语言模型能够从书籍、网页、代码和对话中持续学习,一个重要前提是不同来源的信息最终都可以转换成文本。但机器人数据没有这样的统一接口:摄像头记录二维画面,不同机器人使用不同的机械结构和控制方式,仿真数据、真机数据与人类示范数据之间也存在明显差异。
以“拿起杯子”为例,画面呈现的是像素变化,机器人真正需要理解的却是杯子与机械臂之间的距离、夹爪的运动轨迹,以及抓取发生后杯子的位置变化。即使观察角度发生改变,真实世界中的空间关系和运动规律也不会随之改变。
过去的一些模型会引入深度、点云或几何约束,帮助模型获得额外的空间信息,但其核心表示仍建立在二维视觉或潜在特征之上。UNITAS的不同之处在于,三维不再是辅助信息,而是模型理解世界的基础。
![]()
UNITAS直接在统一坐标系下处理三维Token:物体之间的三维位置关系构成“观察”,人手或机器人夹爪的运动轨迹构成“动作流”,物体受到动作影响后的运动变化则构成“场景流”。
在这一体系中,“机器人应该怎样行动”和“行动之后世界会如何变化”不再被拆分为两个独立问题。UNITAS既可以根据任务目标生成可执行动作,也可以根据给定动作预测后续场景变化,让机器人在学习操作的同时理解动作背后的物理结果。
为了让不同来源的数据进入同一个模型,UNITAS引入世界对齐的3D位置嵌入和物理时间轨迹编码器。前者将观察、动作流和场景流映射到统一三维坐标系,并通过学习补全深度兼容RGB-D与RGB数据;后者根据轨迹点对应的真实物理时间进行编码,处理不同数据集在采样频率和任务时长上的差异。
经过转换,人类双手、真实机器人夹爪和仿真环境中的操作端,都可以被表示为三维空间中的点轨迹。不同形态的物理经验由此拥有了共同的表达方式,可以进入同一个模型进行学习。
1.7B参数在多项评测中超过6B、8B模型
UNITAS将九个数据来源进行混合预训练,再针对具体任务微调。在LIBERO-Plus测试中,混合预训练使整体成功率提升2.6个百分点;面对机器人初始状态扰动时,任务成功率由84.8%提升至94.2%,验证了多源数据统一表示对机器人泛化能力的提升。
在多项机器人操作评测中,1.7B参数的UNITAS超过了6B参数的Fast-WAM和8B参数的Motus,并在多项指标上领先π0.5、LingBot-VA和PointWorld等模型。
其中,UNITAS在LIBERO上的平均成功率达到99.8%,长程任务子集LIBERO-Long达到99.4%;在RoboTwin 2.0双臂操作测试中,Clean和Randomized设置下的成功率分别为92.9%和93.0%;在包含七类扰动的LIBERO-Plus测试中,整体成功率达到89.1%。
在RoboTwin场景运动预测测试中,UNITAS将运动点平均轨迹误差由PointWorld的0.656厘米降至0.427厘米,降幅约35%;误差不超过1厘米的预测准确率达到92.31%,四项场景预测指标全部领先。
![]()
真实机器人测试进一步验证了UNITAS在物理环境中的执行能力。模型平均任务成功率达到85%,其中Organize Books任务成功率为90%,Pack the Ball任务成功率为80%。
消融实验显示,去掉3D位置编码、动作流监督和动作流历史Token后,模型整体成功率由86.47%下降至67.58%;在这些设计之上加入场景流监督后,成功率由85.74%提升至86.47%。对世界变化规律的学习,能够反过来提升机器人动作决策的准确性。
从3D原生模型到Physical AI数据飞轮
跨维智能成立于2021年,持续建设生成式世界模型和具身智能基础设施。其自研的DexVerse生成式仿真引擎,可以根据语言、图像等多模态输入生成三维场景,并结合物理仿真与传感器模拟,构建机器人学习所需的虚拟世界;EmbodiChain具身智能工具链则连接场景生成、数据扩增、模型训练与部署流程。
UNITAS与这套生成式仿真体系结合后,正在形成“仿真生成—模型学习—真实验证—数据回流”的Physical AI数据闭环。UNITAS的场景流监督主要来自仿真数据,但在DROID、RH20T等真实世界观测数据上,模型仅根据夹爪运动轨迹,依然能够预测合理的场景变化,展现出从虚拟经验向真实环境迁移的能力。
UNITAS的发布,推动机器人世界模型从“利用三维信息”进一步走向“以三维世界为原生空间”。通过将人类操作、机器人执行和仿真生成的经验转换为统一的三维表示,机器人可以从不同本体、不同任务和不同场景的数据中学习,为持续学习、跨任务迁移和获取更广泛的真实世界能力奠定基础。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.