北京
机器人模型非得拿动作标签喂，才能学会抓取和移动吗？智源研究院发布的世界基础模型Orca，给出了一个让人没法忽视的答案。
125，000小时视频灌进去，没看一条动作标注。这个40亿参数的模型，在五项机器人基准上直接追平专门用动作标签训练的π0.5。用的还不是预测下一个token或像素的老路，而是预测抽象的“世界状态”。
这份技术报告里有几个数字值得拆开看：
第一，数据到底用了多少？训练视频125，000小时，配套1.6亿条事件描述和1150万组问答对。视频视角涵盖第一人称日常交互、第三人称物体操作、无动作数据的机器人记录，以及自然场景。而目前这个40亿参数版本只消耗了可用视频总量的十分之一——智源手里还有超过112万小时的视频没用。
第二，怎么学的？Orca把学习拆成两条腿：“无意识学习”和“有意识学习”。无意识那块，直接看原始视频，不给任何文字说明，看到一帧图像就去预测下一帧的抽象表征，靠这种纯视觉预测自动捕捉运动规律、遮挡和场景动态。有意识那块，视频被切成片段，配上状态变化的文字描述，用视频问答任务来训练。
第三，基座为什么是冻结的？整个模型的感知部分用的是预训练的语言—图像模型通义千问3.5，训完就冻住，不再更新。然后接上不同的输出模块：文字输出靠原生的语言头，图像生成接Stable Diffusion 3.5并配上小规模的上游适配器，机器人控制则从零训练一个“动作专家”模块。团队的逻辑很直接：一个训练充分的内在世界状态，应该能同时服务文字、图像和动作这几类完全不搭边的任务。
第四，规模效应是不是在起作用？报告里给出了0.8B和4B两个参数规模的训练曲线，训练损失随数据量和模型增大稳定下降。这种趋势暗示，只要继续把剩下的视频吞进去，性能还能往上走。
第五，跟π0.5的对比说明了什么？π0.5是一个吃动作标签长大的专用系统，而Orca一个动作标签都没碰，抽象世界状态就能在五项测试上追平它。报告里补了一句很呛的话：智能不该由那些只会做狭窄预测的专用模型来定义，而要看对世界的通用理解能力。
整件事最扎眼的还不是某个数字，而是它恰好踩中了机器人圈一个老痛点——动作标签又贵又难规模化。采一个小时的标注动作数据成本极高，而无标注视频满世界都是。Orca这种“只看视频、不碰标签”的路线，等于绕开了数据短缺这座挡路山。如果按智源的计划把视频量拉到现有的十倍，后续曲线的形状值得盯紧。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
