网易首页 > 网易号 > 正文 申请入驻

不再死记硬背摄像机角度,一张点图直接告诉机器人物体在哪

0
分享至

在视觉语言动作模型领域,一直有个挺别扭的技术问题:机器人用眼睛看世界,却要用身体去干活,这两套坐标系压根儿不统一。标准VLA模型的流程是这样的——摄像头拍下RGB画面,模型要从平面像素里推算出机器人关节该执行的三维动作指令。在实验室那种摄像头一旦固定就永远不动的环境里,这套机制问题不大,模型把“画面里这个位置”等同于“手臂向右转十五度”背下来就行,看起来还挺聪明。

真正出麻烦是在场景变复杂的时候。行业在往大规模、多样化数据集的方向走,训练材料来自不同实验室、不同机位、不同机器人本体,有的摄像头挂在天花板上,有的绑在机械臂手腕上,还有的摆在侧面桌台上。一旦摄像头位置变了,之前背下来的映射关系全部作废——同一个物体在画面左边,原来意味着关节往左转,换个机位拍它跑画面右边去了,模型就开始犯糊涂。这种过度依赖特定视角记忆的策略,面对交叉机位的数据时泛化能力相当有限。

机器人中心点图这个思路,本质上做了一件事:把视觉输入强行拉进机器人自己的物理坐标系里。具体怎么做?系统不再直接把原始RGB像素丢进视觉编码器,而是先生成一张点图——画面上每一个像素,存的不是红绿蓝颜色值,而是对应空间点在机器人基座或末端执行器坐标系下的三维坐标。这样一来,不论摄像头装在什么角度、摆多高多远,同一个桌角返回的坐标值总是相对稳定的,模型看到的不再是“画面左上角有个东西”,而是“在机器人正前方零点八米处有个东西”。

设计上还有个很巧妙的点:这些点图保留了密集的H乘W空间网格结构,正好匹配现代视觉编码器的胃口。SigLIP和DINOv2这类视觉Transformer架构习惯处理的正是这种排布规则的数据。换进点图之后,模型几乎不需要改动结构,流程照旧,只是底层信息从颜色分布切换成了机器人的操作空间位置。这意味着空间关系的学习彻底变成视角不敏感的——天花板摄像头和手腕摄像头的画面在纹理上可能完全不一样,但回归到几何坐标后,场景中物体间的相对位置关系变得稳定一致。点图在这里像是做了一次翻译,把视觉世界转换成机器人运动学的语言,让策略网络不再对着不断变化的视角去硬猜动作。

对开发团队来说,这个思路直接改变的可能是训练管线的搭建方式。过去为了让模型扛住不同摄像头角度,工程上往往要靠大量的数据增强手段——随机裁剪、色彩抖动、视角仿真,一套组合拳打下来,确实能在一定程度上拉高泛化能力,但代价是计算资源成倍往上翻,而且增强策略本质上是在帮模型想象一个它从未真正见过的几何空间,效果终究有天花板。机器人中心点图的逻辑是反过来:与其让模型从畸变过的二维画面里去猜三维真相,不如在数据源头就把三维信息给它,省掉那层猜测成本。

数据多样性的问题也跟着变得好处理一些。业界一直在讨论海量真实机器人数据怎么用起来的问题——来自不同实验室的演示数据,记录了不同的硬件平台、不同的摄像头位姿、不同的任务设定,混在一起训练时很容易因为坐标系混乱导致性能不升反降。一旦统一使用机器人中心点图作为中间表示,来自不同来源的物理交互数据就被投射到了同一个空间参考系下,数据集的规模效应才能真正发挥出来,而不是被互不兼容的传感器视角互相拖后腿。

还有一点值得注意:以机器人为中心的空间表示方式,意味着控制策略不再关心“摄像机看到了什么”,而是直接关心“机器人周围有什么”。这种重心的转移可能比它表面看起来更关键——过去机器人操作的研究很多时候是在迁就视觉传感器的特性,调整机位、标定参数、处理遮挡,而一旦把空间理解的责任从摄像头转移到机器人自身的运动学框架里,后续的策略学习就有了一个更干净、更稳定的起点。坐标系统一看起来是个工程层面的事,但在具身智能这条线上,它可能直接决定了模型能不能从几十个场景扩展到几千个场景。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
现在后悔晚了!明抢中企钢厂后,英国政府发现,全球竟无一人接盘

现在后悔晚了!明抢中企钢厂后,英国政府发现,全球竟无一人接盘

简简单单的说
2026-07-23 02:41:28
LV要起诉中国人民银行?全网爆火调侃,彻底戳穿奢侈品纹样真相

LV要起诉中国人民银行?全网爆火调侃,彻底戳穿奢侈品纹样真相

另子维爱读史
2026-07-22 20:07:47
谢贤因肺炎引发器官衰竭离世!医生:没事宁可做家务,也别做8事

谢贤因肺炎引发器官衰竭离世!医生:没事宁可做家务,也别做8事

阿兵科普
2026-07-22 21:09:41
1993年,张学良首次见到冯巩,手中的佛珠突然滑落,沉默良久后问了一句话,得到确认后,老人眼圈红了

1993年,张学良首次见到冯巩,手中的佛珠突然滑落,沉默良久后问了一句话,得到确认后,老人眼圈红了

人生录
2026-07-19 00:05:10
7月23日,人社部和财政部关于2026年养老金的调整通知公布了吗?

7月23日,人社部和财政部关于2026年养老金的调整通知公布了吗?

社保小达人
2026-07-23 10:43:59
雷军:澎程首保后,整车3年才需保养一次

雷军:澎程首保后,整车3年才需保养一次

齐鲁壹点
2026-07-22 10:56:51
2026江苏养老金调整正式方案,请以江苏省人社厅后续官方公告为准

2026江苏养老金调整正式方案,请以江苏省人社厅后续官方公告为准

陈博世财经
2026-07-23 10:10:59
国际足联公布2026世界杯球迷票选最佳阵容

国际足联公布2026世界杯球迷票选最佳阵容

齐鲁壹点
2026-07-23 07:07:36
大家做好准备!明年起,六七十岁的老人或将面临“三个现实问题”

大家做好准备!明年起,六七十岁的老人或将面临“三个现实问题”

oo烛光透影
2026-07-23 10:36:13
百万球迷集体建议,永久除名梅西,禁止参加世界杯比赛

百万球迷集体建议,永久除名梅西,禁止参加世界杯比赛

体坛狗哥
2026-07-23 13:26:48
拉夫罗夫:俄不再支持半岛无核化呼吁

拉夫罗夫:俄不再支持半岛无核化呼吁

新浪财经
2026-07-23 15:19:37
话说的刺耳但没错,东契奇湖人的最大隐忧,被富保罗点出来了

话说的刺耳但没错,东契奇湖人的最大隐忧,被富保罗点出来了

兵哥篮球故事
2026-07-22 16:48:38
九子夺嫡胜出的为何是雍正,而不是实力更强的“八爷党”

九子夺嫡胜出的为何是雍正,而不是实力更强的“八爷党”

历史大学堂
2026-07-23 13:12:45
北交所打新,在惩罚真金白银持仓的人

北交所打新,在惩罚真金白银持仓的人

数据GO
2026-07-23 07:20:41
上海地铁9号线拔掉座位只剩铁皮钢管,空荡荡的车厢逼着乘客练“金鸡独立”

上海地铁9号线拔掉座位只剩铁皮钢管,空荡荡的车厢逼着乘客练“金鸡独立”

苗苗情感说
2026-07-23 15:51:16
美媒:中国004核航母因多原因暂不建造

美媒:中国004核航母因多原因暂不建造

大香蕉最好吃
2026-07-23 06:43:44
理想请来何同学后,全网翻车了!

理想请来何同学后,全网翻车了!

大佬灼见
2026-07-23 13:26:22
谢贤晚年居家照曝光,不戴墨镜样子和蔼慈祥,亲友轮流来豪宅探望

谢贤晚年居家照曝光,不戴墨镜样子和蔼慈祥,亲友轮流来豪宅探望

喜欢历史的阿繁
2026-07-23 10:29:06
最高院:回村定居的退休人员,有权重修祖宅或申请宅基地建房吗?

最高院:回村定居的退休人员,有权重修祖宅或申请宅基地建房吗?

周军律师聊案子
2026-07-23 10:25:57
谢霆锋不再隐瞒,不娶王菲的原因曝光,原来他和张柏芝想的一样

谢霆锋不再隐瞒,不娶王菲的原因曝光,原来他和张柏芝想的一样

阿讯说天下
2026-07-23 12:15:15
2026-07-23 17:55:00
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
426文章数 75关注度
往期回顾 全部

科技要闻

梁文锋:DeepSeek不争超级App,只押注AGI

头条要闻

男子对女同事"开黄腔"被扇耳光还遭开除 认为这不公平

头条要闻

男子对女同事"开黄腔"被扇耳光还遭开除 认为这不公平

体育要闻

勇士24岁的MVP,也是个勒布朗?

娱乐要闻

梁朝伟汤唯19年后境遇反转

财经要闻

梁文锋当不成赛博圣人

汽车要闻

动力狂 脾气稳 海豹08有点上头

态度原创

时尚
旅游
本地
艺术
公开课

今年夏天最流行的5组搭配,谁穿谁时髦!

旅游要闻

“京蒙相约·卓资寻凉”推广活动亮相奥林匹克公园

本地新闻

跟着影视去旅行:西游篇

艺术要闻

于右任65抄写的《心经》,字字超越古人

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版