网易首页 > 网易号 > 正文 申请入驻

机器人“看花眼”怎么办?StableVLA破解机器人视觉干扰难题

0
分享至

如果给机器人戴上一副沾满油污的眼镜,它还能正常工作吗?

对于人类来说,这似乎不是一个困难的问题。当镜头有些模糊、光线变暗,或者桌面出现反光时,我们依然能认出杯子、篮球和玩偶的位置。

但对于今天最先进的机器人AI模型而言,答案并没有那么乐观。

星尘智能与北京大学、清华大学等最新联合研究发现,即便是当前最先进的Vision-Language-Action(VLA,视觉-语言-动作)模型,一旦遭遇训练过程中从未见过的视觉干扰,其性能往往会大幅下降。而更令人意外的是——问题可能并不出在机器人的“大脑”。

近年来,VLA模型逐渐成为具身智能领域最重要的技术路线之一。简单来说,这类模型的工作方式类似于:看见(Vision)→ 理解(Language)→ 行动(Action)。机器人通过摄像头观察环境,通过大模型理解任务,再输出具体动作。然而现实世界远比训练数据复杂。

真实世界中,机器人可能遇到:摄像头模糊、镜头油污、光照变化、反光、遮挡、数字噪声等,且理论上,没有任何训练集能够覆盖所有可能情况。

机器人真正的考场,不是在实验室,而是在充满干扰的现实世界。研究团队提出了一个关键问题:当机器人遭遇从未见过的视觉干扰时,究竟是哪里出了问题?

论文重要发现:脆弱的不是模型,而是中间“翻译官”

通过系统分析多个SOTA(State-of-the-Art)VLA模型后,研究人员发现:视觉编码器(Vision Encoder)并非主要问题。大语言模型(LLM)也并非主要问题。真正的薄弱环节,是连接两者之间的一个模块:Projector(投影器)。

如果把机器人系统比作一个跨国团队:Vision Encoder负责说“图像语言”,LLM负责说“语言模型语言”,Projector则是中间的翻译官

问题在于:当前主流Projector大多采用MLP结构。而这种结构几乎像一个“全通滤波器”。它不会区分:哪些是目标物体信息,还是哪些只是镜头污渍、反光或噪声,于是所有信息都会被一股脑送入决策系统。

研究团队认为:这正是VLA模型在真实环境下鲁棒性不足的重要根源。

基于信息论的解决方案:给机器人加“智能降噪器”

为了解决这一问题,研究团队提出:Information Bottleneck Adapter(IB-Adapter),即“信息瓶颈适配器”。它的核心思想来自信息论中的经典理论:信息不是越多越好。关键是保留最有价值的信息。



IB-Adapter和StableVLA架构:通过“关联分析+智能门控+特征重构”三重机制,在视觉信息进入决策系统前分析不同特征之间的关联,区分真实信息和噪声;借助Sigmoid门控,给每个特征通道安装独立开关,保留重要信息,给噪声降权甚至屏蔽;最后对视觉特征进行非线性变换后重建,增强信息表达力

在传统VLA中:摄像头捕获的所有内容都会被送往后续网络。而IB-Adapter会先进行一次筛选:保留物体轮廓、空间结构、操作相关的有用特征。同时压制:噪点、模糊、反光、随机干扰等用不上的噪声。

换句话说,它相当于给机器人增加了一层“视觉降噪系统”。在机器人做决策之前,先过滤掉可能误导它的信息。

为什么它能识别噪声?效果如何?

有趣的技术洞察是:传统视觉模型通常关注:图像的空间位置(Spatial Attention)。即:“哪里重要?”。而IB-Adapter关注的是:特征通道(Channel Dimension)

即:“哪些特征重要?”。

研究团队发现:不同通道中存储的信息并不相同。有些通道主要记录跟任务语义强相关的:物体边缘、几何结构、形状特征。另一些通道则:噪声、模糊、随机扰动,相关性更弱。

因此IB-Adapter可以为每个通道设置独立门控(Sigmoid Gate):重要通道保持开启、噪声通道自动关闭,最终让机器人看到一个更加“干净”的世界

在一些需要长时间序列保持空间精度的长程任务中,只靠 IB Adapter 可能会让动作轨迹变得不够精准。StableVLA 给出了务实解法:双路并行,解耦融合

比如对需要极高空间精度的拾取和放置任务,系统会近乎完整保留 MLP 通路,IB Adapter 仅作为鲁棒性残差补充进来。对于需要长期语义规划的目标识别类任务,系统则会适度增加 Dropout,迫使策略网络更依赖鲁棒特征路径。这种特定任务驱动的动态平衡,让 StableVLA 在不同操作场景中始终能找到最好的鲁棒性切面。

SOTA对比效果

效果有多明显?答案是:远超预期。在不增加额外训练数据、不引入额外数据增强、不重新构建训练流程的情况下,IB-Adapter平均带来约30%的性能提升

在LIBERO的四个标准任务套件上,StableVLA 在多数子任务中取得了最优或次优成功率。对比与自身结构类似的 VLA-Adapter,在严重腐蚀程度 5 的设置下,StableVLA 的性能提升幅度从 40.2% 一路飙升到 139.6%。而在CALVIN基准上的平均完成任务数,也全面领先。不是小数点后几位的胶着战,而是直接甩开了断层式的差距。


LIBERO和CALVIN基准对比

更重要的是:整个模块新增参数不足1000万。对于动辄数十亿参数的大模型而言,几乎可以忽略不计。



在损毁严重性最高的Level-5压力测试下,StableVLA保持稳健,OpenVLA等基线模型性能则显著下降。

5亿参数模型,挑战70亿参数模型

论文中最引人注目的结果之一是:搭载IB-Adapter的StableVLA,即便仅使用:0.5B(5亿)参数模型,仍然能够达到接近:7B(70亿)参数级VLA模型的鲁棒性表现。两者规模相差14倍。

这意味着:过去行业解决鲁棒性问题的方法往往是:模型不够强?那就做得更大。

而这项工作给出了另一种答案:与其让机器人更聪明,不如先让机器人少被噪声欺骗。

在真实机器人上验证

为了验证方法是否真正有效,研究团队在 Astribot S1 平台上进行了真实世界测试。

测试任务包括:抓取与放置(Pick & Place)、迷你投篮(Throw Basketball)、倒水(Pour Water)、玩偶装箱(Pack the Doll)等。同时人为制造:图像噪声、模糊、镜头油污、物体遮挡。

结果显示:在严重视觉干扰下,StableVLA依然能够保持较高操作成功率,而多个现有方案则出现明显退化。



StableVLA 鲁棒性概述:(a) 在 LIBERO 基准测试中的鲁棒性比较中,三角形标记和柱状图分别表示在干净数据和损坏数据(不同严重程度的平均值)上的性能。StableVLA 实现了目前最先进的SOTA零样本鲁棒性。(b) 在视觉损坏的情况下,打包玩具任务上的实际机器人部署,StableVLA (0.5B参数) 达到了 50% 的成功率,优于同参数的 VLA-Adapter (0.5B, 20%) 、参数远高于其的OpenPI 0.5 (3B, 40%)

从学术角度看,这是一项关于VLA鲁棒性的研究。但从产业角度看,它回答的是一个更现实的问题:机器人如何离开实验室,进入真实世界。

现实中的工厂、商场、家庭和餐厅,永远不会拥有完美的光照、干净的镜头、标准化的场景。未来机器人能否大规模部署,很大程度上取决于:当环境开始变脏、变乱、变复杂时,它是否依然能够完成任务。

而这项工作给出的答案是:机器人未必需要更大的模型,但一定需要更稳定的视觉理解能力。这或许也是具身智能从“能工作”迈向“可靠工作”的关键一步。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
再见!八村塁+詹姆斯!森林狼真绝啊……

再见!八村塁+詹姆斯!森林狼真绝啊……

体育新角度
2026-07-06 22:10:28
中国成功试射潜射战略导弹 王强:“美俄提前获知”

中国成功试射潜射战略导弹 王强:“美俄提前获知”

看看新闻Knews
2026-07-06 18:10:29
苏州遇难母子找到了!官媒再曝猛料,丈夫让二人下车,遭受网暴

苏州遇难母子找到了!官媒再曝猛料,丈夫让二人下车,遭受网暴

小鋭有话说
2026-07-06 13:41:59
京东员工:太吓人了。一位律师透露,某大厂竞业营收破亿

京东员工:太吓人了。一位律师透露,某大厂竞业营收破亿

蚂蚁大喇叭
2026-07-06 18:58:36
猪价再回10元时代

猪价再回10元时代

财联社
2026-07-06 17:46:05
暴雨橙色预警持续,交通运输部维持强降雨二级防御响应

暴雨橙色预警持续,交通运输部维持强降雨二级防御响应

界面新闻
2026-07-06 11:26:37
湖北“职业背债人”西安登陆,20万元骗350万房,又抵押贷款600万

湖北“职业背债人”西安登陆,20万元骗350万房,又抵押贷款600万

打破砂锅
2026-07-06 18:10:17
挪威队主帅:这是一个糟糕、糟糕、糟糕、糟糕、糟糕的决定

挪威队主帅:这是一个糟糕、糟糕、糟糕、糟糕、糟糕的决定

澎湃新闻
2026-07-06 19:00:07
晋级后哈兰德连发5条中文动态,配乐尤爱伍佰《挪威的森林》:我们还没到回家的时候;回应淘汰巴西:可能是挪威历史上最疯狂的一天

晋级后哈兰德连发5条中文动态,配乐尤爱伍佰《挪威的森林》:我们还没到回家的时候;回应淘汰巴西:可能是挪威历史上最疯狂的一天

大风新闻
2026-07-06 15:37:03
与门将互呛、微笑飞吻……内马尔点球破门后的举动惹巴西球迷怒骂:比分落后还想着耍威风

与门将互呛、微笑飞吻……内马尔点球破门后的举动惹巴西球迷怒骂:比分落后还想着耍威风

红星新闻
2026-07-06 13:46:29
突发!广西宾阳甘棠镇新兴街洪水淹至二楼,一条求助视频登上热搜

突发!广西宾阳甘棠镇新兴街洪水淹至二楼,一条求助视频登上热搜

火山詩话
2026-07-06 13:19:15
继床照后,司晓迪再爆鹿晗亲密视频!更多细节被扒,越来越荒唐

继床照后,司晓迪再爆鹿晗亲密视频!更多细节被扒,越来越荒唐

林轻吟
2026-07-06 16:55:50
现在我们终于明白了,为什么要把各企业退休人员划归社区管理

现在我们终于明白了,为什么要把各企业退休人员划归社区管理

白浅娱乐聊
2026-07-06 19:13:48
吓死了!恩德里克获得单刀时,哈兰德已经绝望抱头

吓死了!恩德里克获得单刀时,哈兰德已经绝望抱头

懂球帝
2026-07-06 18:11:05
人只吃兔子肉真会饿死?答案是:真的!而且吃得越多死得越快

人只吃兔子肉真会饿死?答案是:真的!而且吃得越多死得越快

铭记历史呀
2026-07-06 10:16:39
前主席布拉特公开指责FIFA:足球绝不能成为权力的游乐场

前主席布拉特公开指责FIFA:足球绝不能成为权力的游乐场

懂球帝
2026-07-06 17:08:18
中国男篮,还活着

中国男篮,还活着

中国新闻周刊
2026-07-06 18:20:18
日本祖先真相大白,不是徐福后代,DNA检测让日本人无法接受

日本祖先真相大白,不是徐福后代,DNA检测让日本人无法接受

抽象派大师
2026-07-05 03:47:07
你的中锋190cm?身高201cm的丹-伯恩完成职业生涯世界杯首秀

你的中锋190cm?身高201cm的丹-伯恩完成职业生涯世界杯首秀

懂球帝
2026-07-06 10:54:17
雷军高调宣布:小米自研,再获第一!网友调侃:“100%再生”是名称还是目标?

雷军高调宣布:小米自研,再获第一!网友调侃:“100%再生”是名称还是目标?

大白聊IT
2026-07-06 18:24:10
2026-07-07 01:20:49
机器最前线 incentive-icons
机器最前线
关注机器人产业,传递最前沿资讯,解读最硬核科技,分享最新投资机会
62文章数 1关注度
往期回顾 全部

科技要闻

你在笑机器人摔跤,工程师在想怎么不砸死人

头条要闻

19岁大学生立遗嘱将2000万财产留给发小 原因令人唏嘘

头条要闻

19岁大学生立遗嘱将2000万财产留给发小 原因令人唏嘘

体育要闻

世界杯最强17岁,贝林厄姆主动和他交换球衣

娱乐要闻

继床照后,司晓迪再爆鹿晗亲密视频

财经要闻

特朗普,从“霸凌全班”到“克己复礼”

汽车要闻

重新定义出行美学 吉利银河TT首发亮相/或8月上市

态度原创

家居
时尚
手机
教育
数码

家居要闻

2026建博会(广州) 公装联探展交流活动

5元一条,偷拍女性已经产业化了

手机要闻

子系旗舰终于不凑数了!iQOO 16与一加16,到底该期待谁?

教育要闻

百年名校+新晋黑马!这对“神秘组合”,清北和增值率出圈!

数码要闻

17999元 联想YOGA AI Mini主机上新:Ultra X7 358H、64GB大内存

无障碍浏览 进入关怀版