网易首页 > 网易号 > 正文 申请入驻

具身VLA后训练:TeleAI提出潜空间引导的VLA跨本体泛化方法

0
分享至



在多模态大模型的基座上,视觉 - 语言 - 动作(Visual-Language-Action, VLA)模型使用大量机器人操作数据进行预训练,有望实现通用的具身操作能力。然而,现有 VLA 基座模型的能力仍存在很大不足,在进行目标场景应用时需要采集数十乃至数百小时目标本体数据完成后训练(Post-Training),特别是当目标场景本体和预训练本体存在差异时,预训练和后训练阶段的动作分布出现严重失配,从而引发了 VLA 模型跨本体适配(Cross-Embodiment Adaption)挑战。在后训练阶段通过堆叠目标本体数据对抗这种失配的边际收益迅速递减,也难以有效拟合目标场景动作分布。

为了解决该问题,中国电信人工智能研究院(TeleAl)具身智能团队提出了一种 “对齐 - 引导 - 泛化”(Align then Steer, ATE)的 VLA 跨本体泛化框架,破解了 VLA 后训练难题。其核心思想是在潜空间中对齐跨本体动作分布,从而在后训练利用统一潜空间梯度引导 VLA 策略的更新方向。无需改动现有 VLA 主干架构,实现了 VLA 模型后训练从调架构向调分布的范式转移,适配 Diffusion 和 Flow-Matching 等主流的 VLA 模型,极大减少 VLA 跨本体适配的数据需求。


https://mp.weixin.qq.com/s/NChG3VeyMaKhJi61X_ON_A?click_id=17

  • 论文题目:Align-Then-Steer: Adapting the Vision-Language Action Models through Unified Latent Guidance
  • 论文地址:https://arxiv.org/abs/2509.02055
  • 项目地址:https://align-then-steer.github.io/
  • 开源代码:https://github.com/TeleHuman/Align-Then-Steer

研究动机:从分布一致性突破 VLA 的跨本体泛化训练瓶颈

在面向特定具身场景的操作大模型应用中,决定 VLA 能否进行跨本体迁移的关键并非参数规模或主干架构的复杂度,而是预训练阶段与后训练阶段的目标本体和任务的动作分布的一致性。特别地,当目标本体的机械臂构型、执行器形态、关节自由度与本体物理约束等发生变化时,目标动作分布不可避免地偏离预训练阶段 VLA 学得的动作分布域。单纯地通过采集大量真机数据在后训练阶段弥补这一鸿沟,面临迅速递减的边际收益,即单纯数据堆叠难以有效地引导策略抵达目标域。

为了解决 VLA 的跨本体泛化适配问题,目前学界采用的方法主要从以下两个角度开展,构建统一的、语义级别的潜在动作表示,或通过运动学重定向(Retargeting)手动将跨本体数据构建到统一的动作空间。然而,这些路径普遍存在两类局限:一方面,目标动作分布与原分布相差过大时(如预训练采用单臂数据,目标场景在双臂),上述的方法难以准确刻画目标本体的可行子分布;另一方面,现有方式依然面向自回归范式,并没有考虑扩散 / 流匹配类策略的条件生成结构。为了解决该问题,TeleAI 具身智能团队提出了 “对齐 - 引导 - 泛化”(ATE)框架,在统一的潜空间中先对齐动作统计,并在后训练阶段引入可微的引导项牵引策略更新,仅利用少量样本便可以将模型适配到目标本体。



研究方法

ATE 框架

ATE 框架的核心思想是先在潜空间中对齐动作分布,再利用潜空间的分类器引导去牵引后训练策略更新方向。ATE 框架如上图所示,共分为两个阶段。

第一阶段先构建一个与跨本体的统一动作潜空间,将预训练数据所蕴含的跨任务、跨环境结构性信息编码到潜空间,再利用目标域的有限样本将目标潜空间嵌入到预训练潜空间。在完成潜空间的对齐后,第二阶段在统一的潜空间上设计引导函数,并利用由此得到扩散 / 流匹配 VLA 模型的分类引导,在后训练阶段显式地将微调过程牵引至期望的目标分布,而无需更改 VLA 模型主干模型结构。

在 ATE 框架中,“对齐 — 引导” 都从分布的角度出发:先把目标域的动作潜分布嵌入到预训练动作潜分布的某个模态中,随后用一个可微的分类器引导项把策略输出的生成分布朝目标分布持续推近。第一步等价于在潜空间上完成一次分布投影;第二步等价于在生成过程中为分布流添加一个外部力场,沿着统一潜空间定义的能量梯度推进去噪,使最终的边缘分布更接近适配数据分布。

这种 “从调模型到调分布” 的范式迁移具有如下优势。第一,样本效率提升:潜空间对齐将策略搜索范围约束在包含目标分布域的流形上,显著降低了拟合到可行动作分布所需的数据量。第二,训练效率提升:分布引导避免模型全参数重训练,能够在既定训练预算内获得更快的有效收敛。第三,工程可复用性增强:潜空间引导只作用于动作专家模型后训练,与顶层模型解耦,具备即插即用的特性,可适配目前主流分层 VLA。

第一阶段:动作潜分布对齐







第二阶段:动作潜分布引导







引导机制充分利用了统一潜空间的优势,既解决了跨实体和跨任务的适应性问题,又保留了预训练阶段习得的通用视觉 - 运动先验知识,显著提升了模型在新环境下的适应效率和性能。

实验结果

ATE 算法在 ManiSkill 与 RoboTwin 1.0 等多任务仿真评测中,相较于直接后训练,平均多任务成功率最高提升 9.8%。而在真实机器人跨本体现实场景中,ATE 带来最高 32% 的成功率增益,且表现出更稳健的收敛行为与对光照、干扰的鲁棒性。这些结果表明:ATE 框架在统一潜空间中引导学习,使得 VLA 跨本体与跨任务泛化在有限数据下得到提升,而无需额外的数据与大规模重训练。



上表汇总了 17 个机器人操作任务上,ATE 框架下 RDT 和 PI-0 在 RoboTwin 1.0 上的性能对比。ATE 框架对 RDT 与 PI-0 的平均提升分别约为 + 9.8 与 + 8.7 个百分点,显示出跨任务的一致增益与较好的可迁移性。尤其在基线困难的长程任务中,单项增益明显:例如,RDT 在 Empty Cup Place 任务成功率由 22% 提升到 61%(+39),Pi 0 在 Dual Bottles Pick (Easy) 任务上成功率由 48% 提升到 85%(+37),反映了潜空间对齐与引导在动作空间分布失配较大的场景中效果更显著。与此同时,个别任务出现了小幅下降,如 RDT 在 Bottle Adjust(-16)、Tool Adjust(-12)、Shoe Place(-1),Pi 0 在 Pick Apple Messy(-7)、Blocks Stack (Hard)(-1)、Tool Adjust(-1)。这类现象通常表现为目标域动作分布较窄。从样本效率与收敛速度角度,ATE 在 70k 步即可超过传统 RDT 的 90k 步效果,说明 ATE 框架的对齐 — 引导机制,不仅提高任务成功率,也显著提升了任务成功率。



为了验证模型的跨本体泛化能力,我们自行搭建了双臂睿尔曼实验环境,该实验平台从未在预训练数据中出现过,且双臂的动作空间和预训练数据有明显不同。进而,构建了多个分钟级长序双臂协同操作任务,包括制作三明治、蒸包子等复杂协作任务,以及制作酸奶、烤面包等工具使用类任务。通过采集少量真机数据进行后训练,ATE 算法能够将基座 RDT 和 Pi-0 等 VLA 模型快速适配到目标本体上。上图呈现了四个真机任务在不同训练步数的成功率与整体平均,展示了在有限数据与分钟级长程任务下 ATE 框架的性能。可见在需要双臂协同、时序规划与多阶段配合的任务上,在统一的潜空间引导下 ATE 框架能使模型更快地收敛到目标域动作分布。



上图可视化了空间泛化(初始位姿随机偏移)、视觉干扰(放置未见过的杂物,如水果)、人为扰动(在关键点迫使策略重试)。ATE 框架在未见的光照、杂物干扰、空间偏移与外部干预下仍能维持任务相关注意与恢复能力

研究总结

在 VLA 基座模型尚不具备直接泛化能力的情况下,TeleAI 提出的跨本体 ATE 后训练框架为数据稀缺与跨本体泛化后训练难题提供了可行答案。面对数据预算、训练窗口与算力上限的三重约束,无需寄望于数据堆叠或昂贵的全参重训,而是以最小工程代价引入潜空间对齐与分布引导,实现快速、稳健的跨本体泛化适配。换言之,ATE 框架可以作为一个即插即用的模块,成为兼容各种主流 VLA 模型的后训练阶段的对齐引导方案,用于提升后训练的跨本体泛化能力,成为破解数据与训练瓶颈的实践路径。

作者简介:本文由 TeleAI 三名研究实习生:清华大学博士生张扬、港中文硕士生王陈炜、西工大硕士生陆欧阳作为共同第一作者,成果由 TeleAI 联合清华大学、港中文、西工大合作完成,本文通讯作者为 TeleAI 具身智能团队负责人白辰甲博士和 TeleAI 院长。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
林诗栋五局激战3-2惜败多哈冠军赛,国乒晋级男单八强

林诗栋五局激战3-2惜败多哈冠军赛,国乒晋级男单八强

小犙拍客在北漂
2026-01-09 17:37:21
随着本泽马戴帽+率队4-0,沙特联最新积分榜:C罗率队距榜首4分

随着本泽马戴帽+率队4-0,沙特联最新积分榜:C罗率队距榜首4分

侧身凌空斩
2026-01-10 04:33:21
NBA今日里程碑!哈登历史第1,库里创神级纪录,杜兰特超越张伯伦

NBA今日里程碑!哈登历史第1,库里创神级纪录,杜兰特超越张伯伦

世界体育圈
2026-01-10 14:11:08
中美军事实力有多大差距?张召忠:我可以负责任地讲,别再被误导

中美军事实力有多大差距?张召忠:我可以负责任地讲,别再被误导

混沌录
2025-05-12 18:38:14
事情闹大!篮协出马处理广东“冤案”,裁判4错判,迪亚洛太狠!

事情闹大!篮协出马处理广东“冤案”,裁判4错判,迪亚洛太狠!

篮球看比赛
2026-01-10 14:35:05
广东一货车撞落限高架致路人死亡,司机获刑后家属质疑:违规限高架是主因,事发前多次被撞坏未整改,已上诉

广东一货车撞落限高架致路人死亡,司机获刑后家属质疑:违规限高架是主因,事发前多次被撞坏未整改,已上诉

大风新闻
2026-01-10 11:04:42
周生生“黄金四叶草”项链一夜涨了1.5万元,国内金饰品牌价格新年第一涨

周生生“黄金四叶草”项链一夜涨了1.5万元,国内金饰品牌价格新年第一涨

界面新闻
2026-01-09 23:59:03
美国没想到,俄罗斯先下手为强,凌晨不宣而战,炸死8名英美军官

美国没想到,俄罗斯先下手为强,凌晨不宣而战,炸死8名英美军官

易昂杨
2026-01-10 19:09:23
激怒巴黎!28岁金球先生狮子大开口 拒3000万年薪续约:我要双倍

激怒巴黎!28岁金球先生狮子大开口 拒3000万年薪续约:我要双倍

我爱英超
2026-01-10 06:31:41
孙子满月,订20桌酒席只有2桌到场,我大发雷霆,儿子:你闹够没

孙子满月,订20桌酒席只有2桌到场,我大发雷霆,儿子:你闹够没

船长与船1
2026-01-09 10:20:11
王亚平的安保:吃饭要检测,出门配警卫,这种“副国级”待遇是不是小题大作?

王亚平的安保:吃饭要检测,出门配警卫,这种“副国级”待遇是不是小题大作?

历史回忆室
2026-01-06 15:54:12
张本智和赢球后,向国乒教练挥拳庆祝,有谁注意到周启豪的反应?

张本智和赢球后,向国乒教练挥拳庆祝,有谁注意到周启豪的反应?

十点街球体育
2026-01-10 02:00:03
为什么全网都在“针对”小米雷军?

为什么全网都在“针对”小米雷军?

首席商业评论
2026-01-09 13:23:54
WTT冠军赛女单4强战况:王曼昱苦战韩莹陈幸同压力大

WTT冠军赛女单4强战况:王曼昱苦战韩莹陈幸同压力大

五姑娘台球
2026-01-10 17:52:53
看到委内瑞拉的情况,李显龙在怕什么?

看到委内瑞拉的情况,李显龙在怕什么?

新民周刊
2026-01-09 09:09:48
“手头紧,裤头就绑紧点”,一场寒酸的生日宴,让家长被网友喷惨

“手头紧,裤头就绑紧点”,一场寒酸的生日宴,让家长被网友喷惨

妍妍教育日记
2026-01-08 18:20:41
白俄总统揭开中国最强底牌:中国让西方睡不着觉的是“不骄不躁”

白俄总统揭开中国最强底牌:中国让西方睡不着觉的是“不骄不躁”

小lu侃侃而谈
2026-01-10 19:45:04
日媒:河野洋平要求高市“尽快纠正错误”

日媒:河野洋平要求高市“尽快纠正错误”

参考消息
2026-01-09 19:16:01
大家做好准备!明年起,六七十岁的老人或将面临“三个现实问题”

大家做好准备!明年起,六七十岁的老人或将面临“三个现实问题”

哄动一时啊
2026-01-10 14:19:05
特朗普真正的“克星”来了,一枚高超音速导弹升空,直指美方本土

特朗普真正的“克星”来了,一枚高超音速导弹升空,直指美方本土

议纪史
2026-01-09 19:30:03
2026-01-10 20:39:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
12088文章数 142534关注度
往期回顾 全部

科技要闻

传DeepSeek准备第二次震惊全世界

头条要闻

特朗普宣称“不需要国际法” 联合国秘书长表态

头条要闻

特朗普宣称“不需要国际法” 联合国秘书长表态

体育要闻

怒摔水瓶!杜兰特30+12 难阻火箭遭双杀

娱乐要闻

吴速玲曝儿子Joe是恋爱脑

财经要闻

这不算诈骗吗?水滴保诱导扣款惹众怒

汽车要闻

宝马25年全球销量246.3万台 中国仍是第一大市场

态度原创

旅游
家居
本地
公开课
军事航空

旅游要闻

“游玩12小时,流连24小时” 借助冬日文旅“花样”新场景透视火热新消费图鉴

家居要闻

木色留白 演绎现代自由

本地新闻

云游内蒙|“包”你再来?一座在硬核里酿出诗意的城

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

海空英雄高翔逝世 曾驾驶歼-6打爆美军机

无障碍浏览 进入关怀版