![]()
先问你一个问题。
如果你家里的扫地机器人每次撞到同一个桌角,你希望它怎么办?大部分人会说,希望它下次记住这里有个桌角。但现实是,绝大多数机器人系统压根没有"记住"这个能力,它们一次又一次撞在同一个地方,直到工程师回去改代码。
这就是embodied agent(具身智能体,指能感知环境并在物理世界中执行动作的AI系统,比如机器人)领域一直以来的尴尬现状。哪怕装上了最聪明的大语言模型当大脑,机器人执行任务时该忘的还是忘,该错的还是错,经验从来没有真正沉淀下来。
新加坡南洋理工大学联合北航、新国立、上海交大等机构的研究团队,最近发布了一个叫RoboFoundry的系统,试图从根子上解决这个问题。它的核心主张有点反直觉:与其不断升级机器人的"大脑"(也就是那个大语言模型本身),不如让"大脑之外的整套系统"学会自我进化。这篇论文里,他们把GPT-5.5的表现硬生生拉高了27.8%,而且这个提升不是靠换了更强的模型,是靠改造了模型周围那套支撑系统。
这事听起来有点玄乎,我们慢慢拆开看。
大脑很聪明,但身边的助理很业余
先说个可能会颠覆你认知的事实。
大语言模型(LLM)能做规划、能推理、能理解图像,这些能力早就被验证过了。但当你把GPT-5.5这样的顶尖模型直接塞进一个机器人系统里,让它去完成"把厨房里所有清洁剂从水槽搬到沙发上"这种任务时,它的表现经常很糟糕。论文里的原始GPT-5.5在EmbodiedBench这个测试集上只拿到56.9分的平均分,而经过RoboFoundry改造后,同一个模型能冲到72.7分。
模型没换,分数却能差出16分,这说明什么问题?
说明问题根本不在大脑本身,而在大脑周围的那套"支持系统"。研究者提出一个概念,叫System-as-Policy(系统即策略)。
System-as-Policy指的是,一个机器人的实际行为表现,不是单纯由那个大语言模型决定的,而是由模型加上它周围一整套支撑设施共同决定的,这些设施包括:模型能看到什么信息、它记住了什么、它的决策如何被转化成实际的机械动作。
这就好比公司里招了一个绝顶聪明的新员工,但没人给他配电脑、没有内部资料库、也没人告诉他上次犯过什么错。这个员工再聪明,也只能每天从零开始摸索,永远重复同样的低级失误。真正决定这个员工工作表现的,从来不只是他的智商,而是公司给他配的整套工作环境。如果不给这套环境配齐,再换十个更聪明的新员工,结果也一样。
这个类比揭示了一个关键代价:如果只盯着换更强的模型,而不去改造周围的支持系统,那么投入产出比会极低。你花大价钱升级了大脑,但工作环境还是一团糟,聪明反而成了浪费。
那具体怎么改?
诊断、修复、验证、推广:一个闭环
RoboFoundry设计了一个循环机制,叫Act-Reflect-Repair-Promote(行动-反思-修复-推广)。
这个循环分四步走。第一步是执行任务,机器人按照当前系统去干活,把整个过程——看到了什么、做了什么、结果如何——全部记录下来,这叫执行轨迹(execution trace)。
执行轨迹:机器人完成一次任务的完整记录,包括每一步的观察、决策、动作和结果反馈,相当于一份详细的"工作日志"。
第二步是反思,系统会分析刚才失败或低效的地方,到底是哪个环节出的问题。研究者把可能出错的地方归纳成六种能力:感知(perceive)、推理(reason)、规划(plan)、存储(save)、检索(retrieve)、利用(utilize)。前三个管决策,后三个管记忆。
第三步是修复,针对诊断出的问题,系统会对自己的"支撑结构"做一次编辑,可能是改写一段提示词模板,可能是新增一条记忆规则,也可能是调整某个动作技能的执行逻辑。这个修复会先在当前这一个任务上验证有没有效果。
第四步是推广,如果这次修复真的解决了问题,系统还不会立刻就此打住。它会去检查:这个修复思路是不是能用在别的类似任务上?如果在其他任务上也验证有效,这条改进才会被写进"通用系统",变成所有后续任务都能享用的永久升级。
这四步里最值得琢磨的是最后一步。很多系统会犯的错误是,一旦某个任务修好了就完事了,下一个任务遇到类似问题还得重新踩一遍坑。RoboFoundry刻意把"针对单个任务的补丁"和"能推广到所有任务的通用规则"分开处理,只有经过跨任务验证的改进,才配得到"晋升"的资格。
这就像医院里医生开的处方。一个病人吃了某种药好转了,不代表这个药方就该马上写进全院的诊疗指南。得等这个疗法在别的病人身上也验证过效果,才有资格被写进标准流程,给所有医生都用上。否则,万一那个病人好转只是巧合,把它当成普遍真理推广出去,反而会害了更多人。这也是为什么RoboFoundry要专门设计一个"held-out"验证机制来把关,而不是随便一个修复有效就直接推广。
held-out验证:为了检验一个改进是不是"真的普适",特意留出一批没参与过修复过程的任务案例来测试,只有在这些完全没见过的案例上也表现好,才能确认改进不是巧合。
context和skill:两条并行的进化通道
RoboFoundry把整个可进化的系统分成两个层面来管理,一个叫context surface(上下文系统),一个叫skill surface(技能系统)。
context surface管的是"信息怎么存、怎么取、怎么用"。它包含两部分:一个是文件系统层面的持久化记忆,类似于机器人的长期笔记本;另一个是当前任务执行时呈现给模型的活跃上下文,类似于工作台上摊开的那几页参考资料。
这里有个细节值得说一下,系统不是每一步都疯狂往记忆里塞东西,而是有选择地"该记的时候才记"。论文里给了个例子,做遮挡类任务(比如东西被挡住看不见了)需要记录物体和空间关系,而做计数类任务(比如要重复倒两次调料)则需要记录动作发生的次数。这两种任务需要记住的东西完全不一样,如果系统傻乎乎地把所有观察都无差别塞进记忆,反而会把真正重要的信息淹没掉。
skill surface管的是"动作怎么拆、怎么组合、出错了怎么补救"。它分三层:最底层是atomic skills(原子技能),比如抓取、移动这种不可再拆分的基本动作;中间层是把原子技能组合成的可复用流程,比如"移动-抓取-放置"三个动作拼成一次搬运;最上层是recovery(失败恢复机制),论文里描述了一棵recovery tree(恢复树),记录任务执行过程中出现过的各种关键状态,一旦某个动作失败了,系统可以查这棵树,找到一个之前验证过可行的状态重新规划,而不是傻乎乎地把刚才失败的动作再重复一遍。
论文里举了个例子特别形象。假设机器人在搬运一个方块,结果方块半路掉了,系统这时候不会从头再来一次完整的抓取-移动流程,而是直接定位到"方块落在支撑面上"这个已知状态,从这里重新规划一次抓取动作。这就像你端着一摞盘子走路,不小心掉了一个,你不会把整摞盘子都放回厨房重新端一遍,而是就地捡起掉落的那个盘子,接着往前走。如果没有这套恢复机制,机器人每次遇到意外都得从任务起点重跑一遍,不仅浪费时间,失败率也会因为重复暴露在同样的风险中而累积升高。
一套语义接口,让经验能跨机器人使用
这套系统还有一个挺聪明的设计,叫shared semantic interface(共享语义接口)。
具体做法是,把"任务该怎么理解"和"这个具体机器人该怎么执行"这两件事彻底拆开。前者叫semantic binding(语义绑定),处理的是"抓取绿色方块放进左边的盒子"这种跟具体机器人型号无关的任务逻辑;后者叫execution binding(执行绑定),处理的是这个具体的机械臂应该怎么摆动关节、怎么控制夹爪这种物理层面的执行细节。
这个设计带来的好处是,在一个机器人平台上进化出来的能力,理论上可以直接迁移到另一个完全不同的机器人上,只需要换一套执行绑定就行,不需要从头再学一遍任务逻辑。
论文里有个真实案例特别能说明这点。研究者先在一块蓝色毛巾上训练机器人学会折叠动作,然后直接拿绿色和粉色两块从没见过的毛巾去测试,材质、颜色、几何形状全都不一样。结果RoboFoundry的成功率超过80%,而没有经过这套进化的标准π0.5模型(一个视觉-语言-动作模型)成功率不到20%,还得额外做微调才行。
这就像一个厨师学会了"怎么判断食材是否炒熟"这个通用判断逻辑,而不是死记硬背"炒青菜要几分钟"。真正学会判断逻辑的厨师,换一种从没做过的蔬菜也能大致判断火候,而只是死记硬背时间表的厨师,换个食材就抓瞎了。如果RoboFoundry不做这层语义和执行的拆分,那每次换一个机器人平台,所有积累的经验都要推倒重来,这也正是很多机器人系统目前面临的窘境。
数据说话:几个关键测试的成绩单
说了这么多设计理念,回到最实在的问题,这套系统到底管不管用?
论文在三个主要测试集上做了验证。第一个是EmbodiedBench,一个覆盖1128个任务、四种环境的综合测试集。结果显示,RoboFoundry给五个不同的基础模型都带来了实打实的提升,GPT-6 Astra提升6.1个百分点,GPT-5.5提升15.8个百分点,Qwen3.7-Plus提升10.4个百分点。特别值得注意的是,原本实力偏弱的Qwen3.7-Plus经过RoboFoundry改造后,达到70.3分,已经非常接近改造后的GPT-5.5(72.7分)。这说明真正决定表现好坏的,是这套进化系统,而不是某个特定的模型有多强。
第二个测试是RoboMemArena,专门考察长时程记忆能力,涵盖搬运、遮挡、计数、序列四类任务。RoboFoundry拿到53.5%的任务成功率,比排名第二的方法PrediMem高出至少39%,在"搬运"这个子类里,相对提升幅度达到213.3%。
第三个测试是LIBERO-PRO,专门考验系统在物体布局、任务描述发生变化时的鲁棒性。RoboFoundry在没有使用任何"作弊"信息(比如仿真器里的物体精确坐标)的情况下,平均成功率达到91.9%,超过了此前的最佳方法Harness VLA的87.8%。在"空间位置扰动"这个子类里,相对CaP-Agent0这个基线方法,提升幅度高达679.7%。
这几个数字背后有个共同的逻辑,这套系统的进化能力,不是只在某一个特定场景下管用的偶然结果,而是在决策、记忆、鲁棒性这三个完全不同维度上都表现出一致的提升。
真机实验:从模拟器走到现实世界
光在模拟器里表现好还不够,论文还专门做了真实机器人上的实验。
一个案例是套娃任务。研究者用AgileX COBOT MAGIC这款真实机械臂去玩俄罗斯套娃,要求既要按大小顺序摆放,又要精确嵌套插入。早期尝试频繁失败,机器人要么对不准位置导致套娃掉落,要么中途丢失进度不知道该从哪继续。系统针对这两个具体问题分别做了修复,一个是加入对齐检查动作,一个是加入进度追踪机制,让执行可以从上次完成的地方续上,而不是每次失败都从头再来。最终RoboFoundry的成功率达到70%,标准π0.5只有30%。
另一个案例更有意思,一次长达六个步骤的化学实验模拟任务,包括插入漏斗、放置容器、去皮称重、加粉末、还回勺子、倒粉末,这六个步骤环环相扣。系统通过context surface(上下文系统)把之前步骤留下的关键状态一直保存着,直到最后一步倒粉末时,系统还能准确调用几个步骤之前记录下的"漏斗已就绪"这个状态信息来指导动作。标准π0.5在这个多步骤任务上则很难坚持到最后。
这个案例挺能说明问题,长时程任务最怕的不是单个动作做不好,而是"忘了自己刚才做到哪一步了"。这就像你去超市买齐一份复杂的菜谱食材,如果没有购物清单,走到收银台前经常会想不起来到底买齐了没有。context surface扮演的角色,正是这份始终摊在手边、随时可查的购物清单。
写在后面
读完这篇论文,最让我意外的一点是,它没有去卷模型本身的参数量或者训练技巧,而是回过头去问一个更朴素的问题:一个AI系统的"周边设施"到底该怎么设计,才能让经验真正沉淀下来。这其实是个容易被忽视的角度,大家总盯着模型越做越大,却很少有人系统性地去问,模型之外那套支撑结构本身能不能自己变聪明。
有个细节我印象很深。论文里提到,给上下文窗口从4K扩大到16K token,某些模型的表现反而下降了,GLM5.3-Flash从62.0%掉到61.3%。这说明单纯给更多信息空间,不代表模型能用得好,信息太多反而可能变成干扰。这和很多人朴素以为的"给AI更大内存就能表现更好"是相反的,真正重要的不是给多少信息,而是给对的信息、在对的时机给。
另外一个值得琢磨的地方是,论文里那个"任务级修复"和"通用级推广"分离的设计,其实映射了一个更普遍的道理:任何系统想要真正实现自我改进,都得先解决"局部经验怎样变成普遍规律"这个问题,而不能满足于打补丁式的头痛医头。这个思路放到别的领域,比如企业的知识管理、个人的习惯养成,好像都能找到影子。
这篇论文没有解决的问题也很明显。它现在还依赖人类预先设定好的六种能力分类框架(感知、推理、规划、存储、检索、利用),这个框架本身是不是足够、有没有遗漏,论文里没有深究。如果未来出现一种全新类型的失败,不属于这六类里的任何一种,这套诊断机制还能识别出来吗?这大概是留给后续研究者去回答的问题。
Q&A
Q1:RoboFoundry是什么?
A:RoboFoundry是一个让机器人系统自我进化的框架,它不改动大语言模型本身,而是让模型周围的支撑系统(包括记忆管理和技能执行)从执行经验中持续学习和改进。
Q2:RoboFoundry真的能提升机器人的表现吗,提升多少?
A:能。在EmbodiedBench测试中它把GPT-5.5的表现提升了27.8%,在RoboMemArena长时程记忆测试中比第二名方法高出至少39%,在LIBERO-PRO鲁棒性测试中对某些扰动类型的提升甚至超过600%。
Q3:RoboFoundry学会的能力能不能换个机器人接着用?
A:可以。它设计了一套语义接口,把任务逻辑和具体机器人的执行细节分开,实验显示在一台机械臂上学会的毛巾折叠技能,可以零样本迁移到全新材质、颜色的毛巾上,成功率超过80%。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.