网易首页 > 网易号 > 正文 申请入驻

只改65行词嵌入,机器人成功率74.3%升至87.5%

0
分享至

一条指令换个说法,机器人就抓瞎了。研究者让机器人「启动烹饪设备的热源」,原始策略却伸手去拿盘子,执行300步仍未完成任务。换上修改后的权重,同一个场景、同一条指令、同一个随机种子,机器人在第78步完成了任务。


完成这次修复的,是GPT-6 Astra。它被放在调试器的位置上,负责检查和修改机器人策略的权重。整个编辑过程没有做梯度更新,也没有新增机器人示范数据。

这项研究由Jusheng Zhang、Keze Wang和Liang Lin共同完成,论文题为《Can LLMs Debug Robots by Editing Their Weights?》。研究关心的是一个具体问题:机器人已经具备的操作能力,能否通过局部权重修改,被不同的语言表达更可靠地调用?

65行改在语言进入模型的地方

一条指令进入模型后,会先被拆成词元(token)。词元不一定等于完整英文单词。随后,模型按词元ID从嵌入表中取出对应的一行向量,后续网络处理的就是这些数值表征。

Astra最终保留的修改,集中在这张嵌入表上。它选出一部分词元,把向量移向更常见的任务表达,例如 cooker→stove、basin→bowl、fermented→wine。有些行采用目标向量,有些保留一部分原向量;遇到歧义,也可以使用多个目标向量的均值。

开场炉灶指令里的 cooking 就是一个具体例子。对应词元的嵌入被改为25%的原向量,加上75%的 stove 向量。输入给机器人的文字仍然包含 cooking,但进入后续网络的数值表示发生了变化。这一行属于整份65行修改,研究没有单独评估它的效果。

其余案例也保留了可检查的对应关系:酒瓶指令中的 fermented、grapes 被移向 wine;取碗指令中的 rounded 被移向 bowl,uppermost 被移向 top。完整词元映射和配对录像均已公开。

65行共改变132,768个参数值,占导出检查点的0.00367%。这里的「行」是嵌入表的行数,并非65个参数,也不是65行代码。

765条留出指令:48次修复,4次退化

一例成功视频还不能回答修改是否可靠。研究从同一个原始检查点分别开始三次编辑。候选确定后,再在同一组765条留出改写指令上与原始策略配对比较。

效果最好的C,将成功数从660提高到704:48个原本失败的回合成功了,同时有4个原本成功的回合失败,净增加44次成功。整体成功率从86.3%升至92.0%,提升5.8个百分点,精确配对检验 p=1.31×10⁻¹⁰。

把指令按是否读到被修改的嵌入行分开,变化的位置更清楚:

  • 包含被改词元的335个回合,成功数从249增至293,对应74.3%→87.5%;
  • 不包含这些词元的430个回合,成败结果逐一不变。

这种局部性有一个直接解释:如果指令没有读取被改动的行,查表得到的文本向量就相同。在相机观察、采样噪声等输入固定时,其余未改动的网络得到的计算输入也相同。但包含这些词元的其他新语境仍可能受到影响,不能据此保证模型在所有任务上都没有副作用。

取碗任务中,指令用「darkcolored rounded container」和「uppermost storage compartment」描述目标及位置。相同场景下,原始策略在220步超时,编辑后的策略在138步成功。酒瓶任务把目标描述为装着「fermented grapes」的玻璃容器,原始策略在300步超时,编辑后在90步成功。上述效果来自整份65行修改,未对单个词元分别做消融评估。

换一组同义词,就能做到吗?

一个自然的问题是:收益来自Astra找到了有意义的词汇对应关系,还是随便做一点参数扰动也能改善结果?研究对相同的65个源行做了两种对照。

第一种沿随机方向移动,移动距离与原修改匹配。第二种沿用Astra找到的词汇对应关系,把源嵌入完整替换为目标嵌入,也保留多目标均值的设置。这里比较的是嵌入值的完整替换,输入字符串没有被改写。

这次随机方向对照没有带来提升。完整替换则已经解释了相当一部分收益:成功率达到90.5%。这意味着,找到哪些词元需要改、应该移向哪里,本身就是修复的重要部分。

Astra编辑C的成功率为92.0%,点估计更高,退化也更少;但它与完整替换在763个有效配对上的直接比较 p=0.0614,尚未达到0.05的显著性标准。因此,现有结果没有确认「部分混合显著优于完整替换」,也没有证明它优于独立编制的人工词表、提示词改写或微调方法。

公开的16次机器人实验,还覆盖了相机视角、背景、语言扰动、指令后缀,以及LIBERO-RECOVER失败恢复和LIBERO-PRO鲁棒性搜索。按论文的最终决定统计,三次语言修复全部保留,且都有显著留出收益;其余13次搜索中有12次放弃候选,唯一计为保留的后缀跟进也没有显著留出收益,p=0.542。

失败恢复实验很能说明区别。一份修改让机器人空抓后更经常重新张开夹爪,但在一组练习评测中,真正完成任务的次数反而从213/352降到208/352。某个内部信号按预期变化,整个任务却没有变好。

论文标题问的是:LLM能靠修改权重调试机器人吗?这组实验对一类词汇理解失败给出了肯定结果:少量直接权重修改,让一批留出指令更可靠地调用了策略已有的操作行为。语言到动作的完整因果通路,目前还没有逐层定位。

验证范围也有明确边界。主留出测试使用同一随机种子;早期200条留出子集未检出显著提升,随后是在既有完整留出划分上评测同一候选。补充的多种子检查来自练习集,收益不均匀。所有已公开结果均来自仿真,尚未验证真机迁移或新运动技能的获得。

当前开源的是第一版(v1),第二版研究和真机实验正在进行。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
不公平!同样是师德失范,河南财大开除赵增彦,有人却放纵袁久红

不公平!同样是师德失范,河南财大开除赵增彦,有人却放纵袁久红

平老师666
2026-11-15 11:47:06
美防长抢先访华,美国嗅到危险信号,贝森特:对中国有个不情之请

美防长抢先访华,美国嗅到危险信号,贝森特:对中国有个不情之请

关权教授聊经济
2026-11-12 22:40:07
2026—2032金价预测:100克黄金,5年后值多少钱?

2026—2032金价预测:100克黄金,5年后值多少钱?

三农老历
2026-11-15 06:37:01
至暗时刻,硅谷大佬齐发声:“任何人都不能接替黄仁勋”,数千名员工 “逼宫”,马斯克带头签名支持

至暗时刻,硅谷大佬齐发声:“任何人都不能接替黄仁勋”,数千名员工 “逼宫”,马斯克带头签名支持

起点财经
2026-11-14 17:17:27
35页PPT疯传:洛阳女子1女谈3男,每天卡时间,都已谈婚论嫁

35页PPT疯传:洛阳女子1女谈3男,每天卡时间,都已谈婚论嫁

烈史
2026-05-30 13:23:41
为什么有的男生DIY多了,同房时一碰就Biu?

为什么有的男生DIY多了,同房时一碰就Biu?

许超医生
2026-11-14 10:08:59
土耳其的女子确实漂亮,兼具典雅容貌与异域风情

土耳其的女子确实漂亮,兼具典雅容貌与异域风情

娱你同欢
2026-10-07 11:06:22
沙特首都利雅得传出剧烈爆炸声

沙特首都利雅得传出剧烈爆炸声

每日经济新闻
2026-11-15 09:32:43
张学良执意亲送蒋介石回南京,毛泽东为何说没有这一步就没有和平解决

张学良执意亲送蒋介石回南京,毛泽东为何说没有这一步就没有和平解决

纪史行者
2026-11-13 06:15:03
他们是汉族人,人口超过一亿,说着正宗汉语,我们却始终听不懂他们的日常表达

他们是汉族人,人口超过一亿,说着正宗汉语,我们却始终听不懂他们的日常表达

蒋南强读历史
2026-08-26 06:00:09
阵仗超一整个印度空军!美智库:东大在西北举行神秘大演习,同时出动超300架战机

阵仗超一整个印度空军!美智库:东大在西北举行神秘大演习,同时出动超300架战机

华人星光
2026-11-14 12:32:54
星舰15飞开创历史:人类首次成功回收入轨火箭的上级!

星舰15飞开创历史:人类首次成功回收入轨火箭的上级!

瓦砾村夫
2026-11-15 06:55:31
2-0!斯维托丽娜时隔7年再进决赛 获150万美元 决战俄罗斯少女

2-0!斯维托丽娜时隔7年再进决赛 获150万美元 决战俄罗斯少女

念洲
2026-11-15 08:57:02
鲍尔三分球19投仅4中!芬奇:希望他能够继续保持投篮自信

鲍尔三分球19投仅4中!芬奇:希望他能够继续保持投篮自信

北青网-北京青年报
2026-11-15 13:47:01
轮到中国掀桌,中方罕见出手,日本反对无效,日媒:最坏结果出现了

轮到中国掀桌,中方罕见出手,日本反对无效,日媒:最坏结果出现了

关权教授聊经济
2026-10-18 19:47:06
女子发视频哭诉生孩子没有尊严:主刀、麻醉都是男的,查房直接上手检查,旁边还站着一群实习生

女子发视频哭诉生孩子没有尊严:主刀、麻醉都是男的,查房直接上手检查,旁边还站着一群实习生

一丝不苟的法律人
2026-11-05 14:23:39
突发!油价迎年内最大跌幅,95号重回7元时代?机构:还得跌!

突发!油价迎年内最大跌幅,95号重回7元时代?机构:还得跌!

米果说识
2026-11-15 11:35:44
反思过去的计划生育口号,孙玉良:不负责任的口号损害政府公信力

反思过去的计划生育口号,孙玉良:不负责任的口号损害政府公信力

孙玉良
2026-10-18 08:56:59
骑士让了五个首发!5人砍下18+打崩三状元,欧文34分,弗拉格太铁

骑士让了五个首发!5人砍下18+打崩三状元,欧文34分,弗拉格太铁

你的篮球频道
2026-11-15 11:01:51
一个奇怪的现象:为什么美国每次要对中国下死手,总会被大事打断

一个奇怪的现象:为什么美国每次要对中国下死手,总会被大事打断

你得漂亮
2026-11-11 15:38:55
2026-11-15 14:23:00
闪存猎手
闪存猎手
全网蹲好价的野生捕手,算力与羊毛都不可辜负。
222文章数 85关注度
往期回顾 全部

科技要闻

历史头一回!马斯克用"筷子"夹住太空飞船

头条要闻

客人要求用百元大钞做“现金花束” 花店直接报警

头条要闻

客人要求用百元大钞做“现金花束” 花店直接报警

体育要闻

马刺破勇士:文班与库里各自的价值

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

英伟达、字节、谷歌,涌入"救命"的生意

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

手机
数码
游戏
本地
公开课

手机要闻

鞠婧祎代言 荣耀700系列四款高颜值配色公布:全系标配原生AI背屏

数码要闻

满电开躁!11月16日,航嘉满电青年计划约你西南交大见!

飞燕群岛:新IP城市街区风格 有大量可自由进出房屋

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版