网易首页 > 网易号 > 正文 申请入驻

反常识!微软最新研究:Agent 的“长记忆”可能是毒药

0
分享至


大数据文摘出品

最近,AI 圈出了篇挺反常识的论文。主角是微软研究院,研究对象是眼下最火的 Agent。


via https://arxiv.org/html/2610.07447v1

按常理,Agent 记得越多,活应该干得越好。但这篇 10 月 5 日挂上 arXiv 的论文《Fork-and-Flush: Escaping Idea Basins in Autoresearch Agents》说,事情可能恰恰相反:聊得越久,Agent 越容易钻进牛角尖。对付牛角尖,微软开出的药方听上去简单粗暴,定期清空聊天记录。

同一个 Agent,跑八次,像八个人

研究者盯上的是一种“自动做研究"的 Agent。它的工作方式是:提一个方案,跑实验,看分数,再根据反馈提下一个方案。一轮接一轮,一跑就是几个小时甚至好几天。

他们让同一个 Agent 在同一个任务上独立跑了八次。按理结果应该差不多,实际最终分数从 68.3 一路排到 100.0,中位数 81.9,最差和最好差了 30 多分。

更扎心的是,砸算力没用。给跑得差的那几次追加大量计算,它们就在原地打转,差距基本补不上去。

为什么会这样?团队把每次运行产出的方案按"功能相似度"画成一张二维地图,发现每次运行的方案都缩在地图的一小块区域里,从头到尾没怎么挪窝。他们给这种区域起了个名字,"思维盆地"(idea basin)。八次运行都掉进了五个不同的盆地。


同一个 Agent 同一个任务跑八次。左图:分数随算力投入的变化,八次运行 plateau 在不同高度,最终分数 68.3 到 100.0。右图:按功能相似度画的方案地图,八次运行缩进五个"思维盆地"。

这就像一个装修队,第一天定了北欧风,之后买的每一件家具都在往北欧风上靠。哪怕地中海风其实更适合这个户型,他们也想不起来了,因为手机里存满了北欧风参考图。聊天记录,就是 Agent 手机里那些参考图。

值得一提的是,这些 Agent 本来就有"自动压缩聊天记录"的机制,聊太长了会自己总结一下再继续。但实测下来,光靠压缩摘要,还是跳不出盆地。

微软的药方:记忆清空

方法叫 Fork-and-Flush,翻译过来大概是"分叉加清空",分两步。

分叉(Fork):把 Agent 复制成几个并行分支,每个分支都继承完整的"工作区",也就是之前写好的代码、文件和实验结果,家当一件不落地带走。

清空(Flush):每个分支的聊天记录清零。你们几个,别管之前是怎么想的,看着现有的东西,重新琢磨该怎么做。

分支跑一段固定时间后比一比分数,留下最好的那个继续,其余的解散。论文里有句话说得很到位:新分支必须从这些文件里重新推导出自己的意图,这正是它能落到另一个盆地里的原因。


Fork-and-Flush 示意图。左图:分叉后各分支带着同一个工作区、以空白聊天记录重新出发,胜出分支继续向上。右图:清空后的分支有机会跳进另一个思维盆地,没跳出去的就地解散。

研究者在 13 个长周期任务上做了测试,包括多连块拼图、车间调度、密码破译、压缩图像分类器、优化 VLIW 内核。单次运行从几小时到超过一百个小时,干活的模型是 GPT-5.6-terra 和 GPT-5.5,通过 GitHub Copilot 的命令行工具调用。

同样的算力预算下看归一化平均分:单跑 0.47,跑四次取最好的 0.54,Fork-and-Flush 0.78。换算成相对提升,比单跑高 66.0%,比四选一高 44.4%。13 个任务里,它在 12 个上平均分最高。发挥也更稳了,标准差从 0.26 降到 0.16。

消融实验也有意思:只清聊天记录不分叉,提升大约 22%;只分叉不清空,也有提升;但两个加在一起,效果才好。看来"遗忘"和"多试几次"各管一段。

最戏剧化的一次发生在拼图任务上。预算花到 71% 的时候触发清空,胜出的那个分支第一次提交就跨出了 43 个单位的距离。这是什么概念呢?单跑的 Agent 到了这个阶段,每步最多挪动 4.4 个单位。这一跳直接落进一个全新的盆地,最终拿到 93.9 分,而八个单跑基线的中位数是 84.6。另外三个没跳出去的分支,每步挪动不超过 1 个单位,原地留守。


拼图任务上的关键一跳。左图:蓝色箭头是胜出的 b3 分支,从分叉点直接跳进新盆地,最终 93.9 分。右图:清空之后它的第一步跨出 43 个单位,远远跳出灰色区域代表的单跑常规步幅。

模型再强,这个问题可能也在

有人可能会想,等模型更强了,大概就不会钻牛角尖了。

团队用 Qwen3.5 的 4B、9B、27B 三个尺寸,在 MAX-3-SAT 这种可以精确调节难度的题目上做了验证。结果发现,运行之间的差异呈一条倒 U 型曲线:题目太简单,每次都会做,解法趋同;题目太难,每次都做不出,失败得也趋同;差异最大的位置,恰好在模型能力的边缘,大约"能做对一半"的地方。拟合出来的峰值在 0.497,基本就是正中间。


横轴是模型相对于参考求解器的达成度,纵轴是多次运行之间的差异。三个尺寸的 Qwen3.5 描出同一条倒 U 型曲线,峰值在达成度 0.5 附近。

而开放性的研究问题,按定义就挂在能力边缘上。所以作者的判断是,模型继续变强,这种现象大概也不会消失,只是边缘会挪到更难的问题上去。定期重置上下文这招,对将来的前沿模型可能依然管用。

这个研究对做 Agent 产品的人有个挺直接的提醒:"上下文是资产"这个默认假设,也许值得打个问号。积累的记忆超过某个点之后,可能会反过来限制探索,早期的推理会把 Agent 锚在一条不够好的路线上。


点「赞」的人都变好看了哦!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
前国乒球员暗讽张继科后续,张继科回应:他段位不行上不了台面,让他来找我也不敢

前国乒球员暗讽张继科后续,张继科回应:他段位不行上不了台面,让他来找我也不敢

尘语者
2026-10-16 08:34:40
U16国足梦幻开局!袁博涵4分钟闪击,刘凯源助攻,全队疯狂庆祝

U16国足梦幻开局!袁博涵4分钟闪击,刘凯源助攻,全队疯狂庆祝

奥拜尔
2026-10-16 22:57:29
突发!中国邻国大乱!中央宣布紧急状态,接管边境省,高官被拘留

突发!中国邻国大乱!中央宣布紧急状态,接管边境省,高官被拘留

谛听骨语本尊
2026-10-16 14:57:31
《求是》再发重磅文章谈破解供强需弱,这次直接给出了“手术”执行方案!

《求是》再发重磅文章谈破解供强需弱,这次直接给出了“手术”执行方案!

识局Insight
2026-10-16 19:49:12
U16国足开门红!2球完胜卡塔尔,袁博涵闪击,刘宇洋一球成名

U16国足开门红!2球完胜卡塔尔,袁博涵闪击,刘宇洋一球成名

奥拜尔
2026-10-17 00:42:34
变天!特朗普突遭重创!

变天!特朗普突遭重创!

财经要参
2026-10-16 07:37:25
一锤定音:懂车帝违规测评顶风作案

一锤定音:懂车帝违规测评顶风作案

丁刚看世界
2026-10-16 21:33:59
乌克兰要被炸烂了!一个夏天,俄无人机暴增6倍,天天扑向城市

乌克兰要被炸烂了!一个夏天,俄无人机暴增6倍,天天扑向城市

可达鸭面面观
2026-10-16 21:47:08
从胡衡华到黄奇帆:红顶律师彭静事件来龙去脉与3个警示

从胡衡华到黄奇帆:红顶律师彭静事件来龙去脉与3个警示

案源易得
2026-10-16 15:23:14
短暂较量失败,特朗普愤怒至极,再次疯狂抨击泽连斯基

短暂较量失败,特朗普愤怒至极,再次疯狂抨击泽连斯基

山河路口
2026-10-16 19:17:19
南京博物院原院长徐湖平病死于南京一家监狱医院

南京博物院原院长徐湖平病死于南京一家监狱医院

坦腹斋
2026-10-15 19:40:45
华为跌48%,小米跌55%,OPPO 跌66%,vivo跌71%,手机涨价潮的可怕后果:五大国产旗舰,四个销量腰斩起步

华为跌48%,小米跌55%,OPPO 跌66%,vivo跌71%,手机涨价潮的可怕后果:五大国产旗舰,四个销量腰斩起步

起点财经
2026-10-14 11:11:13
比特币明年底被完全破解的概率升至11%!谷歌的量子计算又有新突破

比特币明年底被完全破解的概率升至11%!谷歌的量子计算又有新突破

爆角追踪
2026-10-16 14:11:55
美军方爆出猛料,特朗普为挽救中期选举,准备一脚踢开赫格塞斯

美军方爆出猛料,特朗普为挽救中期选举,准备一脚踢开赫格塞斯

观锐器
2026-10-16 20:55:37
5.6亿元“云养牛”骗局崩盘:12万人养了八年“空气牛”

5.6亿元“云养牛”骗局崩盘:12万人养了八年“空气牛”

华夏时报
2026-10-16 17:15:03
华中师范大学党委原书记赵凌云被查

华中师范大学党委原书记赵凌云被查

新京报
2026-10-16 19:04:14
大战一触即发!解放军封海仅一天,双航母实弹出动,美日坐立难安

大战一触即发!解放军封海仅一天,双航母实弹出动,美日坐立难安

面包夹知识
2026-10-16 16:08:14
惊天战损!泽连斯基曝:每 1 名乌兵阵亡,就有 7 到 10 名俄军陪葬

惊天战损!泽连斯基曝:每 1 名乌兵阵亡,就有 7 到 10 名俄军陪葬

观锐器
2026-10-16 16:51:48
不到48小时,星链恢复了,特朗普和马斯克受到什么压力?

不到48小时,星链恢复了,特朗普和马斯克受到什么压力?

山河路口
2026-10-16 12:22:41
赏罚分明?武汉女篮官方:丁亦可打架还手罚款1万,邢欣等人劝架奖励10万

赏罚分明?武汉女篮官方:丁亦可打架还手罚款1万,邢欣等人劝架奖励10万

懂球帝
2026-10-16 15:35:12
2026-10-17 02:15:00
大数据文摘 incentive-icons
大数据文摘
专注大数据,每日有分享!
6905文章数 94560关注度
往期回顾 全部

科技要闻

杨天若院士:AI是中国弯道超车的机会

头条要闻

李斌、何小鹏等多人发声 "特斯拉会飞"有三大疑问待解

头条要闻

李斌、何小鹏等多人发声 "特斯拉会飞"有三大疑问待解

体育要闻

工资一分不要,曼联名将想把母队带回西甲

娱乐要闻

郭富城现身香港大学,袁咏仪夫妇全程冷漠不搭话

财经要闻

港交所拟2028年下半年实施T+1结算

汽车要闻

特斯拉会飞?全新Roadster亮相

态度原创

游戏
艺术
健康
亲子
军事航空

终末地刚开新版本就画大饼,玩家却说香疯了?

艺术要闻

芭蕉入画,寓意"家大业大"

看着很健康的人,怎么会突然猝死?

亲子要闻

从1米高度看世界!深圳福田首届儿童双年展即将开幕

军事要闻

知情人士:乌克兰"爱国者"拦截弹库存耗尽

无障碍浏览 进入关怀版