网易首页 > 网易号 > 正文 申请入驻

128K上下文窗口输给了8K?智能体主动管理上下文才是关键

0
分享至

一个128K上下文窗口的模型,在长任务基准测试中平均得分45.93;而同一个模型,只给它8K-10K的上下文空间,得分却飙到69.40。差距不是来自更大的窗口,而是来自一个叫ContextPilot的机制——它让智能体自己决定什么该留在上下文里。

这篇论文的核心观点很直接:长期运行的智能体(agent)需要的不是更大的上下文窗口,而是学会判断什么信息值得留在上下文中。当智能体不断执行搜索、调用工具、记录推理过程,提示词(prompt)里的内容会越堆越多。最终,模型花费大量token去区分哪些是有用的信息,哪些是过时的杂物——效率反而下降了。


问题不在窗口大小,在管理方式

ContextPilot的思路是把这个管理权交给智能体自己。它被赋予了几项能力:规划上下文的使用、把重要信息保存到长期记忆、对旧内容进行总结、压缩或直接删除。这些操作不再是预设规则,而是通过强化学习(RL)训练出来的策略——模型在学习过程中逐渐明白,哪些上下文决策真正有助于完成任务。

论文用Qwen3-8B做了对比实验。在4个长上下文基准测试中,使用ContextPilot训练的版本(ContextPilot-8B-RL)平均得分69.40,而同一个模型使用128K窗口但没有任何上下文管理工具时,平均得分只有45.93。这个差距说明,单纯扩大窗口并不能解决长任务中的信息过载问题。

上下文占用对比:8K vs 30K

更直观的对比出现在BrowseComp基准测试上。ContextPilot-8B-RL在每轮任务中保持约8K-10K token的上下文占用,而对照组WebExplorer-8B的上下文则一路膨胀到接近30K token。三倍的上下文消耗,换来的却是更低的得分——信息堆积带来的负面影响,比很多人预想的更严重。

这组数据指向一个反直觉的结论:给智能体一个更小的、可主动管理的工作上下文,比给它一个巨大的、被动堆积的窗口更有效。上下文管理的核心不是"装得下",而是"留得对"。

论文的最终建议

研究团队给出的建议很明确:停止把整个对话历史当作记忆来对待。应该给智能体一个较小的、可主动管理的工作上下文,并通过训练让它学会保留真正重要的信息。换句话说,上下文管理应该是一项学习得来的策略,而不是一个静态的容量参数。

这个思路对当前大模型应用有直接参考价值。长任务场景下,上下文膨胀是普遍痛点——无论是代码生成、多轮对话还是复杂工具调用,token消耗和有效信息密度之间的矛盾一直存在。ContextPilot提供了一条新路径:与其不断堆硬件和窗口,不如让模型自己学会取舍。

论文已发布在arXiv上(编号2608.28476),感兴趣的读者可以查看完整实验细节。这项研究目前仍处于学术阶段,距离工程落地还有距离,但它指出的方向——上下文管理作为可学习策略——值得做长任务应用的团队认真考虑。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
普京:我们原以为炼油厂是民用设施不会挨打,结果判断错了

普京:我们原以为炼油厂是民用设施不会挨打,结果判断错了

桂系007
2026-09-03 20:32:24
370:48!美投票结果公布,特朗普迎来3重挑战,奥巴马或有望反击

370:48!美投票结果公布,特朗普迎来3重挑战,奥巴马或有望反击

南宗历史
2026-09-04 05:11:27
郑钦文第3轮对手确定!战前澳网冠军冲32强,交战记录1胜1负

郑钦文第3轮对手确定!战前澳网冠军冲32强,交战记录1胜1负

全景体育V
2026-09-04 06:20:31
博主曝华为P70 Pro用三星旧内存,随后发文道歉承认伪造

博主曝华为P70 Pro用三星旧内存,随后发文道歉承认伪造

i黑马
2026-09-03 14:59:06
美以联手打了半年,为何最后谁都没赢,反倒把中东盟友逼得四分五裂?

美以联手打了半年,为何最后谁都没赢,反倒把中东盟友逼得四分五裂?

王晋博士
2026-08-31 16:26:18
大快人心!坐牢20年不算完,美国法院:你的公民身份,我们收回了

大快人心!坐牢20年不算完,美国法院:你的公民身份,我们收回了

怪味历史连连看
2026-09-02 23:30:05
戒指已经买好,男友却突然坦白:“我还没睡够别人”!美国妹子转身叫来U-Haul……

戒指已经买好,男友却突然坦白:“我还没睡够别人”!美国妹子转身叫来U-Haul……

英国那些事儿
2026-09-03 00:05:25
马蓉直播哭穷,5000万快花光!金发造型寻找下一个“王宝强”?

马蓉直播哭穷,5000万快花光!金发造型寻找下一个“王宝强”?

八卦疯叔
2026-09-03 10:00:06
被当街扒裤的女子回应了:她是女主播,打她的女人找不到老公了,怀疑她是小三

被当街扒裤的女子回应了:她是女主播,打她的女人找不到老公了,怀疑她是小三

汉史趣闻
2026-09-02 18:57:28
中国足球等了二十年,终于等来了一个真正会踢右后卫的人

中国足球等了二十年,终于等来了一个真正会踢右后卫的人

中场阴谋家
2026-09-03 22:46:22
全程压制,郑钦文突破心魔,普丁塞娃被打崩溃,中国金花怒吼观众

全程压制,郑钦文突破心魔,普丁塞娃被打崩溃,中国金花怒吼观众

南海浪花
2026-09-04 05:31:05
“爷爷黄毛,奶奶满背”,一家五口火了,网友:孩子上小学后不简单

“爷爷黄毛,奶奶满背”,一家五口火了,网友:孩子上小学后不简单

熙熙说教
2026-09-02 13:31:16
四川一考生远赴211报到,住一晚就退学,学费已缴,本人回应:忽然醒悟了

四川一考生远赴211报到,住一晚就退学,学费已缴,本人回应:忽然醒悟了

育学笔谈
2026-09-03 13:46:33
金正恩这步棋比清洗还狠!援俄刚打出威名,朝鲜军队高层一夜洗牌

金正恩这步棋比清洗还狠!援俄刚打出威名,朝鲜军队高层一夜洗牌

三毛看世界
2026-09-03 14:03:33
网传“贵州秋假连着中秋国庆连休13天?”辟谣→

网传“贵州秋假连着中秋国庆连休13天?”辟谣→

环球网资讯
2026-09-03 19:26:12
悲催!寒窗二十载,上岗仅4天:她的人生,定格在吉隆口岸国门,网友:一辈子都在学习考试,只尝到4天的甜

悲催!寒窗二十载,上岗仅4天:她的人生,定格在吉隆口岸国门,网友:一辈子都在学习考试,只尝到4天的甜

火山詩话
2026-09-02 15:52:13
特斯拉“团灭”网约车司机,已经在路上了

特斯拉“团灭”网约车司机,已经在路上了

今纶财经
2026-09-03 19:59:35
战满三盘惜败出局!王欣瑜止步美网次轮,中国球员女单仅剩郑钦文

战满三盘惜败出局!王欣瑜止步美网次轮,中国球员女单仅剩郑钦文

全景体育V
2026-09-03 08:01:45
账面328亿美元!孙宇晨公开资产估值表引热议,网友:大部分其实都不能变现

账面328亿美元!孙宇晨公开资产估值表引热议,网友:大部分其实都不能变现

火山詩话
2026-09-02 17:12:20
不到24小时曝4大瓜!认孩子,除名,于东来力挺韩红后,央视下场

不到24小时曝4大瓜!认孩子,除名,于东来力挺韩红后,央视下场

妙知
2026-09-04 04:40:43
2026-09-04 07:32:49
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
209文章数 80关注度
往期回顾 全部

科技要闻

英伟达129亿美元拿下Hugging Face

头条要闻

男子逛夜市遭按摩摊大妈拉住 被5个大妈服务按到发红

头条要闻

男子逛夜市遭按摩摊大妈拉住 被5个大妈服务按到发红

体育要闻

梅西:巴萨10号与阿根廷10号

娱乐要闻

王宝强携女友回工作室!相恋8年仍未婚

财经要闻

章子怡套现3亿 上美拿什么补韩束的缺?

汽车要闻

限时权益价28.99万起 FREELANDER神行者8正式上市

态度原创

旅游
时尚
本地
亲子
房产

旅游要闻

巴黎自行车旅游升温,多家公司推出特色骑行线路   新民侨梁

女人到了60岁衣服少穿大红大绿,试试这些纯色单品,高级又耐看

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

亲子要闻

孩子不长个,建议查查这四项

房产要闻

投资50亿!三亚又一重大配套,方案曝光!

无障碍浏览 进入关怀版