网易首页 > 网易号 > 正文 申请入驻

上下文窗口越做越大,AI智能体反而越用越笨?

0
分享至

上下文窗口从8K一路卷到百万级,参数表上的数字越来越好看。但一批开发者开始发现一个反直觉的现象:窗口越大,智能体跑长任务时反而越容易出错。围绕这个话题,近期出现了一连串讨论,标题几乎都在说同一件事——更大的上下文,并不等于更好的记忆。

这些讨论的落点很集中:问题不在模型能不能装下更多内容,而在装进去之后,它还能不能分清哪些是当前有效的、哪些是早就该作废的。


窗口变大,为什么反而变差

相关文章里反复出现一个说法:上下文腐化正在破坏长时间运行的AI会话。窗口塞得越满,模型对早期信息的注意力越容易被稀释,越往后跑,越容易抓住过时状态当成事实。

另一批文章把矛头指向提示词本身。有观点认为,编码类智能体需要的不是更长的提示,而是更好的上下文——把什么放进窗口,比窗口能放多少更关键。

还有文章直接给出结论:更多上下文正在让你的AI变差。这些标题措辞不同,指向的机制却一致——容量和有效性是两回事。

被反复提到的替代方案:记忆架构

如果更大的窗口解决不了问题,那什么能解决?多篇文章给出的方向是记忆架构,而不是继续堆窗口。

有作者提出,AI需要的是记忆架构,而不只是更大的上下文窗口。也有文章把这件事拆成更具体的工程问题,讨论如何为AI智能体搭建记忆架构,并把向量数据库放进这套方案里。

其中一篇的标题把边界划得很清楚:设计智能体记忆时,有五道关卡是更大的上下文窗口替代不了的。这句话本身就是对"堆窗口"路线的否定。

还有文章尝试给记忆分类,提出每个工程师都应该知道的三种AI记忆类型。分类的意义在于,不同类型的信息需要不同的存取策略,而不是一股脑全塞进同一个窗口。

问题被重新定义

讨论到最后,焦点从模型转向了系统。有文章写道,AI的下一个突破不会来自更好的模型,而会来自更好的系统。另一篇则把上下文称为AI开发中最难的问题。

这两句话放在一起看,指向同一个判断:模型能力已经不是当前的主要瓶颈,怎么组织状态、怎么管理记忆、怎么让智能体在长任务里保持清醒,才是。

也有文章从更窄的场景切入,认为更大的模型修不好终端智能体。这个判断和前面的系统论调一致——终端场景里,智能体面对的是持续变化的环境状态,光靠模型规模补不上这块短板。

值得注意的是,这批讨论里并非只有一种声音。有文章专门为更大的模型辩护,讨论的是人类动作AI这个具体方向。这说明"更大是否更好"没有统一答案,取决于任务类型——需要长期状态管理的场景,和单次推理为主的场景,结论并不相同。

回到最初那个反直觉的现象:窗口变大本身没有错,错的是把它当成记忆问题的答案。状态需要的是谱系,是能追溯、能失效、能区分先后的结构,而不是一个越来越大的容器。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
女子买的二手房楼顶有座坟,就在客厅正上方,买房多年毫不知情;邻居:2009年埋着病逝7岁男童;警方已取走尸骨作进一步鉴定

女子买的二手房楼顶有座坟,就在客厅正上方,买房多年毫不知情;邻居:2009年埋着病逝7岁男童;警方已取走尸骨作进一步鉴定

都市快报橙柿互动
2026-10-08 00:14:49
“根本不想让他们来!”亚运会结束后,组委会主席言论引发争议

“根本不想让他们来!”亚运会结束后,组委会主席言论引发争议

全景体育V
2026-10-07 08:24:04
答案来了,韦世豪被红牌罚下为什么还笑?球迷:坚决支持!

答案来了,韦世豪被红牌罚下为什么还笑?球迷:坚决支持!

我就是一个说球的
2026-10-07 19:57:12
蔡康永风波再升级!发声惹众怒,官媒下场,这次谁也“救”不了他

蔡康永风波再升级!发声惹众怒,官媒下场,这次谁也“救”不了他

喜欢历史的阿繁
2026-10-07 17:49:43
大闹航班逼空乘下跪的欧皓辰,后续来了:企业十天不敢认领,公司切割的背后,全在算利益账

大闹航班逼空乘下跪的欧皓辰,后续来了:企业十天不敢认领,公司切割的背后,全在算利益账

秋风妃
2026-10-08 01:00:30
为什么一定要拼尽全力考上985、211?不是为了高人一等,是为了以后不用向生活低头

为什么一定要拼尽全力考上985、211?不是为了高人一等,是为了以后不用向生活低头

好爸育儿
2026-10-07 11:07:25
粤J2888T女车主真容曝光:人美心也善!搞笑的是,这个国庆,她又带错路了…

粤J2888T女车主真容曝光:人美心也善!搞笑的是,这个国庆,她又带错路了…

潇拾亿郎
2026-10-07 20:32:50
祁连县文旅局的魔幻行为,一开始是被当成正能量宣传的

祁连县文旅局的魔幻行为,一开始是被当成正能量宣传的

清书先生
2026-10-06 14:42:20
今天14时28分,江苏正式进入......

今天14时28分,江苏正式进入......

江苏警方
2026-10-08 07:06:37
你要打多久我就奉陪多久!只要大陆军机敢越界,台军就先开火击落

你要打多久我就奉陪多久!只要大陆军机敢越界,台军就先开火击落

叶老四
2026-10-07 18:32:25
河南一新娘的九个舅舅染不同颜色头发来参加婚礼,新娘嫂子:舅舅们说谁敢欺负侄女,就给他点颜色瞧瞧

河南一新娘的九个舅舅染不同颜色头发来参加婚礼,新娘嫂子:舅舅们说谁敢欺负侄女,就给他点颜色瞧瞧

潇湘晨报
2026-10-07 22:54:18
完美谢幕!39岁梅西正式结束21年国家队生涯,赛后告别:想一辈子留在国家队,但是时候了

完美谢幕!39岁梅西正式结束21年国家队生涯,赛后告别:想一辈子留在国家队,但是时候了

封面新闻
2026-10-07 11:30:44
台湾真踢到铁板了!前脚喷水炮,后脚被17艘军舰围了个水泄不通!

台湾真踢到铁板了!前脚喷水炮,后脚被17艘军舰围了个水泄不通!

果妈聊娱乐
2026-10-07 22:22:52
媒体报道了白俄女歌手被摘除活体器官,但更多的受害者是无声的。

媒体报道了白俄女歌手被摘除活体器官,但更多的受害者是无声的。

吴女士
2026-10-07 21:15:24
前美国军控特使爆料:苏联曾把鼠疫做成武器,伊尔库茨克实验室在名单里

前美国军控特使爆料:苏联曾把鼠疫做成武器,伊尔库茨克实验室在名单里

西虹市闲话
2026-10-07 16:24:18
国庆21亿人次大迁徙,社零却只有1.1%:人都出门了,钱去哪了?

国庆21亿人次大迁徙,社零却只有1.1%:人都出门了,钱去哪了?

罗sir财话
2026-10-07 13:12:57
开先河了!四川高速安岳隧道首开120限速,车主热议:京昆兰海老隧何时能松绑?

开先河了!四川高速安岳隧道首开120限速,车主热议:京昆兰海老隧何时能松绑?

火山詩话
2026-10-07 19:56:17
卫健委已将左氧氟沙星列为重点监控药物!提醒:服用千万注意

卫健委已将左氧氟沙星列为重点监控药物!提醒:服用千万注意

健康科普365
2026-10-07 11:35:08
世界排名飙升12位,奖金70万,郑钦文2-1大黑马,连续两站晋级8强

世界排名飙升12位,奖金70万,郑钦文2-1大黑马,连续两站晋级8强

求球不落谛
2026-10-07 21:31:19
高市早苗对华重磅改口,一名39岁女性的生命换来的?

高市早苗对华重磅改口,一名39岁女性的生命换来的?

健身狂人
2026-10-06 04:25:10
2026-10-08 07:31:00
全栈遛狗员
全栈遛狗员
白天跟需求对线,晚上在小区遛狗。
126文章数 119关注度
往期回顾 全部

科技要闻

诺贝尔化学奖揭晓,两位科学家摘得大奖

头条要闻

中国新婚夫妇在马尔代夫度假溺亡 有人1天目睹2起溺水

头条要闻

中国新婚夫妇在马尔代夫度假溺亡 有人1天目睹2起溺水

体育要闻

从骑马舞到开口全中文 德约在北京不止七冠

娱乐要闻

蔡康永风波再升级!这次谁也救不了他

财经要闻

谷歌签下科技史上最大核能协议

汽车要闻

智能化再提升 2027款东风标致、东风雪铁龙新车更人性化了

态度原创

时尚
旅游
教育
数码
军事航空

50套高智感通勤穿搭,怎么穿都时髦好看!

旅游要闻

一座高原小城的暖心安置

教育要闻

走进上海一年花费30万的私立学校

数码要闻

微软Surface Laptop Ultra笔记本、Surface RTX Spark Dev Box开发机价格公布:2599美元/5999美元

军事要闻

外舰跟监遵义舰 结果自己先"趴窝"了

无障碍浏览 进入关怀版