代码智能体为何越跑越慢？

你的AI编程助手能连续工作几小时不崩溃吗？JetBrains最新研究发现，一个被忽视的简单技巧，效果竟碾压行业主流方案。

上下文腐烂：智能体的隐形杀手

AI编程智能体的承诺很美好：自主推理、写代码、迭代解决问题，无需人类持续监督。但数千个开发团队的现实体验是另一回事。

研究人员给这个问题起了个名字——"上下文腐烂"（context rot）。随着智能体积累的信息超出有效处理能力，性能逐渐衰减。更棘手的是，应对策略暴露出一个深层张力：计算效率与代码质量之间，组织必须重新权衡。

2025年12月的颠覆性发现

JetBrains研究团队在NeurIPS深度学习代码研讨会上抛出重磅结论。他们的论文《复杂性陷阱》直接挑战行业共识。

Cursor、OpenHands等主流工具青睐的复杂大语言模型摘要技术，表现竟不如一种极简策略：观察掩码（observation masking）。

具体做法？把旧工具输出替换成占位文本，提示"内容已省略"，同时完整保留智能体的推理与行动历史。没有花哨的压缩算法，没有额外的模型调用。

效果却惊人：成本比无上下文管理的基线降低50%，任务完成率持平甚至略超复杂摘要方案。两者结合还能再省7%成本，相比纯摘要方案省11%。

为什么大上下文不等于好表现

理解困境需要先看清上下文窗口的运作机制。每次交互、文件读取、测试结果、调试记录，都会累积进智能体的"工作记忆"。

前沿模型已能处理20万token以上，部分支持超百万token的上下文窗口。谷歌Gemini甚至能单次分析整本书或多文件代码库。

但Chroma Labs的研究验证了令人不安的模式：模型在聚焦输入上表现优异，处理完整长上下文时却持续衰减。

2025年2月，Adobe研究者设计了更严苛的"大海捞针"变体测试——不仅要定位埋藏在长文本中的事实，还要基于该事实做推理。领先模型在短提示下准确率超90%，到3.2万token时断崖式下跌。

Chroma研究者的发现更直接：当上下文窗口填满无关信息，模型性能系统性下滑。问题不是容量不够，而是"噪音淹没信号"。

行业反思：我们在解决错误的问题吗？

JetBrains的发现指向一个尴尬现实。整个行业 rushing toward 越来越复杂的上下文压缩技术，可能跑错了方向。

观察掩码的朴素逻辑是：智能体不需要记住每一条旧输出，只需要知道"这里发生过什么"，以及完整的决策链条。保留推理轨迹，丢弃具体执行痕迹。

这对产品设计有 immediate 启示。成本敏感的企业不必追逐最昂贵的摘要模型，简单策略已能实现大部分收益。追求极致效率的场景，组合方案仍有优化空间。

更深层的信号是：我们对"智能"的直觉可能误导了工程优先级。人类程序员也不会逐字记住三天前的调试输出，但会保留"这里有个坑"的元认知。模拟这种选择性遗忘，比强迫模型做全文摘要更贴近实际需求。

数据收束

50%成本削减、11%组合优化空间、90%→断崖下跌的准确率曲线——三组数字勾勒出AI编程工具的新决策框架。上下文管理的技术路线正在分化：一边押注更重的模型能力，一边探索更轻的结构设计。JetBrains的实验至少证明，后者的性价比被系统性低估。对于每天烧掉数百万token的规模化部署，这个发现的价值难以估量。