智能体对话一长,上下文窗口就告急。多数人的第一反应是“清空重来”,但LangChain创始人Harrison Chase提出了一个更精细的思路:压缩,而不是擦除。
他的核心观点很明确:压缩的目标是减少发送给模型的内容,但底层的工作历史不能丢。换句话说,模型看到的可以变少,系统记住的不能变少。
![]()
文件系统:给智能体一个“外挂硬盘”
具体怎么实现?Chase给出的方案是给每个智能体分配一个文件系统,真实或虚拟的都可以。当工具返回的结果过大时,把完整结果写入文件系统,模型可见的消息里只留一个预览。
对话变长时同理:先把旧消息卸载到文件系统,再对摘要进行压缩。这样模型始终只看到精简后的内容,但完整记录还在,随时可以回溯。
主动触发:智能体自己决定何时压缩
这套机制不只能被动触发。智能体还可以通过专用工具主动发起压缩,走的是同一套“卸载+总结”的逻辑。相当于给智能体一个自主管理记忆的能力,而不是等上下文爆了才被动处理。
Chase在推文末尾附上了实现这套逻辑的摘要生成中间件链接,想动手试的可以直接拿去用。
这个思路对做AI工作流的人挺有参考价值:上下文管理不是简单的“删”,而是分层存储——模型看精简版,系统存完整版。两者各司其职,才能让长对话跑得又稳又不丢信息。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.