LinkedIn发了一篇论文,专门研究智能体记忆能不能在模型升级后活下来。作者说,构建智能体时,记忆是最难做对的部分之一,值得花时间优化。这篇论文的核心问题是:记忆可不可移植。现在越来越多用户跨模型、跨智能体、跨服务商使用,这个问题变得很关键。
如果你给智能体换过底层模型,然后看着它开始忘记以前知道的事,这篇论文就是写给你的。研究团队把同一段智能体历史用四种方式存下来:原文保留给长上下文读取、切块用于检索、压缩成模型写的笔记、归一化成固定模式的知识图谱。然后换掉读取这些记忆的模型,看会发生什么。
![]()
固定模式图谱最稳,模型笔记波动大
结果很直接。固定模式的知识图谱在换模型时几乎不受影响,准确率只变了0.0004。模型写的笔记就麻烦得多,换一个方向迁移能涨9.91分,换另一个方向能跌13.28分。同一对模型,谁写的记忆决定了结果往哪边走。
部分嵌入迁移也不便宜。一个50/50混合索引只能拿到4.96分,而完整重新嵌入能拿到11.90分。想省一半成本,效果直接掉一大截。
两种失败模式,原因不一样
论文把失败拆成两类。笔记的损失里,80%来自写笔记时信息就丢了。检索的损失里,81%来自检索没找到正确的块。一个是写入端的问题,一个是读取端的问题,不能混为一谈。
修复需要原始历史。只靠存储内容修复笔记,在全部48个测试用例里没有一个达到90%恢复率。保留源历史的方案恢复了48个里的34个。差距摆在这里:没有原始记录,很多信息根本补不回来。
这篇论文的结论对做智能体的人是个提醒。记忆不是存下来就完事,存储格式、写入质量、检索精度、模型迁移方向,每一个环节都在决定智能体换模型后还认不认得自己。论文链接在 academy.dair.ai 上可以找到。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.