长期记忆的遗忘难题
推文解析了LangChain开源项目OpenWiki的自我纠正记忆系统。核心问题是长期记忆中的“遗忘难题”:当事实来源发生变更,原本正确的记忆会悄悄过时,系统却缺乏可靠的感知机制,结果导致记忆漂移与污染。
![]()
三层核心机制
OpenWiki用三层机制解决这个问题。第一层是绑定主张与证据,每条事实主张都强制标注支持它的代码证据及版本号,形成“主张—证据”依赖图。第二层是过期检测,系统会比较存储的证据版本与当前版本,一旦不一致就标记为stale,也就是过时。这里有个关键点:stale不等于错误,只意味着需要重新核对。staleness是实时推导出来的,不需要持久化状态,不确定性天然保留。
第三层是纠正闭环。stale主张会在正常更新过程中被呈现出来,Agent顺手验证刷新或纠正,已有的知识保留,只跟踪受影响的部分。运行成本模型也做了设计:过期检测是确定性检查,不调用模型;更新成本随代码变更量伸缩,而不是随主张总量伸缩。
可复现的评估结果
评估方法按git提交序列重放,分类判定为Supported、Stale、Hallucinated、Unverified四类。实测结果很直接:
- Stale主张从80降至9
- Hallucinated主张从15降至0
- 单次运行中17%的主张变为stale后,在下一检查点归零
- supported比例从77%恢复至98%
这套系统把“记忆过时”从一个隐性风险变成了可检测、可纠正的显性状态。对做Agent Memory或RAG的开发者来说,OpenWiki提供了一个可复现的参考实现,GitHub链接和配图都附在原文中。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.