Meta FAIR 公布了一个叫 Self-Improving Memory 的方法,核心结果带着一点悖论味道:让智能体自己去发现并优化记忆管理提示词,它在 Continual Learning Bench 上拿到 56.0 分,超过人类手写方案 44.6 分;可把这项能力蒸馏进模型权重后,分数又回落到 43.1,反而低于人类基线。
提示词里的技能,和权重里的技能,并不是同一回事。这套方法分两步走,先搜提示词,再蒸馏。
第一步:让智能体自己搜记忆提示词
基础模型是 Kimi-K2.6,一个 1T 参数的 MoE,激活参数 32B,上下文窗口 256K。元智能体和任务智能体用的是同一个模型。
智能体基于文件做记忆管理,管两个操作:LOAD(把需要的信息读进上下文)和 OFFLOAD(把不再需要的信息写回文件)。元智能体不断生成记忆提示词的修订版本,每个版本都在真实任务上测一遍,分数更高的版本留下。这是一个搜索过程,不是人工调参。
第二步:把行为蒸馏进权重
优化后的提示词会产生一批行为轨迹,这些轨迹被拿去做监督微调(SFT),在注意力投影层上加一个 rank-64 的 LoRA 适配器。目标是让模型不依赖提示词,也能复现同样的记忆管理行为。
评测用 Continual Learning Bench,包含三个任务:Database(SQL 查询)、Codebase(修仓库里的 bug)、Spectrum(无线电频谱扫描)。测试子任务里刻意设计了阶段切换,衡量的是对同类新任务的泛化,不是记忆。
分数表里的三件事
第一,优化后的提示词在三个任务上全赢,平均高出 11.4 分。涨幅最大的是 Codebase:64.3 分,比人类手写版本高出整整 20.6 分。修 bug 是长链条任务,成败系于记忆管理——哪些上下文该留,哪些该写回文件。提示词的措辞直接决定结果。
第二,蒸馏后的模型平均 43.1 分,比优化提示词低 12.9 分,也略低于人类基线的 44.6。SFT 能学会“照提示词说的做”,但没完全学会提示词为什么这么说。技能还在提示词里,没有完全变成模型自己的技能。
第三,搜索本身很吵:生成的 44 个修订版本里,有 37 个没能超过当时的最好成绩。这里的优化不是稳步爬坡,而是一大堆失败尝试里筛出少数有效改进。这套方法烧的是搜索量,不是灵感。
还有一个对照:蒸馏模型在 10 个匹配随机种子上平均 43.1 分,而用通用轨迹做 SFT 的基线只有 37.6 分。蒸馏确实有用,只是追不上提示词版本。
给智能体开发者的三点
- 记忆管理值得当成一等公民来优化。上下文窗口再大,也装不下整个任务历史。LOAD 和 OFFLOAD 策略正在成为决定智能体成败的第二个工程面,排在工具使用之后。
- 提示词优化和权重蒸馏是两条不同的路。眼下好的记忆提示词更划算——56.0 对 43.1。先把提示词版本跑稳,再考虑蒸馏,别把顺序反过来。
- 搜索噪声是成本的一部分。44 个版本里 37 个失败,意味着想复现这套方法,预算里必须包含大量走不通的搜索。没有搜索量,就没有有效改进。
尚未解决的问题
评测环境是受控的,不是真实场景。三个任务都用刻意设计的阶段切换来衡量受控泛化,而不是真实长周期部署里的记忆衰减。生产环境里,任务分布的漂移更乱、更不规律。
蒸馏掉分的问题没有解决。43.1 对 56.0 的差距说明,当前的 SFT 加 LoRA 方案没能保住提示词优化的全部收益。这套方法还停留在“提示词版本更好用”的阶段。
复现成本很高。基础模型是 1T 参数的 Kimi-K2.6,部署需要多卡环境(一份部署指南建议从 8 张 H200 起步)。小团队很难原样复现,大多只能借鉴方法思路。
所有数字都来自 Meta 自己的博客和论文(图 4 和图 5),目前还没有独立第三方复现。相对排序可信,绝对值要等复现验证。
那么问题来了:如果智能体的提示词版本比蒸馏版本高出 13 分,你选哪个——继续维护一套越来越复杂的记忆提示词,还是接受掉分换一个更干净的纯权重版本?
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.