网易首页 > 网易号 > 正文 申请入驻

NeurIPS 2026|MemSkill让智能体学习并进化记忆技能

0
分享至



随着递归自我改进(Recursive Self-Improvement,RSI)受到关注,智能体如何从交互经验中持续改进自身成为研究热点。智能体记忆机制影响着这些经验能否被有效保留和利用。

然而,现有系统常依赖新增、更新、删除和跳过等预设记忆提取操作,难以根据任务反馈持续改进记忆构建方式。

来自南洋理工大学等机构的研究团队在 NeurIPS 2026 上发表了 MemSkill。它将记忆操作表示为可学习、可复用、可进化的Memory Skills,通过任务反馈优化技能选择,并根据失败案例完善和扩展技能库,使记忆系统能够随交互经验的积累持续进化。



  • 论文题目: MemSkill: Learning and Evolving Memory Skills for Self-Evolving Agents
  • Author: Haozhen Zhang, Quanyu Long, Jianzhu Bao, Tao Feng, Weizhi Zhang, Haodong Yue, Wenya Wang
  • Affiliation: Nanyang Technological University, University of Illinois Urbana-Champaign, University of Illinois Chicago, Tsinghua University
  • arXiv: https://arxiv.org/abs/2602.02474
  • GitHub: https://github.com/ViktorAxelsen/MemSkill

核心思路 将记忆方法变成可进化的技能

要改进记忆构建,首先要让 “如何记忆” 成为可修改的对象。MemSkill 因此将记忆操作封装为 Memory Skills,用自然语言说明用途、适用条件、执行方式与约束,供系统按需修改和复用。

如图 1 所示,MemSkill 将交互历史切为连续片段,根据当前文本片段和已有记忆,从技能库(Skill Bank)中选出相关记忆技能,再将三者一起交给 LLM。LLM 按记忆技能的指导提取或修订记忆信息,将更新写入记忆库(Memory Bank),供后续问答与决策检索使用。



图 1 逐轮操作与片段级技能引导构建的对比

方法框架 学习技能选择并持续改进技能库

MemSkill 的核心出发点是让记忆提取随反馈改进。如图 2 所示,框架从新增、更新、删除、跳过四项初始的记忆操作出发,由 Controller 负责选择技能,Executor 据此构建记忆,下游任务表现用于优化 Controller 的技能选择策略。训练中的失败案例会被收集起来,由 Designer 周期性分析,以修订和扩展技能库。

随后,Controller 在更新的技能库上进入下一轮训练,再通过任务反馈继续改进,形成自进化闭环。



图 2 技能学习与进化闭环

Controller 与 Executor 选择技能并构建记忆

长期交互中,不同片段的记忆需求会不断变化(如记住新偏好、保留事件细节,或更新过时信息)。MemSkill 因此训练了一个轻量的 Controller,按顺序为每个文本片段分别选择 Top-K 项记忆技能。选定技能后,Executor 将当前文本片段、已有记忆与选中的记忆技能一起输入 LLM,由 LLM 按技能指导生成记忆更新。多个技能在一次调用中完成记忆提取或更新,减少逐轮、逐操作处理的重复开销。

训练时,MemSkill 会将构建出的记忆用于下游问答或交互任务,并把任务表现作为奖励,通过强化学习更新 Controller。任务结果由此反馈到下一轮技能选择中,让 Controller 逐步学会更有效的技能组合。

Designer 根据下游任务的反馈持续完善技能库

在持续评估下游任务表现的过程中,失败案例会被收集到困难案例缓冲区(Hard Case Buffer)。Designer 定期从中筛选代表性难例进行分析,找出需要补充或调整的记忆规则,再修订已有技能或新增技能。

Controller 随后在更新的技能库上继续训练,探索新技能的用途。由此形成从任务反馈到技能改进、再到选择策略更新的循环。训练完成后,Controller 与技能库便可直接用于后续交互中的记忆提取。

实验结果 长期对话与具身交互中的全面评估

作者在长期对话问答和具身交互两种设置下,对 MemSkill 进行了全面评估。实验采用 LLaMA 与 Qwen 作为 Base Model,覆盖 LoCoMo、LongMemEval 和 ALFWorld,结果如下表所示。



表 1 主实验结果

在两个基础模型上,MemSkill 均取得表中最高的 L-J 分数和 ALFWorld 平均成功率,整体表现领先。其中,Qwen 结果来自 LLaMA 所学技能的直接迁移,LongMemEval 则复用了 LoCoMo 上学到的技能库,均无需重新训练。

迁移评估 从对话记忆到多跳问答

作者将 LoCoMo 上演化出的技能库直接迁移至 HotpotQA,检验其从多轮对话到文档型问答的泛化能力,无需针对 HotpotQA 重新训练。图 3 显示,默认选择 7 项技能时,MemSkill 在三种上下文长度下均优于 MemoryOS 与 A-MEM。与选择 3 项或 5 项相比,7 项技能的组合均取得更好表现,说明在一定范围内组合更多记忆技能有助于提升迁移效果。



图 3 LoCoMo 技能迁移至 HotpotQA 的结果

消融与效率 关键设计的作用与推理开销

为检验各组件的作用,作者进行了消融实验,分别用随机选择替代 Controller、停用 Designer,或仅修订旧技能而不新增技能。表 2 显示,这些变体均不及完整框架,说明技能选择与技能进化均有贡献,新增技能也带来了额外收益。

效率方面,表 3 显示,默认文本片段大小设置下,MemSkill 在提高回答质量的同时减少了 token 与 LLM 调用,相比 LightMem 调用量下降近七成,体现了片段级构建减少重复处理的作用。



表 2 与表 3 消融实验结果(左)与推理开销(右)

案例分析 面向任务需求的记忆技能

如图 4 所示,从 LoCoMo 数据集上演化出的技能强调时间关系与活动细节,并要求只记录原文明确提供的信息。从 ALFWorld 数据集上演化出的技能则聚焦行动约束、物体位置和状态,并随新信息更新,体现出两类任务不同的记忆需求。这也表明,MemSkill 能够根据不同领域的任务需求演化出有针对性的记忆技能。



图 4 对话与交互任务中的代表性技能

总结与展望 让记忆随用户反馈持续进化

MemSkill 的初衷是让记忆系统在长期交互中根据用户反馈持续进化,逐步适应个人需求。

要进一步实现这一目标,记忆技能的优化信号有望从现有实验采用的基准问答对,拓展到真实用户的评价与后续对话。例如,用户偏好详细信息,而初始技能只保留笼统摘要,后续回答就可能遗漏其关心的细节。用户的追问、纠正或满意表达,有望转化为正面、负面或中性的反馈标签,引导技能调整记忆内容与粒度。

要检验这种持续适应用户的能力,评测也需要从静态问答走向包含持续反馈与偏好变化的长期交互。更贴近真实使用的基准,将有助于验证记忆方法能否长期适配同一位用户,推动个性化智能体随用户需求不断改进。

作者与团队


Haozhen Zhang 现为南洋理工大学计算机科学博士生,导师 Wenya Wang 为 NTU 计算机与数据科学学院助理教授,领导 GLINT Lab。团队研究聚焦智能体记忆、自进化智能体、大模型可解释性以及高效智能体系统,致力于发展更可解释、高效且具备泛化能力的大模型系统。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
骑士126-115击败公牛!米切尔末节20分,二轮秀立大功,哈登的正负值亮了

骑士126-115击败公牛!米切尔末节20分,二轮秀立大功,哈登的正负值亮了

篮球大视野
2026-11-17 10:51:24
很遗憾!上海刚需已错过抄底时机

很遗憾!上海刚需已错过抄底时机

魔都财观
2026-11-17 07:42:08
五千万啃光!马蓉从阔太沦落澳洲超市夜班,出门捂脸不敢见人

五千万啃光!马蓉从阔太沦落澳洲超市夜班,出门捂脸不敢见人

皮蛋儿电影
2026-05-14 09:59:14
三天连发三款王炸!大众9.99万起,激光雷达下放,660km续航全有

三天连发三款王炸!大众9.99万起,激光雷达下放,660km续航全有

音乐时光的娱乐
2026-11-17 14:27:29
高市专机还未落地!日本又准备找麻烦,提的要求,一个比一个离谱

高市专机还未落地!日本又准备找麻烦,提的要求,一个比一个离谱

关权教授聊经济
2026-11-16 22:11:04
砸下12亿,耐克终结阿迪达斯26年欧冠合作

砸下12亿,耐克终结阿迪达斯26年欧冠合作

体育产业生态圈
2026-11-17 14:49:42
英国如今恐怕急得夜不能寐:中方在联合国公开带头追索107万亿美元,仅英国就背负着24万亿殖民掠夺旧账,面对这笔账,西方集体选择了沉默

英国如今恐怕急得夜不能寐:中方在联合国公开带头追索107万亿美元,仅英国就背负着24万亿殖民掠夺旧账,面对这笔账,西方集体选择了沉默

人生录
2026-10-25 00:10:08
土耳其人:这么贵的东西中国人天天当水喝?真是羡慕中国人!

土耳其人:这么贵的东西中国人天天当水喝?真是羡慕中国人!

抽象派大师
2026-11-10 18:27:26
1946年解放军神枪手被敌人诱出战壕,瞬间十余射手对准他猛烈狙击!

1946年解放军神枪手被敌人诱出战壕,瞬间十余射手对准他猛烈狙击!

南书房
2026-11-17 11:40:16
互相逆袭!甲乙升降级附加赛次回合,定南赣联和贵阳竞技迎生死战

互相逆袭!甲乙升降级附加赛次回合,定南赣联和贵阳竞技迎生死战

实事球是
2026-11-17 16:46:36
刷到路人偶遇抓拍的蔡少芬素颜照,不少人感慨看着老了好多

刷到路人偶遇抓拍的蔡少芬素颜照,不少人感慨看着老了好多

旧时光老师
2026-11-01 21:15:06
安德列娃收到俄罗斯总统普京的特别贺词

安德列娃收到俄罗斯总统普京的特别贺词

网球之家
2026-11-17 13:33:11
兵败如山倒!国产新能源或已证明:中国其实不需要二线豪华品牌

兵败如山倒!国产新能源或已证明:中国其实不需要二线豪华品牌

铭记历史呀
2026-09-20 16:15:46
伊总理放话,会把欠中国的工程款立即结清,但向中方提了一个要求

伊总理放话,会把欠中国的工程款立即结清,但向中方提了一个要求

军机Nova
2026-11-17 00:31:16
美国政府正在调查新加坡某公司,指控其涉嫌非法向中方转运英伟达的芯片,外交部回应

美国政府正在调查新加坡某公司,指控其涉嫌非法向中方转运英伟达的芯片,外交部回应

吉刻新闻
2026-11-17 21:26:16
官媒亲宣!何超琼正式上任,职务不一般,与郑邵康恋爱早有真相

官媒亲宣!何超琼正式上任,职务不一般,与郑邵康恋爱早有真相

一盅情怀
2026-11-17 12:19:47
从白衬衣到“响当当、硬邦邦、嗷嗷叫”:理性透视王忠林落马后的舆情回响

从白衬衣到“响当当、硬邦邦、嗷嗷叫”:理性透视王忠林落马后的舆情回响

欧亚地理札志
2026-11-17 14:33:49
小米开启清仓:2399 降到 1614,16+512GB+50MP 长焦

小米开启清仓:2399 降到 1614,16+512GB+50MP 长焦

小柱解说游戏
2026-11-17 02:50:42
受贿数额特别巨大,中核集团原党组副书记、总经理顾军被提起公诉

受贿数额特别巨大,中核集团原党组副书记、总经理顾军被提起公诉

每日经济新闻
2026-11-17 21:42:17
54岁陶虹变化真大:常年吃素、又胖又老,穿灰色大衣打扮很低调

54岁陶虹变化真大:常年吃素、又胖又老,穿灰色大衣打扮很低调

小疯子耶
2026-11-15 07:30:45
2026-11-17 22:19:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14497文章数 142759关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

"钢琴魔女"王羽佳演出迟到17分钟:躲在琴房找感觉

头条要闻

"钢琴魔女"王羽佳演出迟到17分钟:躲在琴房找感觉

体育要闻

我们三兄弟,都是意大利国脚

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

游戏
房产
手机
旅游
公开课

《GTA6》再现偷盘哥!换了不承认 用各种理由仅退款

房产要闻

5381亩之后,三亚绿谷,等一个500强!

手机要闻

雷军手持疑小米18亮相!方形Deco抢眼

旅游要闻

期待值拉满!北京将上新这些博物馆

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版