微软推出Memora，致力于解决AI智能体的记忆难题

随着AI智能体越来越需要在较长时间内记住对话内容、用户偏好和决策过程，微软研究院开发了Memora——一套记忆系统，旨在提供比现有方案更具可扩展性和可靠性的长期记忆能力。

AI智能体如今被期望能在数周乃至数月的跨会话场景中保持上下文连贯，而不仅仅局限于单次对话。随着知识库不断扩大，记忆内容容易出现碎片化问题，导致信息重复存储、检索速度下降。

微软表示，Memora通过将AI的"记忆内容"与"检索方式"解耦来解决这一问题。根据微软研究院发布的博客文章，这一设计最终可将上下文Token用量减少高达98%，同时在准确率上与全上下文推理持平甚至更优。

随着AI助手和自主智能体逐步迈入长周期部署场景，缺乏系统化记忆机制已成为制约发展的关键瓶颈。尽管现代大语言模型具备强大的推理能力，但它们在每次会话开始时仍需从零启动。

在处理长对话时，模型需要反复重读完整的历史记录；而新信息要么以原始文本形式存储，要么被压缩为摘要，在此过程中重要细节往往会丢失。

目前已有一些解决方案，但同样存在局限性。例如，Mem0从对话中提取原子级事实；检索增强生成（RAG）对原始文本片段进行索引以便后续调用；Zep和GraphRAG等基于知识图谱的记忆系统则通过实体关系构建结构化存储。然而，这些方案大多陷入两种极端。

以RAG和Mem0为代表的内容碎片化系统，直接嵌入提取出的事实或文本片段，虽然保留了细节，但生成的条目孤立、脆弱，缺乏叙事连贯性。

粗粒度抽象系统将经历压缩为紧凑摘要，但这样做会剥离约束条件、边界案例和数值细节，而这些恰恰是记忆真正发挥作用的关键。

基于知识图谱的系统在内容之上附加了结构，但检索时仍依赖内容本身，且通常需要固定的本体结构，难以跨领域泛化。

Memora的架构声称通过解耦存储内容与检索方式来解决上述问题。具体而言，每条记忆条目包含两个组成部分。

第一部分是主要抽象，即一个6至8个词的短语，用于提炼该记忆的核心主题。第二部分是记忆值，用于存储完整的内容信息。由于这种分离设计，针对同一演进话题的新信息可以合并到具有相同主要抽象的现有记忆条目中，而不会被拆散成一连串部分重复的碎片。

在主要抽象之外，线索锚点作为从每条记忆值中提取的简短上下文感知标签，为同一记忆提供多条访问路径，相当于灵活的、有机生成的元数据。

Memora还引入了一种策略引导检索器。它并非一次性返回语义相似度最高的若干条目，而是通过迭代优化查询、借助线索锚点扩展检索范围以发现相关但非相似的记忆，并在信息充足时自动停止检索。

"当前智能体记忆最深层的缺陷在于：将检索等同于记忆。向量数据库擅长找到看起来相关的文本，但企业级智能体需要的不仅仅是相似性匹配，它需要知道哪些信息已经改变、哪些仍然成立，以及在当前任务中哪些信息不应被调取。"Greyhound Research首席分析师Sanchit Vir Gogia表示。

Gogia指出，Memora的价值正在于它拒绝这种捷径。它将记忆的丰富细节与检索句柄分离，对稳定的抽象和一组线索锚点进行索引，同时在其下完整保留所有内容。检索因此变成一种导航行为，而非一次充满不确定性的猜测——系统可以重新查询、扩大搜索范围，或在信息足够时主动停止。

微软在两项长上下文基准测试上对Memora进行了评估：LoCoMo（平均对话轮数达600轮）和LongMemEval（上下文长度达115,000个Token）。据微软介绍，Memora在LoCoMo上的大语言模型评判准确率达到86.3%，在LongMemEval上达到87.4%，超越了RAG、Mem0、Nemori、Zep、LangMem，甚至优于全上下文推理。

此外，Memora每次对话存储的记忆条目数量约为Mem0的一半（344条对比651条），并相较于全上下文推理将Token消耗降低了高达98%。

尽管基准测试结果显示了显著的效率提升，但企业不应想当然地认为Token用量的减少会自动转化为基础设施成本的下降。

Gogia提醒道，不要轻易将Token减少的数字视为确定的承诺，这只是基准测试中的上下文压缩，而非企业账单将降低98%的保证。"实际成本还包括记忆构建、索引、存储以及合规治理所要求的审计日志。"

他还指出，Memora最强大的检索模式同时也是最慢的。其策略检索器在多步模型调用过程中，每次查询耗时约5至6秒，而较简单的语义模式则不到1秒。

节省的提示Token成本，在一定程度上会以检索延迟和额外推理的形式被抵消。因此，记忆压力并未消失，只是发生了转移。企业不再只需为更长的提示付费，现在还必须管理哪些内容被写入、更新和遗忘，以及指导这一过程的索引机制与测试体系。

Memora目前是微软研究院的一个在研项目，但公司已将研究代码开放至GitHub，供开发者探索这一架构并将其应用于自有AI项目。

然而，理论上的可移植性不应与生产就绪画等号。尽管这种记忆层设计原则上可以与主流模型供应商的产品配合使用，但Gogia建议：在代码完全经过验证、维护并满足企业级管控要求之前，IT领导者的稳妥做法是将Memora作为一种架构思路加以研究，而非直接将其作为生产软件投入使用。

在技术之外，企业还需要建立治理与合规策略，以确保AI记忆的安全管理和可审计性。Gogia指出，企业必须明确：谁有权写入记忆、谁有权读取、记忆保留多久，以及审计人员如何重建某条记忆影响特定行为的过程。

"企业必须明确谁有权写入记忆、谁有权读取、记忆保留多久，以及审计人员如何重建某条记忆影响特定行为的过程。'智能体记住了这件事'这一说法，既无法满足欧盟《人工智能法案》对可追溯性的要求，也无法回应印度《数字个人数据保护法》下用户的权利主张。"Gogia说道。

Q&A

Q1：Memora是什么？它解决了什么问题？

A：Memora是微软研究院开发的一套AI记忆系统，专为AI智能体的长期记忆场景设计。它通过将记忆内容与检索方式解耦，解决了现有方案中记忆碎片化、信息重复存储和检索效率低等问题。在基准测试中，Memora可将上下文Token用量减少高达98%，同时保持甚至超越全上下文推理的准确率。

Q2：Memora和RAG、Mem0等现有记忆方案有什么区别？

A：RAG和Mem0等方案要么将内容碎片化存储导致孤立条目，要么将信息压缩为摘要造成细节丢失。Memora的不同之处在于，每条记忆由"主要抽象"（6至8词的核心短语）和"记忆值"（完整内容）两部分组成，并配合线索锚点和策略引导检索器，实现更精准、更连贯的记忆导航，而非简单的语义相似度匹配。

Q3：企业使用Memora需要注意哪些问题？

A：企业在使用Memora时需注意三点：第一，98%的Token节省是基准测试数据，实际成本还包括记忆构建、索引和审计日志等开销；第二，其策略检索模式每次查询耗时约5至6秒，延迟较高；第三，在合规层面，企业需明确记忆的读写权限、保留期限及可追溯机制，以满足欧盟《人工智能法案》等法规要求。目前Memora代码已开放至GitHub，但尚未达到企业生产级就绪标准。