网易首页 > 网易号 > 正文 申请入驻

Claude总犯同一个错?先查查它记住了什么

0
分享至

来源:市场资讯

(来源:石臻说AI)


石臻说AI

编辑:石臻

导读: 把Claude想成一位随身带着笔记本的助理:它会记下你的要求,也可能记错、记过时。Anthropic公开的记忆整理方法,讲的就是这位助理怎样挑出有用的经验、回查错误,再把需要的内容带进下一次工作。

助理的笔记本,里面不能什么都混着放

让AI长期帮忙写文章、整理资料,总希望它记得多一点,下次少问几遍。

可时间一长,它的本子里什么都有:你的长期偏好、上次做到哪一步、一个还没证实的猜测,还有已经作废的要求。

比如,“以后写短一点”可以留下;“这一段展开讲讲”可能只针对某篇文章。要是把后一句当成你的长期偏好,以后每篇都可能越写越长。

原始资料留着,开工时只带当前需要的提醒。讲解示意


11月6日,Claude背后的公司Anthropic介绍了一套分层整理记忆的方法:


记录、笔记、知识索引、开工提醒,承担不同的工作。

  • 原始记录

    :当时聊了什么、做了什么,留着以后查证。

  • 经验笔记

    :从记录里挑出值得记住的事,例如已确认的要求、有效的办法。

  • 知识索引

    :把相关笔记按主题连起来,知道去哪一页找细节。

  • 开工提醒

    :每次开始任务时,先读当前最需要的那一小部分。

就像助理的资料柜、笔记本、目录和手边便签。柜子可以很大,但去办眼前这件事,用不着把整个柜子背走。

这里的“记忆”是以后还能读取的资料。多写几页笔记,并不等于把模型重新训练了一遍。

笔记写错了,提醒它再看一遍也没用

Anthropic用了一个《宝可梦》游戏案例。Claude把一个地标的位置记错了,后续导航继续相信那条笔记,于是走回了错误的路线。

研究者让它对照原始会话记录,检查当时发生了什么。纠正笔记以后,它才重新走对了方向。


左侧继续相信错误笔记;右侧回查记录后,返回洞穴入口。

这像助理把“周五交稿”误记成了“周四交稿”。让它多读几遍本子,读到的还是错日期。翻出当时的聊天或邮件,才有机会查出问题。

Anthropic把这种在任务间隙回看记录、整理记忆的做法叫作dreaming,也就是“做梦”。它做的事很具体:对照原始记录,核对笔记,再决定怎么改。

所以,重要笔记最好留下来源、日期和适用范围。

“客户不喜欢这个方案”太笼统;“周二会议上,客户认为报价偏高,其他部分还没定”就更方便以后查。前一句容易让它放弃整套方案,后一句提醒它继续讨论报价。

当然,原始记录也可能有错。回查先解决“有没有记歪”的问题,外部事实仍要找文件、数据或最新确认。

资料整理得漂亮,也可能漏掉关键内容

笔记越来越多,按主题整理成相互链接的知识库,查找会方便一些。这里的wiki,可以理解成一套有目录、页面之间能互相跳转的资料。

但整理也会出错。

Anthropic做合同资料测试时,让几个AI助手一起更新同一张汇总表。它们互相覆盖,漏掉了关键信息。

后来改成每份合同单独成页、各有负责写入的助手,并要求保留原始条款:


调整写入方式后,该任务保留的考核事实由41项补齐至57项。

这里的41/57与57/57,指这个特定任务要求保留的事实数量。不能把它当成“这样整理,所有业务都能百分之百正确”。

这和几个人同时改文档很像:最后一版看着挺整齐,前面某个人写的内容,却可能已经没了。

而且,知识库也不是越大越好。研究中有些任务从知识库受益不明显,还有一次整理出的资料比原始文件更大。如果以后反而更难找东西,就该检查是不是抄进了太多没用的内容。

因此,AI说“整理好了”,还得验一下。挑几件平时常查的事问它:这条要求是谁说的?原文在哪里?后来改过没有?看它能不能把答案和依据一起找出来。

研究与图表来源: https://www.anthropic.com/research/components-of-agent-memory

每次开工,先看一张短便签

资料存好了,最后还有一步:这次开工,先读哪几条?

技术文章把它叫作“注入上下文”。你可以把它理解成:助理坐到桌前,先看一眼今天手边的提醒,再去做事。


最上层的开工提醒会进入下一次会话,详细记录仍留在下面。

这张便签要短,也要常更新。放得太满,会挤占当前任务需要的空间;把一条错误要求放进去,还可能让它每次开工都先读到同一个错误。

以Claude Code为例,它不会把所有记忆文件一次性全部读进来,而是先读有限的入口内容,再按需查详情。可以通过/memory查看和编辑它保存的笔记。

https://code.claude.com/docs/en/memory

普通人可以先从一份现成的项目笔记开始:保留原件,让AI另做一份整理稿,你看过以后再决定用不用。


保留原件,整理副本,核对后再使用。本文建议的人工整理方法

可以把相关笔记和有权限使用的原始记录交给AI,再这样说:

PROMPT

提示词:

请帮我整理这份笔记,先不要改原文件。找出重复、互相矛盾、已经过期,或者没有依据的内容。每个修改建议都告诉我:根据哪条记录、什么日期。拿不准的标成“待确认”,不要猜。最后给我一份精简的新版,让我先检查。

官方另有面向开发者的Dreams功能,目前仍是需要申请权限的研究预览,按所选模型的使用量收费。它会生成另一个记忆库,保留输入,供人审核后决定是否使用。

这不表示普通Claude聊天已经会在每晚自动替你整理全部记忆,也不代表订阅里包含无限免费的整理服务。

https://platform.claude.com/docs/en/managed-agents/dreams

下次AI又犯同一个错,除了再提醒一次,也可以问一句:“你上次到底记了什么?把依据找出来,我们一起改掉。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国“捡钱”时代或将来临:如果手中只有10万,试试死啃这两条线

中国“捡钱”时代或将来临:如果手中只有10万,试试死啃这两条线

米老鼠的世界
2026-08-26 14:20:23
儿子欲娶母瘫痪、父赌博、两弟弟读书的女友,清醒妈妈:要钱就断绝关系!扶贫婚姻会毁孩子一生

儿子欲娶母瘫痪、父赌博、两弟弟读书的女友,清醒妈妈:要钱就断绝关系!扶贫婚姻会毁孩子一生

菁妈育儿
2026-11-18 13:36:22
周鹏降薪300万回归才两个月再次离队,广东队3胜5负外教已经下课

周鹏降薪300万回归才两个月再次离队,广东队3胜5负外教已经下课

生活新鲜市
2026-11-17 09:00:00
收评:创业板指涨0.85% 算力租赁概念全天强势

收评:创业板指涨0.85% 算力租赁概念全天强势

证券时报
2026-11-18 15:28:05
41岁男子谎称37岁求职,遭拒后起诉被年龄歧视并索赔10万,法院判了

41岁男子谎称37岁求职,遭拒后起诉被年龄歧视并索赔10万,法院判了

极目新闻
2026-11-18 08:26:33
官宣了!罗伯特・帕丁森成为新一任007

官宣了!罗伯特・帕丁森成为新一任007

齐鲁壹点
2026-11-17 07:20:15
大二女生去按摩,男技师让她脱内裤跪着背对着他,整个人贴了上来,店长:包厢没监控,赔700块

大二女生去按摩,男技师让她脱内裤跪着背对着他,整个人贴了上来,店长:包厢没监控,赔700块

一丝不苟的法律人
2026-11-08 16:44:48
10分钟打爆韩国,却还在踢第四级别!苗润东离中超到底有多远?

10分钟打爆韩国,却还在踢第四级别!苗润东离中超到底有多远?

曹老师评球
2026-11-17 21:43:08
时间定了,中方宣布安排,11月19日这一天,全世界都将拭目以待

时间定了,中方宣布安排,11月19日这一天,全世界都将拭目以待

古书奇谈
2026-11-17 10:23:42
马斯克遇上大麻烦!星链被欧洲围堵,欧洲为何对星链下手了?

马斯克遇上大麻烦!星链被欧洲围堵,欧洲为何对星链下手了?

普陀动物世界
2026-11-18 05:49:40
官媒点名!4位明星化身老赖,最后一位臭名昭著,给大众提了个醒

官媒点名!4位明星化身老赖,最后一位臭名昭著,给大众提了个醒

林轻吟
2026-11-10 07:17:48
国际货币基金组织预测:中国2027年GDP,将彻底领先日本5倍以上!

国际货币基金组织预测:中国2027年GDP,将彻底领先日本5倍以上!

生活新鲜市
2026-11-18 05:52:20
上层作孽,害死好人

上层作孽,害死好人

我是历史其实挺有趣
2025-08-02 08:59:00
30岁河南外援渴望进国足:若被归化很荣幸!在中国3年像活在电影里

30岁河南外援渴望进国足:若被归化很荣幸!在中国3年像活在电影里

我爱英超
2026-11-18 00:01:01
扎堆成年出道!贝儿、黄多多等萌娃陆续进圈,星二代的高起点,是红利也是枷锁

扎堆成年出道!贝儿、黄多多等萌娃陆续进圈,星二代的高起点,是红利也是枷锁

随性的海浪
2026-11-18 13:16:02
九一三事件后,黄永胜的孩子们都有什么命运?

九一三事件后,黄永胜的孩子们都有什么命运?

华人星光
2026-11-17 15:10:05
曝光东莞路边价格刺客!不少人中招!

曝光东莞路边价格刺客!不少人中招!

东莞潮事儿
2026-11-18 12:27:36
东风-61洲际导弹列装,引发岛内震动!台专家:敲打美国,管好自己安排在第一岛链上的所谓“看门狗”

东风-61洲际导弹列装,引发岛内震动!台专家:敲打美国,管好自己安排在第一岛链上的所谓“看门狗”

每日经济新闻
2026-11-18 10:28:14
金融危机真的不远了?华尔街开始疯狂抛售黄金,这意味着什么

金融危机真的不远了?华尔街开始疯狂抛售黄金,这意味着什么

奇思妙想生活家
2026-11-18 04:43:33
特斯拉即将推出 2026 年度大更新,重磅新功能来了!

特斯拉即将推出 2026 年度大更新,重磅新功能来了!

XCiOS俱乐部
2026-11-17 20:45:14
2026-11-18 16:12:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5532358文章数 10026关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

教育
家居
数码
本地
公开课

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版