网易首页 > 网易号 > 正文 申请入驻

AI记忆混淆揭秘:上下文工程四法提升记忆准确性

0
分享至

您有没有过这种疑问?

同样是AI,有的能帮您稳稳记住“每周三买降压药”,还会提前提醒。

可有的转头就忘了您刚说的 “别推荐太辣的菜谱”,照样给您发一堆重口味菜名。

其实这背后,藏着一个给AI“管记性” 的关键本事!

简单说,这活儿就像帮AI打理它的 “工作笔记本”,还分了写入、选择、压缩、隔离四种办法。

但话说回来,这些办法真就那么管用吗?

这个疑问其实挺一针见血的。

就像咱们记笔记,如果什么都记,时间长了可能就懒得记在脑子里了。

但AI和人不一样,它的 “推理” 本来就是基于数据和上下文的。



比如Anthropic的多智能体研究员项目,把计划存在 “便笺” 里,不是因为AI懒,而是上下文窗口有大小限制。

超过20万个Token就会被截断,要是重要计划没存下来,后面的任务就没法继续了。

而且 “便笺” 更像给AI找了个“小本子”,让它不用反复记重复信息,反而能把精力放在新的推理上。

比如处理一个长期项目,AI不用每次都重新想 “第一步该干嘛”,看一眼 “小本子” 就能接着做,反而提高效率,不会越用越笨。

再说说 “选择上下文” 里的记忆选择。

有人可能会担心,AI选记忆的时候,万一选不准怎么办?就像之前 ChatGPT 把用户位置错放进图片里,这不是添乱吗?



这个问题确实存在,而且挺致命的。

现在AI用的Embeddings(嵌入)或者知识图谱,虽然能帮AI选相关记忆,但确实没法做到100%准确。

不过咱们也不能因为这点就否定 “选择” 的作用。

要是AI不选,把所有记忆都塞进上下文窗口,要么超容量,要么有用的信息被淹没在一堆没用的内容里,反而更麻烦。

就像咱们找文件,要是不分类不筛选,把所有文件都摊在桌上,想找一份合同得翻半天。

现在虽然筛选偶尔出错,但大部分时候能快速找到需要的,总比全堆在一起强。

而且现在技术也在改进,比如有些AI会加个 “重排序” 步骤,把选出来的记忆再排一遍优先级,出错的概率也在慢慢降低。



可能有人会质疑把上下文压缩,摘要,会不会把重要信息弄丢了?

就像咱们把一篇长文章缩成几句话,很容易漏关键内容啊!

这个担心太正常了,毕竟 “压缩” 本身就是取舍的过程。比如Claude Code超过上下文窗口95%时会自动压缩,要是压缩得不好,确实会影响后续任务。

但现在的压缩不是随便删内容,要么用 “递归摘要”,一层一层提炼核心,要么用 “分层摘要”, 按任务阶段分开总结,尽量保留关键信息。

更重要的是,压缩是没办法的办法!

如果不压缩,上下文超了,AI直接没法继续工作,压缩了虽然有风险,但至少能让任务继续,而且现在还会用微调过的模型专门做压缩,就是为了减少漏信息的情况。

就像咱们整理旧照片,要是照片太多放不下,只能挑重要的扫描存档,虽然可能漏几张,但总比所有照片都放着发霉强。

最后说“隔离上下文”里的多智能体。



有人可能会疑惑,弄一堆子智能体,每个都有自己的上下文,会不会协调不过来?而且听说 Anthropic 的多智能体比普通聊天多花 15 倍 Token,这不浪费钱吗?

这个疑问也说到了点子上,多智能体确实有协调和成本的问题。

比如一个团队里要是人太多,各干各的不沟通,反而会出错,AI 的子智能体也一样,要是没规划好谁做什么,很容易乱套。

但多智能体的好处也很明显,“专人专事”!

比如处理一个复杂的科研任务,有的子智能体专门查文献,有的专门分析数据,有的专门写报告,每个子智能体的上下文只装和自己任务相关的内容,不会被其他信息干扰,反而比一个智能体干所有事效率高。

至于Token成本高,现在也在想办法优化,比如在子智能体交接知识的时候做摘要,减少传递的内容,慢慢把成本降下来。

就像公司里虽然多雇人会多花钱,但要是每个人都能高效完成专业工作,最后项目做得又快又好,长期来看反而划算。



这么一圈聊下来,其实 “上下文工程” 的四种方法都不是完美的,各有各的问题,但也各有各的必要。

它不是给AI“走捷径”,而是在AI的能力限制(比如上下文窗口大小、Token成本)和任务需求之间找平衡。

就像咱们居家过日子,收纳、整理、分类这些事也不是完美的,但要是不做,家里会乱得没法住。

AI的 “上下文工程” 也是一样,虽然有需要改进的地方,但现在已经是帮 AI 高效工作的核心办法,而且随着技术进步,那些小问题也会慢慢解决。



声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
《灼灼韶华》卢先生身份大有文章,这才是褚韶华杀二顺没判刑真相

《灼灼韶华》卢先生身份大有文章,这才是褚韶华杀二顺没判刑真相

感影的世界
2025-09-18 23:37:30
学医后你见过最恐怖的事是啥?网友:此生再也没有半点欢愉了

学医后你见过最恐怖的事是啥?网友:此生再也没有半点欢愉了

带你感受人间冷暖
2025-09-18 16:27:41
就冲这个胸,这个扣子,不颁奖给她,都说不过去!

就冲这个胸,这个扣子,不颁奖给她,都说不过去!

另子维爱读史
2025-08-31 19:15:27
韩艺太美了

韩艺太美了

东方不败然多多
2025-09-19 00:45:56
远华集团总裁赖昌星,在狱中对董文华的描述,听后让人咋舌

远华集团总裁赖昌星,在狱中对董文华的描述,听后让人咋舌

兰姐说故事
2025-02-17 22:00:03
宣布退网!中国男子在巴铁8年,花千万扶贫,回国因妻儿命悬一线

宣布退网!中国男子在巴铁8年,花千万扶贫,回国因妻儿命悬一线

趣文说娱
2025-08-14 10:09:47
通过这12个细节,网友们对人口问题有个基本的预估了

通过这12个细节,网友们对人口问题有个基本的预估了

清晖有墨
2025-09-17 16:59:17
造红牌+破纪录,哈兰德欧冠第一人!2-0那不勒斯,曼城宣战阿森纳

造红牌+破纪录,哈兰德欧冠第一人!2-0那不勒斯,曼城宣战阿森纳

我的护球最独特
2025-09-19 04:55:42
总床位超6000张!安徽龙头医院再增一新院区

总床位超6000张!安徽龙头医院再增一新院区

看医界
2025-09-18 14:58:51
嘎子谢孟伟被拘7天后续:律师解读其或面临巨额赔偿,导演发声!

嘎子谢孟伟被拘7天后续:律师解读其或面临巨额赔偿,导演发声!

古希腊掌管松饼的神
2025-09-18 09:13:57
足协迎喜讯,国足新帅或敲定,59岁,中国教练,名宿推荐!

足协迎喜讯,国足新帅或敲定,59岁,中国教练,名宿推荐!

禾寒叙
2025-09-18 17:15:45
热依扎的大招,不灵了?

热依扎的大招,不灵了?

会说话的舌
2025-09-19 01:37:22
太突然了!泰国传来新消息~新总理阿努廷大惊失色,佩通坦笑了

太突然了!泰国传来新消息~新总理阿努廷大惊失色,佩通坦笑了

观星赏月
2025-09-19 04:32:49
不露面不知道,一露面吓一跳!这些明星突然就老得不成样子了

不露面不知道,一露面吓一跳!这些明星突然就老得不成样子了

湘村大余
2025-09-18 22:56:11
无删减《权利的游戏》,震撼超出你的想象

无删减《权利的游戏》,震撼超出你的想象

暖心萌阿菇凉
2025-08-12 16:45:55
演员张艺洋已执行死刑!中国娱乐圈首例,倪大红、李雪健被牵连

演员张艺洋已执行死刑!中国娱乐圈首例,倪大红、李雪健被牵连

阿纂看事
2025-07-25 17:12:19
郝龙斌宣布参选后,郑丽文紧急做出3个承诺,朱立伦目的已达成!

郝龙斌宣布参选后,郑丽文紧急做出3个承诺,朱立伦目的已达成!

平祥生活日志
2025-09-18 06:51:57
傅崇碧回忆铁原阻击战,曾多次提到187师,师长88年晋升上将军衔

傅崇碧回忆铁原阻击战,曾多次提到187师,师长88年晋升上将军衔

蜉蝣说
2025-09-18 11:09:16
一定要让散户被套在最高点,这样才有利于整个社会的运行

一定要让散户被套在最高点,这样才有利于整个社会的运行

流苏晚晴
2025-09-15 19:43:34
47岁女高管与23岁男助理爬山,双双坠崖后,警方打开其帐篷愣住

47岁女高管与23岁男助理爬山,双双坠崖后,警方打开其帐篷愣住

悬案解密档案
2025-07-18 15:54:04
2025-09-19 06:32:49
每日奇迹
每日奇迹
每日奇迹:感恩生命中每一次点击关注
59文章数 45关注度
往期回顾 全部

科技要闻

英伟达50亿美元投资英特尔,但代工免谈

头条要闻

男子给小35岁情人转1340万 妻子:第三者生活极度奢侈

头条要闻

男子给小35岁情人转1340万 妻子:第三者生活极度奢侈

体育要闻

身高170的他,让196的博尔特坐不住了

娱乐要闻

最美央视才女,甩掉孙红雷嫁给张嘉益

财经要闻

起底多校“发臭午餐”供应商绿捷

汽车要闻

女神代言/新增配色/智能升级 26款腾势N9售38.98万起

态度原创

旅游
时尚
教育
艺术
本地

旅游要闻

热闻|清明假期将至,热门目的地有哪些?

秋冬穿对红黄橙,温暖又高级

教育要闻

2026QS商科硕士&MBA排名出炉:想读商科留学,这些院校必须重点关注!

艺术要闻

故宫珍藏的墨迹《十七帖》,比拓本更精良,这才是地道的魏晋写法

本地新闻

云游中国|谁懂!在天下第一关拍到史诗感大片

无障碍浏览 进入关怀版