网易首页 > 网易号 > 正文 申请入驻

你的AI助手为何总是"失忆"?

0
分享至

八篇帖子前,我们从一堆石头开始。

到那个系列结束时,那些石头已经变成了一个可识别的系统——采集层、摄取管道、结构化记录、索引资产,最后是上层应用。这个架构与后院之外的系统惊人地一致:制造业、档案管理、人工智能。


但这个架构留下了一个未解决的问题。

数据流入,数据被索引,应用查询它。但系统做不到——也无法做到——跨越时间记忆。每次查询都是无状态的,每次会话都重新开始。

这对石头来说没问题。石头不会变。十月编目的花岗岩标本,三月还是那块花岗岩。

AI智能体不同。

它们现在无处不在。但大多数共享同一个架构限制:它们会遗忘。

这不是因为AI模型能力不足或有缺陷。而是因为包裹它们的应用是无状态的。作为开发者,我们花了多年时间设计通过数据库、缓存、队列、事件日志等有意持久化状态的系统。然而,许多AI系统仍依赖最简单的记忆机制:把之前的消息追加到提示里,希望它能装得下。

在演示、示例应用和展示的语境中,这能奏效。但对生产环境来说,它无法扩展。

有几种技术被用来克服这一架构限制,Oracle的团队有一些有趣的例子。他们的GitHub仓库oracle-ai-developer-hub展示了不同方法。通过memory_context_engineering_agents.ipynb等Jupyter笔记本和RAG示例,智能体记忆不再是一个功能,而成为一门工程学科。

让我们深入探讨为何这种向智能体记忆的转变很重要,以及开发者如何在真实系统中应用这些模式。

核心问题:默认无状态

大多数大语言模型(LLM)API以无状态方式运行,比如这样:

response = llm.generate(
prompt = "User: What did I ask earlier? \n Assistant:"
)

如果应用不明确包含之前交互的上下文,模型对此一无所知。常见的变通方法可能是:

conversation_history.append(user_message)
response = llm.generate(
prompt="\n".join(conversation_history)
)

这看起来合理,但有一些问题需要考虑。当对话超出token限制时怎么办?当检索变得过于昂贵时怎么办?当跨会话持久化变得复杂时怎么办?当无关信息淹没上下文窗口时怎么办?

这些不是边缘情况,而是生产部署中的核心工程挑战。

Oracle的示例展示了更成熟的解决方案:上下文工程、检索增强生成(RAG)、以及将记忆作为可查询资产而非提示填充物来处理。这些方法把智能体记忆从"让它能工作"的演示技巧,转变为可设计、可优化、可监控的系统组件。

对于正在构建真实AI应用的开发者来说,这意味着一个关键转变:不再问"我的提示能装多少历史",而是问"我的系统需要记住什么、如何记住、记住多久"。

这是从状态less提示到持久智能的工程跃迁。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
女生长的太漂亮是什么体验?网友:母以子贵,父以女荣

女生长的太漂亮是什么体验?网友:母以子贵,父以女荣

另子维爱读史
2026-03-10 22:56:08
北京时间5月13日,NBA传来重磅消息!

北京时间5月13日,NBA传来重磅消息!

止境
2026-05-14 00:41:37
全球最大太阳能飞机坠海:一场16年飞行的意外终点

全球最大太阳能飞机坠海:一场16年飞行的意外终点

报错免疫体
2026-05-12 07:36:35
当着全球的面,朝鲜立最高铁律:只要我被“斩首”,核弹立刻升空

当着全球的面,朝鲜立最高铁律:只要我被“斩首”,核弹立刻升空

小噎论事
2026-05-12 15:24:59
中国资产深夜爆发,世纪互联狂飙30%,美股芯片股走低

中国资产深夜爆发,世纪互联狂飙30%,美股芯片股走低

21世纪经济报道
2026-05-13 23:06:18
终于说实话了!湖人被横扫后,东契奇亲口确认:从未达到复出标准

终于说实话了!湖人被横扫后,东契奇亲口确认:从未达到复出标准

夜白侃球
2026-05-13 10:32:32
1-1平无缘提前夺冠不可怕,C罗赛后言论引担忧

1-1平无缘提前夺冠不可怕,C罗赛后言论引担忧

稗官青史
2026-05-13 06:20:06
德国巨头懵了,垄断全球几十年的“菜刀之王”,被广东小城掀翻

德国巨头懵了,垄断全球几十年的“菜刀之王”,被广东小城掀翻

毒sir财经
2026-05-13 21:33:38
离开郭晋安嫁给身价2亿的富豪,如今29年过去,刘小慧成了这样

离开郭晋安嫁给身价2亿的富豪,如今29年过去,刘小慧成了这样

可乐谈情感
2026-05-14 00:48:03
世界银行前行长一语惊人:中国不该是发展中国家,应帮助美国解围

世界银行前行长一语惊人:中国不该是发展中国家,应帮助美国解围

白日追梦人
2026-05-13 13:50:31
这才是抗战时期毛主席的真实相貌,美国人拍摄,衣服破旧令人动容

这才是抗战时期毛主席的真实相貌,美国人拍摄,衣服破旧令人动容

兴趣知识
2026-05-01 00:57:05
国产“新伟哥”!效力是西地那非8倍,副作用却更少

国产“新伟哥”!效力是西地那非8倍,副作用却更少

鬼菜生活
2026-05-09 11:20:07
湖人真该裁掉他!东契奇两次对其不满,八村塁因得罪他惨遭弃用?

湖人真该裁掉他!东契奇两次对其不满,八村塁因得罪他惨遭弃用?

你的篮球频道
2026-05-13 15:02:44
CBA再现伤人恶犯!超级外援袭击两大国手遭无视,网友:驱逐出境

CBA再现伤人恶犯!超级外援袭击两大国手遭无视,网友:驱逐出境

新杀猪的秀才
2026-05-14 00:53:59
白鹿风波升级!本人掉粉20万评论区沦陷,网友质问为何欺负李晨

白鹿风波升级!本人掉粉20万评论区沦陷,网友质问为何欺负李晨

傲傲讲历史
2026-05-14 02:19:33
喝酒后出现这3个现象,说明你的身体已不适合喝酒,再喝就是玩命

喝酒后出现这3个现象,说明你的身体已不适合喝酒,再喝就是玩命

深度报
2026-04-24 22:31:58
糖尿病人:清晨三忌、午间三不要,晚间三不做,全天血糖稳如泰山

糖尿病人:清晨三忌、午间三不要,晚间三不做,全天血糖稳如泰山

橘子约定
2026-05-11 21:34:28
50年不停产!这颗8脚芯片至今仍在量产:淘宝几毛钱就能买

50年不停产!这颗8脚芯片至今仍在量产:淘宝几毛钱就能买

快科技
2026-05-11 17:38:30
无人车运载300千克炸药大爆破!战力严重削弱,俄军只能AI插旗

无人车运载300千克炸药大爆破!战力严重削弱,俄军只能AI插旗

鹰眼Defence
2026-05-13 17:17:13
国羽爆大冷!陈雨菲首局翻车,17-15被逆转,女单或全军覆没?

国羽爆大冷!陈雨菲首局翻车,17-15被逆转,女单或全军覆没?

刘姚尧的文字城堡
2026-05-13 15:25:04
2026-05-14 03:07:00
硬核玩家2哈
硬核玩家2哈
沉淀中,勿扰
2588文章数 13关注度
往期回顾 全部

科技要闻

阿里年营收首破万亿,AI终于不再是画大饼

头条要闻

女子闪婚获千万房产99%份额闪离后起诉分割 法院判了

头条要闻

女子闪婚获千万房产99%份额闪离后起诉分割 法院判了

体育要闻

14年半,74万,何冰娇没选那条更安稳的路

娱乐要闻

白鹿掉20万粉,网友为李晨鸣不平

财经要闻

美国总统特朗普抵达北京

汽车要闻

C级纯电轿跑 吉利银河"TT"申报图来了

态度原创

教育
游戏
艺术
健康
军事航空

教育要闻

中考这件事,许多家长都搞错了方向

LOL迎来史诗级改动,GEN被削废T1获利!GEN老板:为谁改的版本?

艺术要闻

规划中的成都第三高楼,从396米降到250米以下?

干细胞能让人“返老还童”吗

军事要闻

沙特被指3月曾对伊朗发动多次“报复性”空袭

无障碍浏览 进入关怀版