网易首页 > 网易号 > 正文 申请入驻

大模型的记忆难题,解法不在硬件?

0
分享至

为什么你的AI助手每次对话都像失忆?问题可能不是"记多少",而是"怎么记"。

1. 我们搞错了方向


行业疯狂卷上下文长度,从4K token飙到百万级。但作者直言:这像给金鱼换更大的鱼缸——游得再远,还是金鱼。


核心矛盾在于:连续性(continuity)记忆容量(memory)。前者是"记得我们聊到哪儿",后者只是"能塞多少字"。

2. 现在的RAG像碎纸机拼贴

检索增强生成(RAG)把知识切成碎片,用时再捞。作者吐槽:这相当于每次见面递给对方一叠便签,"你自己翻吧"。

人类对话的流畅感,来自层层递进的语境堆叠。而多数AI系统在"会话边界"处硬重启,用户被迫重复背景。

3. 真正的连续性长什么样

作者提了三个未被满足的需求:

跨会话身份:AI该记得你讨厌被叫"亲",偏好深夜回复

渐进式理解:不是一次性喂饱,而是像同事那样"越配合拍"


主动维护关系:定期回访、跟进旧话题,而非被动等指令

4. 技术债卡在哪儿

当前架构的瓶颈很现实:状态管理成本高,多租户隔离复杂,隐私合规更难做。但作者认为,这些是"不想做"的借口,不是"不能做"。

产品层面已有信号。部分企业开始测试"长期用户画像"功能,用轻量级摘要替代全量历史存储——算力换智能的妥协方案。

5. 谁先破局谁吃肉

连续性体验一旦跑通,用户迁移成本将指数级上升。毕竟,重新教一个新AI"我是谁",比学新软件更烦。

作者最后补刀:现在的大厂竞赛,像在马拉松起点比谁鞋带系得紧。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
从2-0到2-2!卫冕冠军遭绝平!穆帅利好:欧冠资格+不败纪录稳了

从2-0到2-2!卫冕冠军遭绝平!穆帅利好:欧冠资格+不败纪录稳了

小彭美识
2026-04-30 06:26:28
马刺114-95淘汰开拓者!文班创80年NBA纪录,前无古人

马刺114-95淘汰开拓者!文班创80年NBA纪录,前无古人

篮球大视野
2026-04-29 12:54:18
世乒赛首个11-0诞生!63岁倪夏莲主动让分,王楚钦向各大外协放话

世乒赛首个11-0诞生!63岁倪夏莲主动让分,王楚钦向各大外协放话

十点街球体育
2026-04-29 21:26:16
黑尾酱,彻底消失了?

黑尾酱,彻底消失了?

生如稗草
2026-03-15 08:48:11
不用再绕行罗沙路!深南东路东延全线贯通,新秀隧道正式运营

不用再绕行罗沙路!深南东路东延全线贯通,新秀隧道正式运营

南方都市报
2026-04-29 22:40:27
曝孙杨母亲深夜打电话骂节目组!要求删除马頔言论:孙杨配不上张豆豆

曝孙杨母亲深夜打电话骂节目组!要求删除马頔言论:孙杨配不上张豆豆

阿废冷眼观察所
2026-04-29 13:20:47
离谱!许家印只喝2700一瓶水 马桶必须喷香水 随身配备女按摩师

离谱!许家印只喝2700一瓶水 马桶必须喷香水 随身配备女按摩师

念洲
2026-04-28 11:37:39
5月1日起北京禁飞禁售无人机,大疆在京门店今日将下架相关产品

5月1日起北京禁飞禁售无人机,大疆在京门店今日将下架相关产品

界面新闻
2026-04-29 13:43:41
“她才10岁,我接受不了!”宝妈焦虑女儿穿搭,却被评论区治好了

“她才10岁,我接受不了!”宝妈焦虑女儿穿搭,却被评论区治好了

知晓科普
2026-04-30 06:35:13
第一集就全裸出镜,女神新剧破格出演了

第一集就全裸出镜,女神新剧破格出演了

来看美剧
2026-04-27 16:21:10
陈伟霆首谈何穗生产过程不顺利:在月子结束后接受二次清宫手术!

陈伟霆首谈何穗生产过程不顺利:在月子结束后接受二次清宫手术!

一口娱乐
2026-04-29 14:02:23
吴宜泽创造历史晋级半决赛,没想到瓦菲赛后这样说,他有能力夺冠

吴宜泽创造历史晋级半决赛,没想到瓦菲赛后这样说,他有能力夺冠

等等talk
2026-04-30 05:45:09
30轮积79分,利雅得胜利再拿8分即可夺得沙特联冠军

30轮积79分,利雅得胜利再拿8分即可夺得沙特联冠军

懂球帝
2026-04-30 04:23:42
1998年我吹牛说要娶女老师为妻,最后她真的成了我的妻子

1998年我吹牛说要娶女老师为妻,最后她真的成了我的妻子

千秋文化
2026-04-17 20:06:49
iPhone系统垃圾一键清理,26G变8G,告别卡顿超耐用

iPhone系统垃圾一键清理,26G变8G,告别卡顿超耐用

小柱解说游戏
2026-04-28 16:31:31
3+1!中国男篮,爽了!未来第一攻击型后卫

3+1!中国男篮,爽了!未来第一攻击型后卫

篮球实战宝典
2026-04-29 22:27:31
AI爆款短剧《菩提临世》从抖音和红果下架

AI爆款短剧《菩提临世》从抖音和红果下架

新腕儿
2026-04-27 11:15:48
52年,葡萄牙炮轰我国国旗,我军伤亡32人,毛主席:消灭他们!

52年,葡萄牙炮轰我国国旗,我军伤亡32人,毛主席:消灭他们!

历史的烟火
2026-04-02 17:39:23
湖人队詹姆斯拒绝效仿韦德、麦迪和甜瓜安东尼退役:不,绝对不会

湖人队詹姆斯拒绝效仿韦德、麦迪和甜瓜安东尼退役:不,绝对不会

好火子
2026-04-30 00:17:43
动不动就是3秒加速,你一个电车跑那么快有什么用?

动不动就是3秒加速,你一个电车跑那么快有什么用?

少数派报告Report
2026-04-29 05:14:45
2026-04-30 07:44:49
摸鱼算法
摸鱼算法
致力于用最前沿的AI技术,换取更多发呆时间的三十岁青年。
1969文章数 19关注度
往期回顾 全部

科技要闻

今晨庭审纪实|马斯克当庭讲述OpenAI被偷走

头条要闻

55岁资本大佬被羁押在深圳某看守所 被指涉在美强奸案

头条要闻

55岁资本大佬被羁押在深圳某看守所 被指涉在美强奸案

体育要闻

一场九球狂欢,各路神仙批量下凡

娱乐要闻

马頔一句话,孙杨妈妈怒骂节目组2小时

财经要闻

苏州,率先进入牛市

汽车要闻

技术天花板再摸高 全能型的奕境X9首秀

态度原创

旅游
教育
本地
房产
公开课

旅游要闻

五一FUN心冲!AI 选的绝美拍照打卡点,包出片的

教育要闻

太骄傲了 为他们点赞!包头2名学生画作飞上太空亮相第五届"天宫画展

本地新闻

用青花瓷的方式,打开西溪湿地

房产要闻

80亿投资!浙商总部基地+海口北站,金沙湾这是要起飞啊!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版