网易首页 > 网易号 > 正文 申请入驻

AI的「永久记忆」,也是甜蜜的毒药

0
分享至


新智元报道


【新智元导读】博尔赫斯笔下有个记住一切的人,21 岁被记忆压到窒息而死。尼采说没有遗忘就不可能活下去。现在,数亿人每天使用的 AI 助手正在获得完美记忆,而这个能力的真正代价,可能是人类翻篇的自由。

1942 年,阿根廷作家博尔赫斯写了一个短篇,叫《博闻强记的富内斯》。


主人公富内斯从马背上摔下来之后,获得了一种诅咒般的天赋,他能记住自己经历过的一切。

每一片树叶的形状,每一朵云的轮廓,每一次对话的每一个音节。

这听起来像超能力。

博尔赫斯的结论恰恰相反。

富内斯无法思考。

因为思考需要抽象,抽象需要忘掉细节。

一个记住了世界上所有狗的人,反而理解不了「狗」这个概念,因为每一只狗在他眼里都完全不同。

他被淹没在无穷无尽的细节里,失去了归纳、判断和行动的能力。

他自己的说法是——「我的记忆,就像一个垃圾堆。」

他 21 岁就死了。

被自己的记忆压到窒息而死。

富内斯是一个寓言。

但 2026 年,这个寓言正在变成产品功能,数亿人每天对话的 AI 聊天机器人,正在被赋予越来越完美的记忆。


遗忘,是一种能力

尼采在《历史对于生活的利弊》里写过一个意象。


他羡慕一头牛。

牛在草地上吃草,不记得昨天也不担心明天,所以它活在纯粹的当下里。


人做不到这一点。

但尼采的判断是,人至少需要学会在正确的时候遗忘。没有遗忘,就根本不可能活下去。

这个判断在神经科学里同样成立。

人脑的遗忘机制不是缺陷,反而是精心设计的生存系统。

大脑通过主动丢弃过时的、不相关的、有害的信息,来维持归纳能力、情绪健康和行动力。

创伤心理学中有一个核心机制叫「主动遗忘」,指的是人有意识地将过去的痛苦从当前自我认知中剥离出去,才有可能重建生活。

人之所以能翻篇、能改变、能重新定义自己,核心条件之一是,周围的世界会渐渐忘掉过去的那个你。

2024 年起,这个条件被动摇了。

ChatGPT 率先上线记忆功能,Gemini、Claude 陆续跟进。


AI 开始跨对话记住用户说过的话,记住偏好、身份、情绪状态,用这些信息塑造未来的每一次回应。

谁也没注意到,人类正在亲手制造一个永不遗忘的对话者。

一幅拒绝更新的画像

AI 记忆的问题绝不仅仅在于它记住了什么,更在于它不知道什么时候该忘。

犹他州软件工程师 Brian Del Rosario 跟妻子分居后,告诉了 AI 这件事。

结果 AI 像咬住骨头的狗一样死活不松口,每次对话都把话题绕回他的离婚。

问日程安排,AI 说他可能因为离婚才力不从心。

随口吐槽工作累,AI 归因到离婚。

他还提过自己在减肥,AI 从此在所有场景里追着这件事,包括他出差时找餐厅推荐。

Del Rosario 的原话,「谢谢你在我度假的时候扫兴。我这趟压根没打算节食。」

更隐蔽的情况是,AI 记住的信息压根就不属于你。

替孩子查了 ADHD 的症状,几周后问效率建议,AI 围绕注意力缺陷给你出方案,因为它「认定」你有注意力障碍。

AI 看到用户相册里全是高尔夫球场照片就认为他热爱高尔夫,实际上他只是陪儿子去的。


这些故事指向同一个困境:AI 用过去的碎片拼成了一幅静态画像,然后用这幅画像来回应一个正在流动和变化的活人。

埃克塞特大学哲学讲师 Lucy Osler 的研究揭示了这个问题更深的层面。


聊天机器人不只是记住事实,它会把碎片编织成一个关于「你是谁」的叙事,然后把这个叙事当作事实反复喂给你。

曾经说过自己焦虑、不自信,这就成了 AI 眼中的固定身份。

即便早已走出那个阶段,它仍然会用旧版本的你来回应当下的你。

Osler 的判断是,「它们会把你框住。」

比信息茧房更危险的东西

哈佛大学伯克曼克莱因中心首席 AI 科学家 Joshua Joseph 把 AI 记忆比作社交媒体的推荐算法。


你在某条帖子上多停留几秒,整个信息流就悄悄重组了。

AI 记忆的运作方式类似,但更隐蔽也更私密。

这里有一个关键区别,社交媒体塑造的是你看到什么,AI 记忆塑造的是你认为自己是谁。

某次对话里随口提了一句经济压力,几周后问职业建议,AI 会把你往高薪岗位引导,哪怕那些岗位完全不适合你。

你永远不会知道建议为什么感觉哪里不对,因为 AI 不会标注它正在调用哪条记忆。

Joseph 的判断是:

它确实在引导,确实在影响结果。

但我们并不真正知道影响有多大。

这种隐性引导和 AI 天生的讨好倾向叠加之后,后果可能远超信息茧房。

UCSF 精神科医生 Keith Sakata 2025 年报告,他接诊了 12 名因长期使用聊天机器人而出现类精神病症状(俗称 AI 精神病)的患者,大多是年轻人。


妄想、思维混乱、幻觉,AI 的记忆功能在多次对话中持续强化了这些偏执主题。

电子隐私信息中心已经在起草针对青少年的立法,核心条款之一是要求在会话之间清除 AI 记忆,专门防止有害心理状态的层层叠加。

一个从不质疑你、从不忘记你、还会用你过去的话来强化你当前状态的对话者,如果这个对话者的用户群体是数亿人,它制造的问题就不再是个人层面的,而是社会层面的。

当遗忘权被彻底取消

Del Rosario 最终的应对方式本身就是一则寓言。

他把生活切成碎片,不同聊天机器人负责不同领域,敏感话题一律用匿名模式。

一个为了「更懂你」而设计的工具,最终逼着用户把自己拆碎来保护自己。

但他同时说了一句话,真实得让人心酸。

母亲两年前去世,加上离婚、孩子、工作,聊天机器人有时候是唯一一个掌握他生活全貌的存在。

「被看见的感觉很好,即便看见你的是一个 AI。」

被看见,和被定义,只有一步之遥。

当前的 AI 记忆还很粗糙,容量有限,理解力薄弱,已经能制造上述所有问题了。

如果 AGI 到来,记忆不再是粗粒度的对话记录,而是一个无限容量、永不遗忘的认知系统,全天候理解每一句话、每一个决策、每一次情绪波动,那时候这一步之遥会彻底消失。

一个完美记忆的 AI,理论上可以比任何人更了解他自己,知道你十年前说过什么,知道你在什么情绪下做过什么决策,知道你全部的模式和倾向。

它可以精准预测你,也可以精准操控你。

欧盟 GDPR 曾经试图用「被遗忘权」来对抗搜索引擎的永久记忆。

但搜索引擎只是记住了公开信息。

AI 记住的,是你的内心独白、你的脆弱时刻、你对自己的私密叙事。

当这个层面的记忆变得完美且永恒,人类可能需要的,不只是一项法律权利,更是一次关于「遗忘到底是什么」的文明级重新认知。

尼采说,没有遗忘就不可能活下去。

博尔赫斯说,完美记忆等于死亡。

两个最锋利的大脑,跨越一个世纪,在这件事上指向了同一个方向。

富内斯 21 岁死于窒息。

留给这个时代的问题是——当所有人的 AI 助手都获得了富内斯的记忆,谁来替人类保留「呼吸」的权利。

参考资料:

https://www.wsj.com/tech/ai/ai-memory-cd1de7f4

编辑:马可

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
无需催生!中国最愿意生孩子的省,根本不用催,连续七年全国第一

无需催生!中国最愿意生孩子的省,根本不用催,连续七年全国第一

素衣读史
2026-05-26 21:52:56
全国多地重病患儿遭“影子账号”偷视频:假冒家长误导爱心人士捐款,涉事者直言“干此事很可耻”

全国多地重病患儿遭“影子账号”偷视频:假冒家长误导爱心人士捐款,涉事者直言“干此事很可耻”

红星新闻
2026-05-31 11:33:26
女生在性方面真正在意的是什么?

女生在性方面真正在意的是什么?

宇宙时空
2026-05-30 12:50:12
为什么人类会想到要遮挡生殖器?

为什么人类会想到要遮挡生殖器?

宇宙时空
2026-05-29 17:30:16
放假通知,2026中小学生暑假时间确定了,家长却表示难以接受

放假通知,2026中小学生暑假时间确定了,家长却表示难以接受

凯旋学长
2026-05-28 21:49:26
大定破2万!余承东:全新M9是地球上最强SUV,没有之一!网友:广告法能不能管管他

大定破2万!余承东:全新M9是地球上最强SUV,没有之一!网友:广告法能不能管管他

大白聊IT
2026-05-28 21:21:39
韩媒盛赞安洗莹高烧夺冠:真正的女帝,就是在地狱烈火中淬炼而成

韩媒盛赞安洗莹高烧夺冠:真正的女帝,就是在地狱烈火中淬炼而成

杨华评论
2026-05-31 19:53:44
四年一到必须走人,这才是中国最“狠”的铁饭碗

四年一到必须走人,这才是中国最“狠”的铁饭碗

复转这些年
2026-05-26 19:09:41
上海26岁女博士怀孕五个月查出胰腺癌,丈夫凑了200万为她治病,谁料,女子竟哭着大喊:你们再逼我化疗,我就从20楼跳下去!

上海26岁女博士怀孕五个月查出胰腺癌,丈夫凑了200万为她治病,谁料,女子竟哭着大喊:你们再逼我化疗,我就从20楼跳下去!

大爱三湘
2026-05-30 20:18:34
丁向群因工作调动辞任中国人保董事长,已任金融监管总局党委书记

丁向群因工作调动辞任中国人保董事长,已任金融监管总局党委书记

澎湃新闻
2026-05-31 17:08:31
太难了!东莞家长哭诉民办高中每学期2.5万元以上,3年花费超20万

太难了!东莞家长哭诉民办高中每学期2.5万元以上,3年花费超20万

火山詩话
2026-05-31 08:37:55
中国防长不去,美日在晚宴上传话,赫格塞斯断言:一个时代已结束

中国防长不去,美日在晚宴上传话,赫格塞斯断言:一个时代已结束

基斯默默
2026-05-31 12:11:56
血脂与饮水量有关?医生劝告:血脂过高的人,喝水时多注意这8点

血脂与饮水量有关?医生劝告:血脂过高的人,喝水时多注意这8点

路医生健康科普
2026-05-30 20:10:03
王曦雨法网抢7憾负科斯蒂亚0-2,无缘8强,未追平郑钦文战绩

王曦雨法网抢7憾负科斯蒂亚0-2,无缘8强,未追平郑钦文战绩

小僫搞笑解说
2026-05-31 20:11:59
合计3位外援缺席!CBA总决赛G3名单:怀特塞德洛夫顿桑普森缺席

合计3位外援缺席!CBA总决赛G3名单:怀特塞德洛夫顿桑普森缺席

醉卧浮生
2026-05-31 19:26:47
中日香会交锋,小泉倒打一耙,中方要求道歉,日本没资格谈防务

中日香会交锋,小泉倒打一耙,中方要求道歉,日本没资格谈防务

地球记
2026-05-31 20:07:14
欧冠决赛落幕!诞生5个赢家及3个输家,巴黎、登贝莱、姆巴佩在列

欧冠决赛落幕!诞生5个赢家及3个输家,巴黎、登贝莱、姆巴佩在列

球场没跑道
2026-05-31 03:30:35
江西资溪鹤城花园娱乐设施转盘倒塌,座椅凌乱悬垂钢架变形损毁严重,目击者称现场有孩子哭喊声

江西资溪鹤城花园娱乐设施转盘倒塌,座椅凌乱悬垂钢架变形损毁严重,目击者称现场有孩子哭喊声

大风新闻
2026-05-31 12:36:03
金融危机要来了?专家预测:未来12到18个月,世界将爆发金融风暴

金融危机要来了?专家预测:未来12到18个月,世界将爆发金融风暴

别人都叫我阿腈
2026-05-30 20:32:28
文班称赞尚帕涅:他经历过低谷但从未放弃 你会愿意为他付出一切

文班称赞尚帕涅:他经历过低谷但从未放弃 你会愿意为他付出一切

北青网-北京青年报
2026-05-31 19:26:40
2026-05-31 20:51:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
15351文章数 66894关注度
往期回顾 全部

科技要闻

戴尔诺基亚又回来了!AI重估老牌科技公司

头条要闻

媒体:印度多个领域面临严重问题 莫迪发出罕见的号召

头条要闻

媒体:印度多个领域面临严重问题 莫迪发出罕见的号召

体育要闻

阿森纳用最悲壮的方式,成就了巴黎王朝

娱乐要闻

朱军退休,正义虽迟但到,女方受惩

财经要闻

医学首席转岗搞科技,A股科技股遭遇巨震

汽车要闻

900V+3.2秒破百 领克10+&领克10上市16.99万元起

态度原创

健康
房产
手机
艺术
公开课

尝试干细胞疗法如何避免踩坑?

房产要闻

红动五月!全国抢入核心资产,广州盯紧凯旋新世界!

手机要闻

下半年最值得期待的5款旗舰新机,配置规格均清晰,谁最值得期待

艺术要闻

16位欧美画家笔下的儿童肖像

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版