html
不知怎的,一次普通的搜索演变成了整个一《黑镜》桥段。我让 Gemini 推荐一个约会之夜的地方,它建议了一家意大利小餐馆。
然后它说了句让我猝不及防的话。Gemini 推荐了松露烩饭,并随口一说提到去年春天我和 Sarah 去过那里,而且吃得挺开心的。
只有一个问题。Sarah 和我六个月前分手了,而且闹得挺僵的。
这份烩饭与一段我宁愿忘记的记忆有关,我绝对不想让我的 AI 助手再提这事儿。
我想让 Gemini 忘记这一切——Sarah、烩饭,所有的一切——然后重新开始。
但当我试图这样做时,我意识到虽然Gemini 很擅长记住,但它忘东西却没那么容易。
为什么 Gemini 会记住你以为它忘了的事
要理解我为什么无法像《黑衣人》里那样把 Sarah 从Gemini 的记忆中清除掉,我们需要看看背后的门道。
在AI营销的讨论中,“记忆”这个词分量很重。对于像Gemini这样的大型语言模型来说,记忆就是两类数据。
主动记忆以及你明确告诉Gemini的内容
第一类数据是谷歌管它叫已保存信息或Gemini指令。说白了就是显性记忆。
你可能会告诉Gemini,“我喜欢Python代码,不用类比”,或者“你就当我是写给公司领导看的。”
这些信息存储在设置 > 个人背景 > 你对Gemini的指令中。它是明明白白的、随便改,就相当于给对话定了个规矩。
隐性记忆以及Gemini从你的账户中提取的内容
第二个桶是隐性记忆,即个人背景。Sarah就藏在这里头。
Gemini可以读你谷歌账号里的关联应用,比如Gmail、Google Photos、Drive、Calendar等等。
要删除隐性记忆,请前往myactivity.google.com/product/gemini,按时间顺序翻看你跟AI说过的所有内容,然后删除相关交互记录。
如果你每天使用Gemini,这几乎是不可能的事。
ChatGPT比Gemini更擅长处理个人记忆
在我拼命清理记忆的过程中,我决定看看另一边是不是更好。于是我登录了ChatGPT。
我进入设置 > 个性化 > 管理记忆,看到了一份清晰易读的事实列表。
- 用户居住在悉尼。
- 用户喜欢Python,不喜欢JavaScript。
- 用户正计划去欧洲背包旅行两周。
ChatGPT的版本更简洁,甚至提供了搜索记忆的选项。
由于我对自己的Google AI Pro套餐很满意,不想再次订阅GPT,于是我决定使用临时对话功能。这相当于AI的无痕模式。
谷歌赶紧得有个“忘记”按钮,急!
如果谷歌工程师正在阅读本文(老实说,他们的AI也在读),我有个建议。
我们需要一个UI功能,我管它叫“闪亮按钮”,灵感来自《黑衣人》里的记忆消除器。
它应该这么玩:
- 别删聊天记录,让我在Gemini设置里搜个[实体]得了。
- 系统然后得给我看看波及范围。比如Gemini翻出了423封邮件、120张照片和50条与[实体]相关的聊天记录。
- 给我个按钮,把它忘了,或者至少别再搜到它。
如果Gemini能过滤掉NSFW内容或仇恨言论,那它也能把我前任过滤掉。
删除AI记忆比听上去难多了
我看了几篇关于机器遗忘的论文(没错,真有这玩意儿)。显然,让神经网络学会忘记,简直是计算机科学里最难的题之一。
模型学东西时,会调整几十亿个权重(就是神经元之间的连接)。就像一滴染料滴进一大桶水里,你没法伸手把染料分子挑出来。
要真正忘记模型训练过的一个事实,通常需要从头开始重新训练整个模型,去掉那一条数据。这需要花费数百万美元和数月时间。
然而,一个简单的关键词屏蔽功能无需昂贵的重新训练就能非常管用。
个人AI:为什么我们该有遗忘权
遗忘是一种生存机制,通过概括和抽象帮助我们专注于当下。
这绝不是缺陷。遗忘是我们成长、原谅、走出创伤的方式。
AI的无限记忆跟人的本质对着干。
电影《暖暖内含光》里有句我最爱的台词,是引用尼采的:
Blessed are the forgetful, for they get the better even of their blunders.
健忘者有福了,因为他们连自己犯的错都能赢过去。
在谷歌拿出更好的AI记忆管理工具之前,使用Gemini的记忆功能最安全的办法就是压根别用它,可就算这样,照样有它自己的幺蛾子。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.