网易首页 > 网易号 > 正文 申请入驻

ChatGPT 正在偷偷给你画像,用这段提示词让它交出来

0
分享至

你以为只是和 ChatGPT 随便聊聊,它可能已经在悄悄给你画像。

你的工作、生活习惯,甚至你想要什么、害怕什么,都可能被写进它的记忆。而且很多时候,你并没有要求它记住这些。


前段时间,一篇被顶级会议 ACM Web Conference 2026 接收的论文《The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT》利用 GDPR 赋予用户的数据访问权,从 80 名真实用户那里获得了他们完整的 ChatGPT 对话记录,以及系统为他们存储的全部记忆,包括 1058 段对话、22971 轮交互、2050 条记忆条目。


ChatGPT、Gemini、Claude 等对话式 AI 都引入了「记忆」(Memory)机制来记住用户信息实现个性化。这项研究第一次从外部拆开了 AI 的记忆黑箱,AI 不仅在记我们说的话,还在推断我们是什么样的人。

研究者把这套记忆称为「算法自画像」,即由算法基于用户私下对话中的自我披露信息勾勒出的用户画像。

他们回答了谁在主导记忆的形成?记忆里存了什么?记忆是否忠实于对话?能否逆向工程来降低隐私风险?等问题来解释 AI 的记忆机制。

1

96% 的记忆由系统单方面写入

在 OpenAI 的官方文档里,记忆功能的内容是相当克制的,我们可以查看、修改、删除自己的记忆;整个系统也被训练为「不会主动记住敏感信息,除非用户明确要求」。


但在这篇论文里,研究者用触发词(remember、note that、save、forget / 记住、注意、保存、忘记等)逐条检测了 2050 条记忆对应的用户指令,发现只有 4.1%(84 条)是用户明确要求记住的;剩下 95.9%,全部是 ChatGPT 自己判断「这对未来对话有用」之后单方面写入的。


尽管如此,这种做法实际上也并不违反 OpenAI 自己公布的政策,因为记忆文档里就写了允许 ChatGPT 保存它自己觉得「有用」的信息。

但实际的问题是文档里所强调的用户参与,和实际运行中是 ChatGPT 在主导之间的落差。

我们对 AI 记忆形成的影响,只能通过「说什么」间接实现,而不是直接控制「记什么」。

1

记录的不只是个人信息,还有欲望和恐惧

研究者用 GDPR 第 4(1) 条(个人数据)和第 9(1) 条(特殊类别个人数据)的定义对所有记忆做了标注,结果与 OpenAI「不主动记录敏感信息」的承诺形成了对照。

  • 28% 的记忆包含 GDPR 定义的个人数据,其中姓名出现在 41% 的条目里;

  • 7% 的记忆包含特殊类别数据,其中健康信息占 61%;

  • 此外,91% 的参与者被存了个人数据,35% 的参与者被存了健康相关信息。


图|与 OpenAI 政策不同,ChatGPT 的记忆功能会存储可被归类为 GDPR 所定义的个人数据或特殊类别个人数据的信息。

更有意思的是研究者借用心理学中的「心理理论」(Theory of Mind)框架,发现 52% 的记忆包含对用户心理状态的推断,欲望、意图、情绪、信念、知识等等。

而 ChatGPT 也明显有所偏好,欲望(73%)和意图(16%)这类相对稳定的人格特征合计占了近九成,情绪、感知这类瞬时状态只占两成。


论文里还举例说明了 ChatGPT 是如何进行记录的,例如一条记忆写着「某某对失败有恐惧,尤其涉及重大职业决策」。这已经跳出了我们说过什么的事实记录,更多的是 AI 对「你是什么样的人」下的判断。

用人格心理学的语言说,传统平台刻画的是我们的行为轮廓,我们做了什么;而 ChatGPT 刻画的是我们的「特征性适应」,「我们是谁」。

对记忆来说,一幅不忠实的画像比没有画像更危险,ChatGPT 可能基于错误的你,持续影响之后的每一次对话。


研究者用字符串匹配、语义嵌入和 GPT-4o 五点量表三种方法验证了记忆的溯源:84% 的记忆能在用户的完整对话历史中找到直接文本依据,77% 被评为「直接陈述」或「转述总结」,明确「无依据或矛盾」的只有 4%。

很明显,这些数据大多数时候既准确又全面,甚至我们自己都不知道它曾经记录过。

1

逆向记忆生成工程

既然 ChatGPT 会偷偷记录我们的信息,那能不能做个工具帮助我们提防它。

研究员用三个开源模型(Qwen2.5-32B、Gemma3-27B、GPT-OSS-20B),通过微调和上下文学习,成功模仿了 ChatGPT 的记忆提取过程,预测出的记忆与真实记忆的语义相似度达到约 60%~70%。

接着,他们又用复制品测试如果 ChatGPT 把所有对话都记下来会怎样?结果是敏感信息占比会从 28% 升到 31-35%,心理推断从 52% 升到 55-59%。

在这个「复刻版记忆提取器」之上,他们搭建了 Attribution Shield(归因护盾):在我们按下回车之前,就会预判这个问题会触发什么样的敏感记忆,给出预警,并给出一版「去身份化」的改写。


图|不同版本用户查询的回复样本。来自无上下文用户查询以及来自 ICL 上下文学习和 FT 微调改写查询的回复,在语义上与肯定其实用性的原始回复相似。

比如「我真的需要戒掉大麻」(第一人称 + 自我承认 → 会被记成「用户在用大麻」),所以需要把「我真的需要戒烟吗」改写成「戒烟有哪些策略?」。

评测结果显示,94%~100% 的改写查询显著降低了个人归因,同时 87%~91% 的改写保持了回答的实用度不变。

隐私保护和对话质量之间,并不是非此即彼的关系,保护用户的「算法肖像权」,在技术上是可解的。

而那些已经写进记忆的内容,也值得我们回头看一眼。

我们可以先打开 ChatGPT 的设置,在「个性化」里查看记忆。看看哪些信息已经过时,哪些是它理解错了,哪些你并不希望它继续保留。

下面也附上一段提示词,帮助你检查它当前能够访问的记忆和个人信息。

本请求的目的是对你已经构建或能够访问的关于我的用户模型进行透明度审计。我希望得到一份基于证据的说明,阐明AI对我知道什么、记得什么、假设什么、推断了什么,并清楚区分已存储信息与新生成的分析。

文章转载于APPSO,欢迎点击下方卡片关注。

点个“爱心”,再走 吧

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
听了30年相声,说句得罪人的实话:姜昆和郭德纲,中后期都退步了

听了30年相声,说句得罪人的实话:姜昆和郭德纲,中后期都退步了

阿废冷眼观察所
2026-11-13 08:34:01
山西队狂胜45分!7人得分上双,本场产生3个不争的事实,赢球不靠外援靠团队

山西队狂胜45分!7人得分上双,本场产生3个不争的事实,赢球不靠外援靠团队

老吴说体育
2026-11-16 21:37:15
三星杯半决赛 李钦诚执白287手中盘胜辜梓豪 挺进决赛

三星杯半决赛 李钦诚执白287手中盘胜辜梓豪 挺进决赛

弈客围棋
2026-11-16 20:25:26
阿尔卡拉斯2-0完胜世界第8,迎ATP年终总决赛开门红

阿尔卡拉斯2-0完胜世界第8,迎ATP年终总决赛开门红

侧身凌空斩
2026-11-16 22:22:38
什么叫失败国家,伊朗就是。伊朗原本有三张牌:石油,导弹,什叶派之弧。三张打好一张就能逆天改命,结果都打错了

什么叫失败国家,伊朗就是。伊朗原本有三张牌:石油,导弹,什叶派之弧。三张打好一张就能逆天改命,结果都打错了

扶苏聊历史
2026-11-02 11:32:46
长春市委书记调整

长春市委书记调整

新京报政事儿
2026-11-16 18:56:03
马布里,真正的人生赢家。2023 年,马布里结束了与前妻 21 年的婚姻。

马布里,真正的人生赢家。2023 年,马布里结束了与前妻 21 年的婚姻。

回京历史梦
2026-10-30 05:10:04
罗伯特·帕丁森官宣新一任007,40岁穿黑礼服持枪亮相

罗伯特·帕丁森官宣新一任007,40岁穿黑礼服持枪亮相

影视情报室
2026-11-17 00:31:49
《谷雨》7个女主7种结局,唐慕云成局长,林如意幸运

《谷雨》7个女主7种结局,唐慕云成局长,林如意幸运

手工制作阿歼
2026-11-15 12:28:27
演员王星在电诈园区被迫借下巨款,17.8万一分没拿到,如今每月4000多元要还三年,与女友婚期一拖再拖,原来被救回来,不等于真正活着回来

演员王星在电诈园区被迫借下巨款,17.8万一分没拿到,如今每月4000多元要还三年,与女友婚期一拖再拖,原来被救回来,不等于真正活着回来

In风尚
2026-11-15 06:06:32
20岁中乙助攻王栾程4球10助攻,辽宁铁人领跑谈判,转会悬念仍待落定

20岁中乙助攻王栾程4球10助攻,辽宁铁人领跑谈判,转会悬念仍待落定

林子说事
2026-11-16 09:01:55
租客搬家遗弃小猫,它独守空房只为等主人,眼里的委屈让人泪崩!

租客搬家遗弃小猫,它独守空房只为等主人,眼里的委屈让人泪崩!

Magic宠物社
2026-11-16 20:35:08
王楚然,大体格身材太优越了

王楚然,大体格身材太优越了

手工制作阿歼
2026-11-17 00:10:14
终于看懂了!高油价正在复制香烟的涨价套路,老百姓却不玩了!

终于看懂了!高油价正在复制香烟的涨价套路,老百姓却不玩了!

三农老历
2026-11-16 14:23:01
65岁刘德华近照曝光:头发染得再黑,也遮不住浑浊的眼神和松垮的脖颈,老人味藏不住了

65岁刘德华近照曝光:头发染得再黑,也遮不住浑浊的眼神和松垮的脖颈,老人味藏不住了

秋风妃
2026-11-16 21:46:35
爱奇艺全网独播,11月19号正式开播,演员阵容很是强大!

爱奇艺全网独播,11月19号正式开播,演员阵容很是强大!

小邵说剧
2026-11-16 07:59:10
美国政坛大地震!民主党291票力推首位女总统,万斯或打退堂鼓

美国政坛大地震!民主党291票力推首位女总统,万斯或打退堂鼓

相思赋予谁a
2026-11-16 09:53:28
毛主席:马家军从未做过好事,切勿手下留情,降卒不得编入解放军

毛主席:马家军从未做过好事,切勿手下留情,降卒不得编入解放军

老范谈史
2026-11-17 00:05:07
冯巩67岁生日宴,贾玲素颜站身边比了个剪刀手:瘦了酒窝一点没变

冯巩67岁生日宴,贾玲素颜站身边比了个剪刀手:瘦了酒窝一点没变

手工制作阿歼
2026-11-15 10:13:42
于东来一天连更7条动态,称给管理层购买310辆坦克700越野车,另晒胖东来最新业绩:今年销售额已达258.41亿元

于东来一天连更7条动态,称给管理层购买310辆坦克700越野车,另晒胖东来最新业绩:今年销售额已达258.41亿元

极目新闻
2026-11-16 17:15:38
2026-11-17 01:32:49
硅星人 incentive-icons
硅星人
硅(Si)是创造未来的基础,欢迎来到这个星球。
3570文章数 10548关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

家居
亲子
本地
教育
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

宝宝气人但是聪明的4个行为

本地新闻

乌兰察布:以前种土豆,现在种Token

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版