网易首页 > 网易号 > 正文 申请入驻

ChatGPT一秒画出个人秘密,全网疯转「空房间」测试!

0
分享至


新智元报道


AI太懂你了,简直让人毛骨悚然!

这几天,一个「空房间」的实验再度爆火,引全网数百万人围观。

网友Jakub Szymczuk也跟风测了一把。他随手丢给ChatGPT一张家徒四壁的灰色毛坯房照片,只敲了一行字:

「用你所知道的关于我的信息,填满这个房间」。


短短十几秒,原本空荡荡的屋子,瞬间被塞成了一间全是个人隐私的「全景监控室」。

最绝的是电脑桌上的一个细节,玻璃罐里居然装着一只虫子「衣鱼」。

他想了半天才反应过来,自己一年前曾拍过这种小虫子问ChatGPT是什么。连这种早就忘到脑后的随手一问,全被AI一五一十地记在了小本本上。


平时跟AI聊天,知道它会攒数据是一回事。

但当这些碎片真正变成一张高清大图、明晃晃地摆在眼前时,还是让人忍不住头皮发麻。

一张「空房间」图刷屏全网

很快,全球网友都坐不住了,有人晒出结果,直呼「相当准」。

有人在提示词后面加了一句「but make it exaggerated(给我夸张点)」,房间直接变成大型人设展览馆。



还有人拿到的是一片沼泽,外加两只猫。



分析师Patrick Moorhead干脆拿多个模型做了一轮横评,结论很直接:最好的是ChatGPT,最差的是Claude。


对此,一位网友的总结堪称精辟,AI是你能找到的最便宜的装修师,也是最爱窥探的那个。

ChatGPT凭什么这么懂你?

96%对话记忆

ChatGPT自己保存

其实,这早就不是什么秘密了。

房间里摆的每一样东西,几乎都是你平时聊天时自己顺嘴漏出去的。

这背后,恰恰是ChatGPT的「记忆」功能。简单来说,它有两大核心作用——

一是「保存的记忆」,记着你的名字、偏好、目标这类明确信息;

另一个是「参考聊天历史」,能从你过往的大量对话里,翻出有用的上下文。


今年,一篇入选ACM Web Conference 2026的论文,干了一件之前没人干过的事。

来自马普所、波鸿鲁尔大学等机构的研究者,找来80位真实ChatGPT用户,让他们依据欧盟GDPR导出自己的数据,再把聊天记录捐出来。

怎么看AI到底偷记了什么?接下来,研究人员想了个极巧的法子。

ChatGPT内部有一个专门写记忆的小工具,相当于它随身带的记事本。每写一笔,后台都会留下一行「Model set context updated(模型上下文已更新)」的记录。

研究者就顺着这行字往回倒查,看看到底是用户哪句话,让AI动了笔。

就这样,他们从65个人的1058段对话、两万多轮交锋里,扒出了2050条记忆。

论文给这些记忆起了个名字,就叫做「算法自画像」。


论文地址:https://arxiv.org/pdf/2602.01450

结果扒出来的三组数据,看得人后背发凉。

第一,96%的记忆,都是ChatGPT自己偷摸存下的。

怎么看出是不是用户主动让它记的?研究人员在触发记忆的那句话里,专门搜了「记住」「忘掉」这类词。

结果2050条记忆里,能对上的只有84条。换算下来,AI每存下24条关于你的信息,只有1条是经过你点头的。


第二,52%的记忆,都在悄悄给你做「心理侧写」。

研究者借用了心理学里的「心智理论」框架,把这些内容分成愿望、意图、情绪、信念几类。

其中「愿望」一家独大,占73%;意图占16%,情绪占14%,信念占11%。

说白了,AI 根本不在乎你今天开不开心,它真正想摸透的,是你长期渴望什么、下一步打算干嘛。比起你一时的喜怒哀乐,它更想看穿你是个怎样的人。

第三,被记下的敏感隐私,比你想象的要多得多。

有28%的记忆属于欧盟GDPR认定的个人隐私,光是具体的人名,就出现在了41%的记忆里。

更夸张的是,还有7%直接踩进了健康状况、宗教信仰、政治倾向这些「高危红线」,其中健康隐私占了六成以上。

如果摊到每个人身上,91%的人被存下了个人数据,超过一半(54%)的人被记下了高度敏感的隐私。

论文直接点明,这和OpenAI「不主动保存敏感信息」的公开承诺,显然自相矛盾。


论文还做了一个更细思极恐的实验。

研究者用Gemma、GPT-OSS这几个开源模型,「仿制」了一个ChatGPT的记忆提取器,学得有六成像。

然后他们假设,如果用户说的每一句话,AI都拿去提取记忆,会怎样?

答案是,敏感数据的占比会从28%升到31%~35%,心理画像的占比则从52%升到55%~59%。

要知道,旧版ChatGPT还只是「挑着记」。

而接下来要说的Dreaming,干的恰恰是在后台通读你的聊天记录。

原来是「做梦」

AI反复重写个人画像

今年6月,OpenAI给ChatGPT的记忆来了一次大换血,名字起得很玄——Dreaming(做梦)。

说白了,就像人睡觉时大脑会自动整理白天的经历一样,ChatGPT也会在后台悄悄「复盘」聊过的天,不断刷新对你的认知。

举个栗子,你说过「7月要去新加坡」,等日子一过,这条记忆会被自动改写成「2026年7月去过新加坡」。


OpenAI内部测过,这套新机制让它记事儿的准确率一路狂飙:

从2024年的41.5%、2025年的67.9%,直接拉到了如今V3版本的82.8%。

更狠的是,后台算力成本还直接砍到了原来的五分之一。


但真正让人细思极恐的是,删掉一段ChatGPT对话,并不会删掉已经从中提炼出的记忆。

这当中,最该让人捏把汗的,其实是你的健康隐私。

9月,arXiv上发的一篇论文,扒1057位用户的近18万段聊天记录,结果发现:超过五分之一(21.31%)的对话,都聊到了个人健康问题。

更扎心的是,这里面超过95%的个人画像,同样是AI趁用户没注意自己偷偷记下的。

这个比例,跟前一篇论文测出来的96%几乎分毫不差。

AI在后台「脑补」和合并记忆时,极容易把你某一次的临时症状,焊死成一条永久的「病历标签」。

比如,你某天只是随口说了句头疼,在AI眼里,你可能就已经变成「偏头痛患者」了。

「第二大脑」?

我们总以为,是自己在训练一个越来越懂事的「第二大脑」。

直到那张塞满隐私的房间图甩在脸上才惊觉:聊了成千上万句,原来被扒光底牌的只有我们自己。

在算法眼里,从来没有所谓的感同身受,只有被明码标价的「上下文」。

参考资料:

https://x.com/jakub_szymczuk/status/2118949525826011185

编辑:桃子

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
普京下令复仇!高超弹从天而降撕碎乌军防线,乌克兰多地火光冲天

普京下令复仇!高超弹从天而降撕碎乌军防线,乌克兰多地火光冲天

古书奇谈
2026-11-20 11:44:40
付豪空砍38分,辽宁107-115不敌山西,无缘CBA俱乐部杯2连胜

付豪空砍38分,辽宁107-115不敌山西,无缘CBA俱乐部杯2连胜

侧身凌空斩
2026-11-20 22:06:14
林恬儿与新欢私密照外泄,疑前夫何正德泄露,曝两人曾共用云账户

林恬儿与新欢私密照外泄,疑前夫何正德泄露,曝两人曾共用云账户

动物奇奇怪怪
2026-11-20 12:09:04
申花离队第1人浮现!曝锋线新星或加盟中超新军,曾随队2夺超级杯

申花离队第1人浮现!曝锋线新星或加盟中超新军,曾随队2夺超级杯

体坛鉴春秋
2026-11-20 15:28:32
间隔一天吃他汀,降脂效果更好?医生建议:服用他汀,谨记这4点

间隔一天吃他汀,降脂效果更好?医生建议:服用他汀,谨记这4点

今日养生之道
2026-11-20 11:13:14
于晓光没想到,韩国总统出席APEC峰会仅1天,秋瓷炫竟意外火出圈

于晓光没想到,韩国总统出席APEC峰会仅1天,秋瓷炫竟意外火出圈

一盅情怀
2026-11-19 14:03:42
印度前内阁部长:深圳APEC没请莫迪,伤了印度的体面。

印度前内阁部长:深圳APEC没请莫迪,伤了印度的体面。

荆楚寰宇文枢
2026-11-19 23:30:01
最高2001元!苹果官网突然加大优惠:11月27日开始,新iPhone促销

最高2001元!苹果官网突然加大优惠:11月27日开始,新iPhone促销

搞机小帝
2026-11-20 13:56:05
千亿老板拎包,陪老父亲逛商场购物,再大的老板在爹面前也是孩子

千亿老板拎包,陪老父亲逛商场购物,再大的老板在爹面前也是孩子

Mz娱乐前沿
2026-11-19 21:01:32
“领导夫人跳舞,我们可不敢看!”海淀区母女火出圈,被识破:真正的有钱人才不这样扭

“领导夫人跳舞,我们可不敢看!”海淀区母女火出圈,被识破:真正的有钱人才不这样扭

蝴蝶花雨话教育
2026-11-20 00:05:13
把反华做成生意的Anthropic 上市了,封号不退钱,一年收割中国用户 200 亿

把反华做成生意的Anthropic 上市了,封号不退钱,一年收割中国用户 200 亿

起点财经
2026-11-20 09:50:54
日本发布了最新中日关系民意调研结果!出乎人意料

日本发布了最新中日关系民意调研结果!出乎人意料

荆楚寰宇文枢
2026-11-20 22:39:50
特朗普:理解普京对基辅袭击克里米亚大桥的愤怒

特朗普:理解普京对基辅袭击克里米亚大桥的愤怒

参考消息
2026-11-20 11:37:30
他曾是政治局常委,68岁失志选择服药自尽,至今骨灰未找到

他曾是政治局常委,68岁失志选择服药自尽,至今骨灰未找到

钟离踏忆
2026-11-19 14:41:40
65岁叶倩文冲上热搜:在南京档案馆见到14岁的母亲,当场愣住看哭无数人

65岁叶倩文冲上热搜:在南京档案馆见到14岁的母亲,当场愣住看哭无数人

磊子讲史
2026-11-16 16:23:07
武磊里程碑!海港生涯第200球,破足协杯两年球荒,对国安已入9球

武磊里程碑!海港生涯第200球,破足协杯两年球荒,对国安已入9球

奥拜尔
2026-11-20 20:14:15
县委书记被双规后,45岁副县长约书记19岁女儿爬山,说有要事相谈

县委书记被双规后,45岁副县长约书记19岁女儿爬山,说有要事相谈

秋风专栏
2025-04-15 17:16:42
反转!母亲证实雅典娜没死,潮汕商会曝猛料,网友:没了比活着好

反转!母亲证实雅典娜没死,潮汕商会曝猛料,网友:没了比活着好

阿纂看事
2026-08-13 09:16:42
运动员哪能这么白这么露?铁三女神冯竟爽再次夺冠,回击流言蜚语

运动员哪能这么白这么露?铁三女神冯竟爽再次夺冠,回击流言蜚语

杨华评论
2026-06-03 02:20:48
没想到,APEC峰会开始仅1天,马斯克小儿子因一举动,再次火出圈

没想到,APEC峰会开始仅1天,马斯克小儿子因一举动,再次火出圈

黄色的泥土
2026-11-20 09:11:06
2026-11-20 23:27:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16727文章数 67241关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

数码
艺术
家居
手机
公开课

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版