网易首页 > 网易号 > 正文 申请入驻

你与AI的聊天,可能在网上公开!隐私泄露风险真的出现了

0
分享至

“我只是请AI帮忙拟份工作通知,没想到它居然把我的要求直接发到了互联网上!”近期,大量用户与ChatGPT之间的对话内容被泄露到谷歌搜索控制台(Google Search Console,简称GSC)。值得注意的是,这已非AI聊天服务首次发生用户信息泄露事件,多起案例表明,随着用户对AI的依赖日益增长,AI聊天服务面临新型隐私泄露威胁。

AI聊天内容被发送给搜索引擎

GSC工具本来用于帮助网站管理员分析其网站的搜索表现,例如用户通过哪些关键词找到网站、来自搜索引擎的点击率等,从而优化网站内容。但今年9月起,陆续有网站管理员在GSC中发现大量异常记录。这些记录并非普通搜索关键词,而是用户与ChatGPT的完整对话,涉及情感咨询、商业信息等隐私内容。例如一名疑似女性用户让ChatGPT分析某些行为,以判断经常调侃她的男生是否对自己有好感;一名疑似办公室经理要求ChatGPT代拟工作通知时,提供了部分商业信息。

背后的原因是什么?正常情况下,AI聊天服务应该先对用户输入内容进行处理,再向外部搜索引擎查询时事信息等资料,以回答用户提问。但有技术团队测试发现,ChatGPT有时会错误地把用户在对话框中输入的原始内容直接作为关键词在搜索引擎上检索,并访问、抓取搜索结果提供的网页,进而导致用户向ChatGPT提供的内容被GSC记录。受此影响,可能有多个在搜索引擎结果中排名靠前的网站通过GSC接收到ChatGPT泄露的用户内容。

ChatGPT开发商——OpenAI发言人承认公司已针对上述问题发现并修复了一个技术故障,该故障“暂时影响了少量搜索查询的路由方式”。至于有多少用户受到影响,OpenAI则拒绝回应。谷歌方面则对此事保持沉默。

已发生多起AI聊天记录泄露事件

值得注意的是,这并非ChatGPT首次发生用户信息泄露事件。今年8月,就曾有用户发现谷歌等搜索引擎上可直接查找到大量用户与ChatGPT之间的对话记录。尽管这些聊天记录没有直接展示用户账号或邮箱,但其中包含具体的个人信息,足以拼凑出对话者的个人生活轨迹。彼时,OpenAI首席信息安全官Dane Stuckey在社交媒体上辩称,这些被曝光聊天记录的用户曾在聊天页面中点击过“分享”按钮,以便“找到有用的对话”;OpenAI已在分享选项框中说明,此聊天可能会出现在搜索引擎结果中。

但面对投诉,OpenAI最终移除了该分享选项,并采取技术措施清除已被搜索引擎记录的用户聊天内容。

ChatGPT曾允许用户分享对话记录并允许搜索引擎索引。

除ChatGPT之外,还有不少AI聊天服务曾被披露存在数据泄露风险。例如2024年末,有技术团队指出Meta AI存在安全漏洞,黑客可访问其他用户与AI的对话记录;Meta随后表示该漏洞于2025年1月被修复,并称“没有发现(漏洞被)滥用的证据”。Meta发言人回应该事件时承认,随着AI技术的快速发展,各大科技公司推出的AI产品日益增多,伴随而来的安全和隐私问题也日益严峻。

又例如今年2月,集成多款AI大模型的聊天机器人平台OmniGPT发生重大数据泄露事件,黑客入侵并公开了超过3400万条用户与AI的对话记录,其中涉及大量办公项目、大学作业、市场分析报告等文件,甚至包括警方证据等敏感内容。AI陪伴应用——Chattee Chat与GiMe Chat则于今年10月被发现严重的服务器安全漏洞,超过4300万条对话被完全暴露在公共互联网,其中包含大量情感倾诉类内容。

新型隐私威胁层出不穷

除了用户疏忽、服务器安全漏洞等问题外,AI聊天服务还面临“意想不到”的新型隐私威胁。例如微软于今年11月披露一项名为“耳语泄露”(Whisper Leak)的隐私漏洞。微软研究团队指出,AI聊天机器人常用的“流式输出”机制:回答不是一次性全部显示,而是像人类说话一样逐字逐句呈现,这个原本为了提升交互自然度的功能,却无意中泄露了用户与AI之间的聊天数据包大小与传输节奏。即使用户与AI之间的聊天数据已经加密,黑客只需观察数据传输的流量和节奏变化,就能“猜”出用户和AI聊天的主题类型,例如金融、政治或个人隐私,且准确率超过98%。

对此,有专家建议,普通用户使用AI聊天服务前应该仔细阅读隐私政策,并注意关闭如对话共享、允许数据用于AI训练等选项;与AI对话时不要透露身份证、银行账号、密码等敏感信息;在情感倾诉等敏感场景中,尽量养成分段提问的习惯,避免一次性提供大量可拼凑个人生活画像的信息。

行业监管方面,中国信息通信研究院泰尔终端实验室信息安全部副主任傅山在出席行业活动时表示,从监管标准制定角度看,由于AI变化发展迅速,且具有千人千面的特性,因此难以用单一标准管理所有场景。建议采用隐私分级的方式进行逐级递增的管理和规范。“为了更好落实标准并保障合规性,需要对AI使用的数据进行分级处理,以便更好地适应政策要求并创造更多的创新空间。”

西安交通大学教授蔺琛皓表示,企业在构建数据安全防护体系时,需要从硬件、系统、开发框架、数据、模型等多个方面入手,甚至还需要采取交互式防御手段,才能保证整个链路式的数据安全。相关部门应尽快拟定初步的标准及相关规定,并跟随AI技术的迭代不断修订。

出品:南都大数据研究院

采写:南都研究员 李伟锋 实习生 王笛

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
年轻人不性交了?三联可能回避了真问题

年轻人不性交了?三联可能回避了真问题

熊太行
2026-11-17 12:47:34
一个神人,“崩”了孙正义900亿

一个神人,“崩”了孙正义900亿

大猫财经Pro
2026-11-17 15:39:07
这两天,网友们在围观一个叫玉芬的记者

这两天,网友们在围观一个叫玉芬的记者

清晖有墨
2026-11-17 12:40:13
红船观察丨王忠林被查,权威声音释放关键信息

红船观察丨王忠林被查,权威声音释放关键信息

红船融媒
2026-11-17 11:36:09
官宣!肇俊哲出任主教练!

官宣!肇俊哲出任主教练!

五星体育
2026-11-17 16:54:10
离人民越来越远了

离人民越来越远了

柴差说
2026-11-17 16:31:27
贺子珍始终认定朱道来是战乱之中失散的儿子,可朱道来后来坦言:过去他没有说出所有真相

贺子珍始终认定朱道来是战乱之中失散的儿子,可朱道来后来坦言:过去他没有说出所有真相

磊子讲史
2026-09-16 15:28:05
知情人爆料黄仁勋又一丑闻:他曾要求员工品尝食堂新上的牛腩,没人能拒绝

知情人爆料黄仁勋又一丑闻:他曾要求员工品尝食堂新上的牛腩,没人能拒绝

小徐讲八卦
2026-11-17 14:19:10
这次发射失败,美军有点慌了

这次发射失败,美军有点慌了

枢密院十号
2026-11-17 00:35:37
美国商务部和司法部联合发表声明,对新加坡Megaspeed公司的调查进展

美国商务部和司法部联合发表声明,对新加坡Megaspeed公司的调查进展

风向观察
2026-11-17 12:57:36
克里米亚大桥被炸,勒庞承诺如当选继续援乌

克里米亚大桥被炸,勒庞承诺如当选继续援乌

名人苟或
2026-11-17 14:46:21
突发!美国多家大银行集体崩了。。。

突发!美国多家大银行集体崩了。。。

云头条
2026-11-17 05:07:09
离称霸,字节只差一个聊天软件了!

离称霸,字节只差一个聊天软件了!

城事堂
2026-11-17 14:09:44
谁才是英伟达真正的主人?一张图看懂股东结构

谁才是英伟达真正的主人?一张图看懂股东结构

互联网大观
2026-11-17 15:16:16
U19国足梦幻开局!9分钟连入2球,苗润东5分钟闪击+1V3造点

U19国足梦幻开局!9分钟连入2球,苗润东5分钟闪击+1V3造点

奥拜尔
2026-11-17 19:51:04
蔚来向公安机关报案

蔚来向公安机关报案

极目新闻
2026-11-17 14:00:24
车间用纺织机器吹头发拍视频走红,次日被开除,网友:太作死了

车间用纺织机器吹头发拍视频走红,次日被开除,网友:太作死了

秒懂资讯
2026-11-17 16:58:55
时间定了,中方宣布安排,11月19日这一天,全世界都将拭目以待

时间定了,中方宣布安排,11月19日这一天,全世界都将拭目以待

铁锤侃侃而谈
2026-11-17 10:46:23
俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

吉刻新闻
2026-11-15 18:22:34
普京来中国带上三大副总理,办完大事不急着回国,直奔中俄大后方

普京来中国带上三大副总理,办完大事不急着回国,直奔中俄大后方

巷北楠猫本尊
2026-11-17 16:13:32
2026-11-17 21:36:49
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
644087文章数 3591420关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

数码
时尚
教育
手机
旅游

数码要闻

满电开躁!11月16日,航嘉满电青年计划约你西南交大见!

自骂“烂人”的黄仁勋,冤不冤?

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

手机要闻

鞠婧祎代言 荣耀700系列四款高颜值配色公布:全系标配原生AI背屏

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

无障碍浏览 进入关怀版