网易首页 > 网易号 > 正文 申请入驻

你的 AI 助手正在“出卖”你:67950 条工具调用记录的隐私实验

0
分享至


AI 时代最私密的对话,可能不是你发出的那一句,而是 Agent 帮你发起的那一次工具调用。

你让 AI 助手查下周去伦敦的路线,它顺手调了地图服务;你让它整理体检报告,它连上了健康数据库。你和它的对话内容,理论上只有你和模型厂商能看到。但上海人工智能实验室 AgentDoG 团队最近发布的一项研究提醒我们:即便对话全程保密,AI Agent 在后台调用工具时留下的“作业痕迹”,也足以让观察者拼出你住哪里、信什么教、身体怎么样,勾出一幅相当完整的画像,虽然猜不出你的名字。

这项题为《工具调用能在多大程度上暴露你?来自工具调用轨迹的隐私泄露》的研究,由上海人工智能实验室联合电子科技大学、悉尼大学完成,构建了一个叫 PrivacyTrace 的基准,系统量化了这层此前被忽视的风险。结论并不玄学,而是一组可复现的数字。

(论文地址:https://arxiv.org/abs/2610.41885)

有人可能会问:AI 圈天天在谈隐私,这研究有什么新鲜的?新鲜就新鲜在攻击面。过去的安全研究盯的是两类问题:一是 Agent 会不会主动索取不该拿的数据,二是恶意工具会不会骗 Agent 泄密。而这项研究里的所有工具都规规矩矩,协议调用完全合法,没有任何一方“作恶”,风险却照样存在。它是数字隐私史上一个熟悉剧本的最新版本:二十年前,一份匿名化的搜索日志,让用户仅凭搜索关键词就被认出了真实身份;十多年前,Facebook 上的点赞暴露了性取向和政治倾向;现在,轮到 Agent 的工具调用了。

一场没有对话的“读心术”

先说清楚攻击者的位置。在大模型 Agent 的主流架构里,模型通过 MCP(Model Context Protocol,模型上下文协议)这类标准接口去调用外部工具:地图、日历、健康服务、购物平台。每次调用都会生成一条记录,包含工具名、传入的参数、返回结果和调用顺序,这就是所谓“工具调用轨迹”(tool-call traces)。

关键在于:工具服务器看不到你和 Agent 的对话,却能完整看到这些调用记录。而一个架在中间的网关或聚合平台,甚至能看到你所有任务的全部轨迹。研究者把这两类观察者分别称为“本地观察者”和“全局观察者”。这些都是半诚实(semi-honest)观察者:它们老老实实完成本职工作,只是顺手“多看了一眼”自己本来就有权限看到的数据。这恰恰是最难防范的一类,因为它不违反任何规则。


图 1:工具调用轨迹作为隐私侧信道。地理编码结果、出行时间与交通方式的规律,可能支撑对用户位置、健康状况和宗教信仰的推断(图源:论文 Figure 1)

举个例子。你让 Agent 规划下周的通勤和办事路线,轨迹里会出现目的地的地理编码结果、出行时间和交通方式。单独看每一条都平平无奇,但这些线索组合在一起:目的地落在伦敦某医院区域,出行严格避开安息日,从周五日落到周六夜间一律只步行,一个旁观的服务器就能推断出:你可能居住在伦敦,患有慢性肾病,信仰犹太教。你一个字都没说过,但你的行为替你说了。

PrivacyTrace:给一千个虚拟用户做“CT”

要量化这种风险,最大的障碍是拿不到真实的隐私数据。没人愿意把自己的病历交给研究者做攻击实验。团队的做法是合成:他们参考联合国、世界银行、UNESCO、国际劳工组织等机构的人口统计分布,用迭代比例拟合(IPF)生成 1,000 个统计上贴近真实人口结构的虚拟用户,每个用户带 17 项属性,包括国籍、年龄、职业、宗教信仰、身心健康、收入等。

接着,围绕旅行、健康、购物、职业学习四个领域,用 25 个真实 MCP 服务器的真实工具执行任务,产出 4,000 条 Agent 轨迹、共 67,950 条工具调用记录。最后让四个主流大模型(DeepSeek-V4-Flash、GPT-5.5、Gemini-3-Flash、MiniMax-M3)扮演“攻击者”,只看轨迹、不看对话,去推断这 17 项属性。

这个设计巧妙的地方在于对照:攻击者如果只拿到属性清单去“盲猜”,是基线;拿到轨迹后再猜,多出来的那部分准确率,就是轨迹泄露的净证据。为了公平,评分采用强制预测:17 项属性每项都必须给出答案,猜错算错,语义匹配由另一个未接触轨迹的裁判模型裁定,模糊地带一律判错。整套流程对每个攻击者一视同仁。

还有个现实的细节:四位攻击者的成绩其实相差不大,从 25.29% 到 28.32%,但成本天差地别。论文估算的成本里,GPT-5.5 跑完全部实验约 1,080 美元,DeepSeek-V4-Flash 只要约 46 美元,效果几乎持平。换句话说,发动这类画像攻击的门槛,比大多数人想象的低得多。

数字说话:26.25% 意味着什么

实验结果:盲猜的攻击成功率(ASR)是 17.97%,而拿到单域轨迹后升到 26.25%,净增 8.28 个百分点。换算下来,17 项属性平均只猜对四到五项,比盲猜多猜对一两项:够拼出轮廓,远够不到看穿。


图 2:观察者可见范围越大,推断越准。跨四个领域串联轨迹后,成功率升至 32.77%(图源:论文 Figure 4)

更值得注意的是观察者范围的影响:单个 MCP 服务器只能看到 24.24%,单个域是 26.25%,而把同一个用户跨四个领域的会话串联起来,成功率跳到 32.77%。可见范围越大,画像越清晰。需要说明,论文同时提醒这三个数字来自三组不同的统计口径,只能视为关联而非因果;同一口径的配对实验里,从单服务器视角扩大到单域视角,成功率实际只提升 3.09 个百分点。

分属性看,泄露最严重的是国籍(57.73%)和宗教信仰(50.03%),出行和购物类任务的泄露明显高于职业学习。也有让人松口气的部分:精确身份标识很难猜。16,000 个标识符预测槽里,只有 35 次猜对,其中 34 次是姓名、1 次是电话号码,邮箱和政府身份标识的正确次数为零。轨迹泄露的是“画像”,不是“身份”。


图 3:各属性推断成功率对比,以及不同任务域的泄露差异。购物类任务最“多嘴”(31.86%)(图源:论文 Figure 5)

泄露从哪里来:参数比结果更“多嘴”

拆开轨迹的四个组成部分(元数据、调用顺序、参数、返回结果)逐一消融,答案很清楚:工具参数贡献最大。只有元数据和调用顺序时,成功率仅 14.53%,甚至低于盲猜;加入参数后飙到 27.71%,净增 13.18 个百分点;换成只加入返回结果,升到 24.54%,净增 10.01 个百分点。参数确实是信息量最大的通道。


图 4:各轨迹通道的推断成功率。参数(+ Args)是最大的信息源(图源:论文 Figure 6)

道理不难理解:参数是 Agent 替你做出的选择。你查什么地址、问什么药、预算设多少,全写在参数里。返回结果里常夹带与用户无关的候选项:完整轨迹 26.25% 反而低于只看参数的 27.71%,论文对此的解读是,返回内容既可能印证参数里的线索,也可能稀释它们,两种机制目前还无法区分。一个耐人寻味的细节是:哪怕服务器只看到请求参数、完全看不到返回内容,泄露也几乎不打折扣。这给防御指了一条明路:与其纠结返回数据,不如先管好请求参数。

研究还验证了一种“两段式”攻击:先从轨迹里挑出有证据支撑的属性,第一阶段只选中了 17.06% 的属性槽,但选中部分的准确率高达 45.90%;再用这些局部画像去推断剩余属性,把整体成功率撑到 25.83%,与一次性攻击的 26.25% 几乎持平,且约四分之三的正确预测相互重合。换句话说,少量有证据支撑的线索确实能带动后续推断:用局部画像补全剩余属性,能把这部分推断的准确率从 18.48% 提升到 21.78%,净增 3.30 个百分点。不过论文也明确指出,这一增益部分来自模型先验,并不能证明真实攻击者就是沿着“先锚定、再推理”的路径工作的。

痕迹不会说谎,但可以少留

需要强调的是,这项研究用的是合成用户和真实工具的组合,虚拟用户的行为未必完全等同真人,26.25% 也远不是“一眼看穿”的程度。但它的价值在于证伪了一个普遍的安全假设:“对话保密 = 用户隐私安全”。在 Agent 时代,这个等式不再成立。

从越权获取、外传敏感数据,到提示注入、工具投毒,业界对 MCP 安全的讨论多集中在这些具体风险上,而这项研究揭示的是更安静的一类风险:没有任何一方作恶,一切调用都符合协议,画像照样可以被拼出来。结合近期行业内陆续出现的 Agent 安全产品与治理实践,工具调用的“留存”与“关联”正在成为值得重视的合规议题。

论文给出的防御方向也很具体,可以概括为三道闸门。

第一道是模糊化:对查询参数做降噪处理,让请求不必携带高精度的位置、时间和身份线索,比如把“步行 14 分钟到某医院”泛化成“市中心出行”。第二道是最小化:限制轨迹的保存时长和内容颗粒度,日志留存越久,风险敞口越大。第三道:切断跨服务的会话关联,别让一个用户在四个不同服务器上的痕迹能被串成一条线。不过论文同时声明,三类防御的有效性都还没有经过实验验证,目前只是方向性建议。

对企业用户来说,这份研究还有一层部署层面的启示。随着 Agent 走进办公流程,员工每一次授权 Agent 连接新工具,都在无形中扩大公司的行为数据暴露面。安全团队的传统思路是守住“数据和模型”,现在恐怕得加一条:守住“调用”。工具网关的可观测性和隐私审计,是本文在论文之外的引申,正在成为 Agent 时代安全架构中值得补上的一环。

Agent 越能干,留下的脚印越密。它替你跑腿的每一步,都是一份指向你的行为档案。它留下的每一道痕迹,都可能成为日后画像的证据。(本文首发钛媒体APP,作者 | AGI-Signal,编辑 | 焦燕)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一次性补缴10万元,每月领1433元,成都养老补缴爆了

一次性补缴10万元,每月领1433元,成都养老补缴爆了

数字财经智库
2026-11-20 09:36:50
甲亢哥52小时不睡通关GTA6 却触发最差结局崩溃落泪!

甲亢哥52小时不睡通关GTA6 却触发最差结局崩溃落泪!

游民星空
2026-11-21 11:07:36
江苏淮安一退休干部被实名举报利用职权帮助子女介入超千万地产生意!纪委回应:正在调查

江苏淮安一退休干部被实名举报利用职权帮助子女介入超千万地产生意!纪委回应:正在调查

指尖新闻沈阳晚报
2026-11-21 08:51:23
普通人挪用三千块要吃官司,湘雅二院医生拿着千万级科研经费,用虾滑冒充肿瘤,处理结果仅仅降级留任!

普通人挪用三千块要吃官司,湘雅二院医生拿着千万级科研经费,用虾滑冒充肿瘤,处理结果仅仅降级留任!

聊斋新志
2026-11-18 16:53:43
爆燃致5人遇难,郑州市调查组:建议不追究车主刑责

爆燃致5人遇难,郑州市调查组:建议不追究车主刑责

极目新闻
2026-11-21 14:32:12
希拉里发文炮轰特朗普:指责美总统“助纣为虐”,呼吁国会调查

希拉里发文炮轰特朗普:指责美总统“助纣为虐”,呼吁国会调查

麓谷隐士
2026-11-21 07:11:45
德州发布最新人事任免

德州发布最新人事任免

中国山东网
2026-11-21 12:52:14
金价连续跳水,记者走访北京菜百:有人一次买200克,现货售罄后消费者排队办理延期提货

金价连续跳水,记者走访北京菜百:有人一次买200克,现货售罄后消费者排队办理延期提货

大众网
2026-11-21 12:23:05
突发讣告!张劲松因病医治无效于2026年11月18日逝世,享年61岁

突发讣告!张劲松因病医治无效于2026年11月18日逝世,享年61岁

往史过眼云烟
2026-11-21 11:39:08
网红“东北雨姐”仍潇洒! 参加山东饭局,喝300多一瓶的汾酒,席间倒酒喝酒动作太豪横,一口闷

网红“东北雨姐”仍潇洒! 参加山东饭局,喝300多一瓶的汾酒,席间倒酒喝酒动作太豪横,一口闷

裕丰娱间说
2026-11-21 14:26:14
11月21日,大家期盼已久的2026退休养老金,究竟涨还是不涨?

11月21日,大家期盼已久的2026退休养老金,究竟涨还是不涨?

米果说识
2026-11-21 12:03:32
蔡天凤碎尸案又现重大转折:前夫供称父亲才是真凶!离婚后仍与蔡保持亲密关系......

蔡天凤碎尸案又现重大转折:前夫供称父亲才是真凶!离婚后仍与蔡保持亲密关系......

新民周刊
2026-11-21 13:15:56
特朗普点赞深圳,称美国一些城市“脏得让人恶心”

特朗普点赞深圳,称美国一些城市“脏得让人恶心”

极目新闻
2026-11-21 09:44:24
孙雯:这是近10年最有风格的国少队,几次高压下仍有自己想法

孙雯:这是近10年最有风格的国少队,几次高压下仍有自己想法

懂球帝
2026-11-21 12:36:03
辛鲍姆总统为什么坐民航客机来华,原因很简单,不是因为她接地气,而是因为墨西哥没有总统专机,总统专机已经卖给塔吉克斯坦。

辛鲍姆总统为什么坐民航客机来华,原因很简单,不是因为她接地气,而是因为墨西哥没有总统专机,总统专机已经卖给塔吉克斯坦。

回京历史梦
2026-11-21 09:30:43
特朗普:在深圳我观察很仔细,看了护栏、道路,路不但没坑洼,甚至都没修补痕迹,我们有些城市到处坑坑洼洼、锈迹斑斑,犯罪率高得离谱

特朗普:在深圳我观察很仔细,看了护栏、道路,路不但没坑洼,甚至都没修补痕迹,我们有些城市到处坑坑洼洼、锈迹斑斑,犯罪率高得离谱

政知新媒体
2026-11-21 10:17:31
红果短剧全面下架,彻底失控了

红果短剧全面下架,彻底失控了

李东阳朋友圈
2026-11-20 10:00:35
特朗普、李在明、黄循财、阿努廷、藤森庆子、辛鲍姆、阿尔巴尼斯、普拉博沃、马拉佩等多位外国领导人,均公开重申坚持一个中国原则的立场

特朗普、李在明、黄循财、阿努廷、藤森庆子、辛鲍姆、阿尔巴尼斯、普拉博沃、马拉佩等多位外国领导人,均公开重申坚持一个中国原则的立场

政知新媒体
2026-11-21 15:00:35
黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

财联社
2026-11-20 16:09:05
A股:紧急提醒2.5亿股民!从后天11月23日起,A股可能再次历史重演?

A股:紧急提醒2.5亿股民!从后天11月23日起,A股可能再次历史重演?

趋势清风侠
2026-11-21 08:44:23
2026-11-21 16:16:49
钛媒体APP incentive-icons
钛媒体APP
独立财经科技媒体
142299文章数 862719关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

特朗普亚洲行后举行记者会 为与普京的"朋友"关系辩护

头条要闻

特朗普亚洲行后举行记者会 为与普京的"朋友"关系辩护

体育要闻

伦德伯格撞墙的力度真不轻

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

数码
家居
时尚
教育
房产

数码要闻

高驰VERTIX 4运动手表曝光:1.47英寸AMOLED屏幕

家居要闻

2026建博会(广州) 公装联探展交流活动

今年冬天流行“大+小”穿法,时髦又显瘦!

教育要闻

晚自习到底几点结束?武侯区给出的时间线,家长得看清

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

无障碍浏览 进入关怀版