网易首页 > 网易号 > 正文 申请入驻

向量看着像一串数字,为什么它仍是个人数据?

0
分享至

一个嵌入向量看起来就是一串没有意义的数字。正因为如此,团队往往不再把它当成它来源的那份文档来对待,RAG 项目也就悄悄制造出没人有意设计的隐私问题。

在保险、银行这类受监管行业做数据治理多年,这是团队搭建基于内部文档的检索增强生成(RAG)助手时,最常见的一个缺口。

流水线,以及标签在哪一步丢失

一条典型的 RAG 流程是这样的:

  • 文档:理赔文件、医疗报告、合同、保单
  • 分块:文档被切成一段段文本
  • 嵌入:每一段被转成一个向量
  • 检索:找出与用户问题最接近的那些段落
  • 回答:大模型根据这些段落写出回复

每一步,数据都在变形。而每一步,原始的分类等级和访问权限都可能被丢掉,且没人察觉。

原则:派生数据继承敏感度

个人数据的嵌入,仍然是个人数据。派生数据继承其来源的敏感度,除非你能证明并非如此。

嵌入的存在是为了保留语义,而研究已经表明,原始文本在很大程度上往往可以从嵌入中还原出来。即便不谈这一点,检索这一步本身就把原始段落直接交回给了用户。一份机密的医疗报告,作为分块、作为向量、作为回答,依然是机密的。

向量库的四道控制

  1. 传递标签。每个分块和向量都携带其来源文档的分类、所有者和来源 ID,作为元数据与向量存在一起。
  2. 权限感知检索(安全裁剪)。按用户已有的权限过滤检索结果:用户只应拿到他在源系统里本来就能打开的那些段落。落到实操上,就是每次查询都带上元数据过滤,过滤条件由用户的组或访问控制列表构建,而不是所有人共用一个索引随便查。
  3. 可传递的删除。当源文档被删除、更正或到达保留期限,它的分块和向量也必须一并消失。每个向量上都保留来源 ID,才能按来源删除。
  4. 把日志当作敏感数据。提示词和回答日志泄露的信息可能和文档一样多。一串关于某位客户病情的提问记录,就是健康数据。对日志施加同样的分类和保留规则。

一个真实的失败场景

一家保险公司为理赔专员搭建助手。为了让回答更丰富,所有理赔文件——包括医疗报告——都进了同一个向量库,每位专员都能查询它。

在源系统里,健康险理赔专员能看到医疗报告,车险理赔专员看不到。而在共享索引里,一位车险专员提了个问题,拿回了医疗报告中的段落。没有人下载任何文件。这个泄露是架构造成的。

上线前应当具备的条件:每个分块都有标签,检索按已有访问权限过滤,删除与保留计划挂钩,日志按机密处理。还有一个问题:这个助手真的需要把医疗报告索引进去吗?很多时候,最好的控制就是不索引这份数据。

索引任何内容前的四个问题

  • 我们需要它吗?助手的用途是否要求这部分内容,还是说"全都索引"只是因为省事?
  • 它有多敏感?来源的分类是什么,归谁所有?
  • 谁可以提问?今天在源系统里谁能看到它?助手绝不应扩大这个圈子。
  • 它如何被移除?删除、更正或到期时会发生什么?

如果团队答不全这四个问题,这份内容就还没准备好被索引。

常见错误

  • "向量不是数据。"把嵌入当成数据保护之外的匿名技术产物。
  • 一个索引通吃。把所有东西索引一次,让所有人随便查,等于悄悄抹掉了多年积累的访问控制。
  • 被遗忘的副本。删掉了源文档,却留下它的向量,助手于是继续引用一份官方上已不存在的文档。

这些都不是真正的 AI 失败。它们是数据治理的失败,而你的数据团队早就知道该怎么防。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

江山挥笔
2026-11-19 14:15:33
A股又是大跌,原因不找了!黄金崩跌,峰哥狂买:最对不起就是各位金友

A股又是大跌,原因不找了!黄金崩跌,峰哥狂买:最对不起就是各位金友

金石随笔
2026-11-20 12:39:37
特朗普是美国历史上第一位,也是到目前为止唯一一位,当选总统前既没有任何文职政府公职、也没有参军服役经历的总统

特朗普是美国历史上第一位,也是到目前为止唯一一位,当选总统前既没有任何文职政府公职、也没有参军服役经历的总统

回京历史梦
2026-10-26 10:49:29
丢人!一女博主自曝在德国15年,交往过大量的外国男人,后续会出专题系列

丢人!一女博主自曝在德国15年,交往过大量的外国男人,后续会出专题系列

小徐讲八卦
2026-11-20 06:39:39
华泰证券:中国股市的估值已经具备非常明显的吸引力

华泰证券:中国股市的估值已经具备非常明显的吸引力

澎湃新闻
2026-11-20 15:09:41
天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

情感大头说说
2026-11-20 04:49:19
爽了!火箭轰动NBA!恶棍状元或联手杜兰特

爽了!火箭轰动NBA!恶棍状元或联手杜兰特

篮球实战宝典
2026-11-20 18:47:13
邝港智供词炸裂!谭方骏喜欢的是他,曾与蔡天凤3人同睡一张床

邝港智供词炸裂!谭方骏喜欢的是他,曾与蔡天凤3人同睡一张床

社会日日鲜
2026-11-20 10:27:11
北京国安出局!足协杯6年首遭零封,主场8年不胜海港,6纪录告破

北京国安出局!足协杯6年首遭零封,主场8年不胜海港,6纪录告破

奥拜尔
2026-11-20 21:31:51
前10月全国税收收入增长6%,其中个税收入增长22.9%

前10月全国税收收入增长6%,其中个税收入增长22.9%

风向观察
2026-11-20 18:17:34
俄副外长:俄方不接受乌克兰成为北约“准成员”

俄副外长:俄方不接受乌克兰成为北约“准成员”

界面新闻
2026-11-20 16:01:42
大量“洋垃圾”旋屏本流入闲鱼!十代i5才卖699元,轻至940克

大量“洋垃圾”旋屏本流入闲鱼!十代i5才卖699元,轻至940克

科技拌饭
2026-11-18 17:35:09
全面下跌,何时见底?

全面下跌,何时见底?

星图金融研究院
2026-11-20 15:37:21
江苏男子撞破妻子出轨,熟睡中被灌进水泥,真相让人后背发凉

江苏男子撞破妻子出轨,熟睡中被灌进水泥,真相让人后背发凉

夜话奇谭
2026-11-20 14:50:59
刚刚,英伟达收到传票!

刚刚,英伟达收到传票!

EETOP半导体社区
2026-11-20 13:41:07
歌手张宇去世,年仅48岁

歌手张宇去世,年仅48岁

东方不败然多多
2026-11-20 16:36:51
高市早苗APEC独坐角落扇扇子,引日本网民群嘲:是去丢人现眼的吗?

高市早苗APEC独坐角落扇扇子,引日本网民群嘲:是去丢人现眼的吗?

可达鸭面面观
2026-11-20 08:41:45
没想到,峰会结束仅1天,中国就因三个“土特产”在全球火出圈

没想到,峰会结束仅1天,中国就因三个“土特产”在全球火出圈

墨兰史书
2026-11-20 22:10:04
特朗普临走撂下句话,我越想越不对劲:这哪是夸中国,分明是报价

特朗普临走撂下句话,我越想越不对劲:这哪是夸中国,分明是报价

天光破云来
2026-11-20 13:12:25
人民日报点名曹德旺,释放2大信号,转移资产跑路传闻早有真相

人民日报点名曹德旺,释放2大信号,转移资产跑路传闻早有真相

爱看剧的阿峰
2026-11-20 10:41:29
2026-11-21 03:35:00
野生运营
野生运营
懂点产品,懂点AI,正在努力给平淡日子搞点新花样。
248文章数 99关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

教育
健康
游戏
公开课
军事航空

教育要闻

南京中考两大变化:面向全市招生的普高从9所增至13所,2027年中考报名时间定了!

医生眼里"很伤腰"的椅子,很多人天天坐

《GTA6》PS5版被曝频繁闪退 液金散热或是元凶

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

沙特首都第一高楼遭袭:炮弹从天而降

无障碍浏览 进入关怀版