网易首页 > 网易号 > 正文 申请入驻

为什么你的RAG总答错?问题可能出在索引过期

0
分享至

大多数检索增强生成(RAG)教程都停在同一个地方:加载文档、切块、向量化、存进向量数据库,然后开始提问。做演示够用,撑不起一个真正被业务依赖的系统——因为真实文档每天都在变。


政策会修订,产品页会更新,合同会被替换,旧版本不该再被引用。索引不跟着变,助手就会理直气壮地拿昨天的事实回答今天的问题。按作者的说法,过期或重复的切片造成的错误答案,比语言模型本身还多。

团队常见的应急做法是每晚全量重建索引。语料小的时候没问题,一旦语料变大、向量化账单上涨,夜间任务中途失败,生产环境里就留下一个建了一半的索引。作者给出的替代方案是一条增量管道:只重新向量化发生变化的内容,删除已消失的内容,并记录每个切片的来源。

核心是一张切片登记表

整条设计的关键是一张很小的表:为每个切片存一个稳定ID和一份内容哈希。每次运行重新切块、比对哈希,只处理不一样的部分。

第一步是按结构切块,并给切片稳定ID。按固定字符数切块有两个毛病:会把句子和从句拦腰截断;只要有人改了文档开头,切片边界就整体位移,编辑点之后的每个切片都显得是“新的”,整篇文档被迫重新向量化。

按标题切块能同时解决这两个问题。一个章节本身就是自然的语义单元,某个章节被改动,不影响其他章节。

代码里用了两个哈希,各管一件事:chunk_id 标识切片住在哪里(文档、章节、章节内位置),content_hash 判断它的文本有没有变。

给切片补上文档上下文

单独一句“退款在14天内处理”是有歧义的:哪个产品?哪个地区?哪个版本?如果每个切片都带上一段短头部,写明文档标题和章节路径,检索效果会明显改善。Anthropic 把这类思路的进阶版本称为上下文检索(contextual retrieval),而一个朴素的头部就是便宜好用的起点。

要点在于:向量化的是加上下文后的文本,哈希的却是原始文本。这样重命名文档不会强制全量重嵌入,除非你本来就想这么做。

第三步是与登记表比对。如果用 pgvector,登记表可以和向量放在同一个 Postgres 库里,更新保持原子性。一张表就够,字段包括 chunk_id、doc_id、content_hash、source_url、body、embedding 和 updated_at,并在 doc_id 上建索引。

对每篇文档,读出已有哈希,把新切片分成三类:

  • 需要写入或更新的:哈希对不上,或登记表里没有
  • 需要删除的:登记表里有、新切片里没有
  • 未变化的:哈希一致,直接跳过

只向量化变化的部分,一个事务内完成

同步函数先切块,再查该文档已有的 chunk_id 与 content_hash,做差异比对,然后只对需要写入的切片调用向量模型。示例用的是 all-MiniLM-L6-v2,输出384维。

写入用 INSERT ... ON CONFLICT DO UPDATE,删除用一条 DELETE 批量处理。关键在于写入和删除跑在同一个事务里:中途失败,文档保留的是上一个完整版本,而不是新旧切片混在一起。

第五步处理被删除的文档。上面的差异比对只管到章节级别,整篇文档消失还需要额外一道检查:把源系统里的文档ID列表和表里的ID比对,删掉已经不存在的。跳过这一步,是旧政策反复出现在答案里的最常见原因。

实际运行中的变化

在典型的业务语料上,任何一天真正变化的切片只占很小一部分,所以多数运行只向量化很少的内容。每晚全量重建不管变没变都要重嵌一遍,成本随语料规模增长;增量运行的成本随变化量增长,而变化量通常只是很小的一截。

另外两点收益和成本同样重要:

  • 可追溯:每个答案都能引用 source_url 和 updated_at,用户能核对来源、看到它有多新
  • 可调试:答案出错时,能看清检索到的是哪个切片版本、最后一次更新在什么时候

几个需要留意的坑

  • 更换向量模型会让所有向量失效。把模型名存进表里,切换时全量重建到新表,再整体替换
  • 改动切块逻辑会改变 chunk_id,按更换模型同样的方式处理
  • 超长章节仍需要尺寸上限,也就是前面按段落拆分的那段逻辑,否则检索质量会下降
  • 单独测试检索:维护一小批真实问题和已知的源章节,每次改动管道后确认正确的切片仍出现在靠前的结果里

RAG 系统的新鲜度上限就是索引的新鲜度。按结构切块,给每个切片稳定ID和内容哈希,只重嵌变化的部分,删掉消失的部分。代码只有几十行,却能消掉一整类“自信地答错”。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
金融圈突发!吴世群,主动投案

金融圈突发!吴世群,主动投案

中国基金报
2026-11-12 22:37:02
男子花30万闪婚22天后新娘就跑了,案件一审宣判:女子犯诈骗罪获刑3年6个月,当庭表示上诉

男子花30万闪婚22天后新娘就跑了,案件一审宣判:女子犯诈骗罪获刑3年6个月,当庭表示上诉

极目新闻
2026-11-12 17:59:09
高,实在是高!曹云金何沄伟疑回应郭德纲拜马志明当“义父”,搭配东北风味歌曲《做人别忘本》

高,实在是高!曹云金何沄伟疑回应郭德纲拜马志明当“义父”,搭配东北风味歌曲《做人别忘本》

裕丰娱间说
2026-11-12 17:17:07
亲人病危,男子打顺风车从上海回江苏,距目的地20公里时被甩;投诉后司机发短信嘲讽“是没送到你家坟头吗”,平台:永久封禁

亲人病危,男子打顺风车从上海回江苏,距目的地20公里时被甩;投诉后司机发短信嘲讽“是没送到你家坟头吗”,平台:永久封禁

极目新闻
2026-11-12 08:15:18
重磅!曼联已解雇45岁卡里克+正式通知 转正仅5个月 带队8轮不胜

重磅!曼联已解雇45岁卡里克+正式通知 转正仅5个月 带队8轮不胜

我爱英超
2026-11-12 17:53:19
全球最大资产管理集团贝莱德:坐拥15.5万亿美元只有1%投向了中国市场!

全球最大资产管理集团贝莱德:坐拥15.5万亿美元只有1%投向了中国市场!

城事堂
2026-11-12 15:12:38
外媒称黄乐目前正在北京,外交部发言人公开表示:不了解你提到的有关情况,但是中方在美国输华芯片问题上的立场是一贯的

外媒称黄乐目前正在北京,外交部发言人公开表示:不了解你提到的有关情况,但是中方在美国输华芯片问题上的立场是一贯的

吉刻新闻
2026-11-12 21:24:28
西北工业大学购买了两颗英伟达H200芯片,外媒却急了,他们在担心什么?

西北工业大学购买了两颗英伟达H200芯片,外媒却急了,他们在担心什么?

DeepAuto车探
2026-11-12 17:38:24
俄首席谈判代表:俄方拒绝任何领土交换,俄军踏足之处皆属俄罗斯

俄首席谈判代表:俄方拒绝任何领土交换,俄军踏足之处皆属俄罗斯

碳基生物关怀组织
2026-11-12 16:07:33
1979年,中央下令抓捕许世友次子许建军!许世友闻讯罕见震怒强硬表态

1979年,中央下令抓捕许世友次子许建军!许世友闻讯罕见震怒强硬表态

磊子讲史
2026-11-11 14:13:19
网友爆料近六千元的耳机线“扒开是棉布”?汉声经销商回应

网友爆料近六千元的耳机线“扒开是棉布”?汉声经销商回应

北青网-北京青年报
2026-11-12 21:26:04
独家!黄乐老公已被抓,黄仁勋岌岌可危

独家!黄乐老公已被抓,黄仁勋岌岌可危

木蹊说
2026-11-12 18:29:38
黄仁勋还有反击筹码:3.58%持股达到英伟达董事提名门槛

黄仁勋还有反击筹码:3.58%持股达到英伟达董事提名门槛

爆角追踪
2026-11-12 13:42:49
"妲己"终入霍家门!43岁中国香港足总主席霍启山,将迎娶29岁女星

"妲己"终入霍家门!43岁中国香港足总主席霍启山,将迎娶29岁女星

秋姐居
2026-11-12 11:50:56
今早腾讯内网被挤崩,有人发帖“听完会后饭都吃不下了,好焦虑……”腾讯高管紧急回应:误会了

今早腾讯内网被挤崩,有人发帖“听完会后饭都吃不下了,好焦虑……”腾讯高管紧急回应:误会了

都市快报橙柿互动
2026-11-12 14:12:40
比亚迪"轮毂装反"上热搜,大众工厂:7道环节皆失守,难!

比亚迪"轮毂装反"上热搜,大众工厂:7道环节皆失守,难!

大厂财经社
2026-11-12 18:14:54
争议?卡里克下课4小时仍无曼联球员回应+送祝福!名记怒批:没担当

争议?卡里克下课4小时仍无曼联球员回应+送祝福!名记怒批:没担当

我爱英超
2026-11-12 23:01:35
伊朗总统佩泽希齐扬确认了:伊朗最高领袖穆杰塔巴·哈梅内伊已经作出明确指示,要求伊朗结束目前与美国不战不和的状态

伊朗总统佩泽希齐扬确认了:伊朗最高领袖穆杰塔巴·哈梅内伊已经作出明确指示,要求伊朗结束目前与美国不战不和的状态

吉刻新闻
2026-11-11 02:07:46
彻底乱了!疑似黄仁勋第 3 段外遇主动公开,第4、第5看来也不远了

彻底乱了!疑似黄仁勋第 3 段外遇主动公开,第4、第5看来也不远了

起点人文
2026-11-12 17:13:23
勾引马斯克挺难的,正如他前妻所言:14个孩子的母亲都被他称为“生育机器”

勾引马斯克挺难的,正如他前妻所言:14个孩子的母亲都被他称为“生育机器”

照见古今
2026-11-12 14:48:00
2026-11-13 04:52:49
闪存猎手
闪存猎手
全网蹲好价的野生捕手,算力与羊毛都不可辜负。
271文章数 85关注度
往期回顾 全部

科技要闻

黄仁勋承认出轨:伤害了妻儿,毫无借口

头条要闻

国家级射击教练涉走私武器 家属:配件组成不了一支枪

头条要闻

国家级射击教练涉走私武器 家属:配件组成不了一支枪

体育要闻

西部狂飙!湖刺勇集体暴走 连胜到何时?

娱乐要闻

黄仁勋与黄乐合照曝光,吃饭氛围暧昧

财经要闻

72岁王健林重回“一号位”

汽车要闻

限时权益价8.88万 吉利星愿STAR限定系列发布

态度原创

手机
教育
时尚
游戏
艺术

手机要闻

全系都有背屏!荣耀700系列续航不打折扣:7.96mm厚度同档最大电池

教育要闻

中俄教育年独家专访|远东联邦大学副校长详解赴俄留学新趋势

蓝色+灰色、绿色+棕色,今年穿4组配色好看又减龄!

《光环:战役进化》移植Dreamcast !双模式可运行

艺术要闻

17位 国外画家笔下的女子

无障碍浏览 进入关怀版