网易首页 > 网易号 > 正文 申请入驻

既然大模型能读文本,RAG为什么还要向量数据库?

0
分享至

学RAG的人常卡在同一个问题上:既然最后都是把文本丢给大模型让它回答,为什么中间非要转成向量、存进数据库?直接把文字发过去不行吗?


这个问题不蠢,恰恰问到了RAG的分工边界。先把流程走一遍,答案自己就浮出来了。

RAG到底在干什么

RAG全称检索增强生成。说白了,就是让模型用你自己的文档回答问题,而不是只靠它训练时记住的东西。

比如你给公司搭了个AI助手,上传了几百份产品资料、用户手册、常见问题和公司制度。员工问"怎么重置密码",系统不会指望模型天生就知道你们公司的重置流程,而是先去文档里找到相关内容,再交给模型生成答案。

一次提问的完整链路是这样的:用户提问,系统在已存文档里搜索相关文本,取出最相关的部分,把它和原问题一起送给大模型,模型读完再生成回答。

为什么不把一万份文档全塞进去

假设公司有10000份文档。有人问密码怎么重置,把一万份全发给模型会带来四个麻烦:

  • 成本:文本越多token越多,API费用越高
  • 时间:每个问题都处理上千份文档,响应更慢
  • 上限:模型单次请求能处理的文本量有上限
  • 噪音:模型收到大量它根本用不上的信息

所以需要的不是"全给",而是一种只挑出相关信息的手段。

向量解决的是"换个说法就搜不到"

用户问"怎么重置密码",文档里写的却是"忘记登录凭证时如何恢复访问"。词不一样,意思几乎一样,普通关键词搜索很可能匹配不上。

向量就是文本的数值表示,帮计算机比较语义。意思相近的句子,向量通常也相近,哪怕用词完全不同。这样就能按含义检索,而不只是对关键词,这种做法叫语义搜索。

具体做法是:把文档切分成小块,用向量模型把每块转成向量,再把原始文本、向量和元数据一起存进数据库。用户提问时,只把问题转成向量,拿它去库里找相似内容,取回对应的原文,再连同问题送给模型。

这里有个关键点容易搞混:送给大模型生成答案的是原文,不是向量。向量只负责找,不负责答。

为什么不每次现算向量

一万份文档,如果每次提问都重新生成一遍向量,等于把同样的活反复干。所以文档向量只生成一次并存储,新问题来了只算问题那一个向量。文档有改动,就更新对应的分块和向量。

数据库返回的也不只是那串数字。因为原文和向量存在同一条记录里,搜索命中向量时,数据库会把关联的原文一起还给你。

向量为什么不能直接喂给模型

既然向量代表语义,为什么不把数字直接发给模型让它回答?

原因很直接:向量是为搜索和比较语义设计的,不是为阅读和理解原文设计的。一句话可能被转成几百上千个数字,这些数字能帮你找到相似内容,却不包含模型能直接读懂的那句话本身。模型需要的是"员工享有20天年假"这样的原文,不是一串小数。

为什么问题也要一起发

检索到的文档可能同时写着"员工享有20天年假,病假每年限10天"。同一份材料,面对"年假有几天"和"病假有几天"两个问题,答案完全不同。只发文档,模型不知道用户到底想问哪一条。

问题和原文一起发,前者告诉模型用户想知道什么,后者提供回答所需的信息,缺一不可。

三个组件各司其职:向量模型把文本转成可比较的数字,向量数据库存这些数字并找出相似内容,大模型读检索到的原文并生成人话回答。

RAG的目的从来不是帮模型理解文本,模型本来就会。它解决的是在庞杂文档里先找到对的那一段,再交到模型手上。存向量不是因为模型需要,是因为我们需要一种高效的方式,在提问之前把信息捞准。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
克里米亚大桥被炸塌,对俄罗斯意味着什么?

克里米亚大桥被炸塌,对俄罗斯意味着什么?

山河路口
2026-11-18 18:00:20
怎么有人敢造国常会的谣?

怎么有人敢造国常会的谣?

凤眼论
2026-11-18 16:22:38
全军覆没!上海玄鸟领衔NBL球队征战CBA杯首日三战全败

全军覆没!上海玄鸟领衔NBL球队征战CBA杯首日三战全败

狼叔评论
2026-11-18 18:44:06
比关税更危险的事来了!犹太资本贝莱德集团,在中国的 "深度渗透"

比关税更危险的事来了!犹太资本贝莱德集团,在中国的 "深度渗透"

疯狂的小历史
2026-11-18 11:13:34
崩溃!退役吧,被主教练点名,真打不了NBA……

崩溃!退役吧,被主教练点名,真打不了NBA……

体育新角度
2026-11-18 14:49:51
内娱姐妹花:决裂10年,拒绝复合

内娱姐妹花:决裂10年,拒绝复合

最人物
2026-11-18 15:45:33
中方贵宾席座无虚席,菲律宾急坏了!

中方贵宾席座无虚席,菲律宾急坏了!

叶老四
2026-11-18 08:14:37
蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

果妈聊娱乐
2026-08-23 08:38:03
马克龙私密谈话流出,48岁仍未“断奶”,73岁布丽吉特成最大牺牲品

马克龙私密谈话流出,48岁仍未“断奶”,73岁布丽吉特成最大牺牲品

恒星文娱
2026-11-17 23:01:29
台北101点灯,力挺黄仁勋

台北101点灯,力挺黄仁勋

芯智讯
2026-11-17 12:23:23
榜眼摆上货架一天就下架了?没人要,交易杜兰特里外里亏了两次!

榜眼摆上货架一天就下架了?没人要,交易杜兰特里外里亏了两次!

你的篮球频道
2026-11-18 10:31:49
克里米亚大桥被炸断了!!!

克里米亚大桥被炸断了!!!

西楼饮月
2026-11-17 16:41:46
美国卡住C919发动机后,世界才发现,中国造出了一台更好的

美国卡住C919发动机后,世界才发现,中国造出了一台更好的

混沌录
2026-11-17 19:43:30
CCTV5直播国安VS海港!张玉宁太累了!杨希对位林皇,安佩姆冲击王刚

CCTV5直播国安VS海港!张玉宁太累了!杨希对位林皇,安佩姆冲击王刚

刀锋体育
2026-11-18 19:38:54
这两天,网友们在围观一个叫玉芬的记者

这两天,网友们在围观一个叫玉芬的记者

清晖有墨
2026-11-17 12:40:13
江西24岁男子中缅边境失联2个月,姐姐:之前待业在家,曾打来一次电话,被问在哪国时沉默,旁边有人讲话

江西24岁男子中缅边境失联2个月,姐姐:之前待业在家,曾打来一次电话,被问在哪国时沉默,旁边有人讲话

大风新闻
2026-11-18 20:42:04
28中17!首发就爆种!湖人最新神级重磅签约

28中17!首发就爆种!湖人最新神级重磅签约

篮球实战宝典
2026-11-18 21:36:28
为什么格莱姆斯状态这么猛?必须要感谢三个人

为什么格莱姆斯状态这么猛?必须要感谢三个人

球毛鬼胎
2026-11-18 18:45:13
薄一波的夫人胡明,她有多美?1960年的留影,眉目清秀,灵气温婉

薄一波的夫人胡明,她有多美?1960年的留影,眉目清秀,灵气温婉

乡野小珥
2026-11-17 14:39:45
11岁舞蹈女孩午餐精确到100克,身高1米55标准体重是60斤

11岁舞蹈女孩午餐精确到100克,身高1米55标准体重是60斤

东方豪侠
2026-11-18 12:45:42
2026-11-18 22:12:49
碳基打工人
碳基打工人
坐标北京,靠咖啡续命,靠小红书下饭的普通人类。
240文章数 91关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

教育
本地
家居
数码
公开课

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

本地新闻

乌兰察布:以前种土豆,现在种Token

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版