网易首页 > 网易号 > 正文 申请入驻

RAG分块策略修正:语义与LLM切分表述

0
分享至

```html

做RAG的工程师大概都经历过这种时刻:检索结果明明召回了相关文档,模型答出来的东西却驴唇不对马嘴。问题往往不在模型,而在切分。同一份文档,切法不同,检索质量能差出一截。


有人把常见的分块策略整理成了8条,从最省事的固定切分,到最烧钱的LLM改写,逐条过一遍。

1. 固定大小切分

每隔固定数量的token切一刀,块与块之间留一点重叠。实现最简单,也最不挑文档类型。代价是它完全不看内容结构,一句话可能被拦腰截断,语义边界形同虚设。

2. 递归切分

先按段落切,某一段还是太大就退到按行切,再不行退到按词、按字符。层层降级,直到每块都落在阈值以内。比固定切分多了一点结构意识,但本质仍是按长度办事。

3. 基于文档结构切分

文档本身已经标好了断点——标题、章节、HTML标签,就顺着这些标记切。一份markdown文件,每个小节自然成为一块。这种切法尊重作者原本的组织方式,前提是文档得有结构。

4. 语义切分

把每个句子做embedding,算它和上一句的相似度,相似度一掉就开新块。它找的是真实的话题转折,而不是靠长度猜。

5. 基于LLM切分

让大模型把文本改写成一条条独立的命题,一行一个想法,每行成为一块。质量确实高,但整个语料库跑一遍,账单也很可观。

6. 智能体切分

让一个AI agent先读文档,判断它是代码、合同还是表格,再为这个文件挑合适的切分方法。不再是一套规则套所有文件,而是按文件类型分别决策。

7. 后置分块

先把整篇文档过一遍embedding模型,再套用常规的切分边界,在每个边界内做均值池化,生成块的向量表示。切分动作发生在向量化之后,而不是之前。

8. 层级切分

把文档拆成层:章节、段落、句子,一层套一层。检索时可以在不同粒度上做文章,粗层看全局,细层抠细节。

这8种策略摆在一起,其实是一条成本与质量的连续光谱。固定切分几乎零成本,语义切分要为每句话付一次embedding,LLM切分则直接把大模型请进了预处理流水线。选哪个,取决于语料规模、文档结构和预算三者的平衡。

真正落地时,多数团队不会只押一种。代码库可能走结构切分,合同走语义切分,杂乱的网页正文退回固定切分加重叠。分块从来不是一劳永逸的配置项,而是跟着数据形态走的工程决策。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
日本要急坏了?中方罕见出招,高市无法招架,日媒称最坏结果已现

日本要急坏了?中方罕见出招,高市无法招架,日媒称最坏结果已现

荷兰豆爱健康
2026-10-19 07:34:05
蛋白粉大涨价,网友盯上“蟑螂粉”!商家称其蛋白质含量70%,每斤不到20元,医生提醒:可能携带病原微生物

蛋白粉大涨价,网友盯上“蟑螂粉”!商家称其蛋白质含量70%,每斤不到20元,医生提醒:可能携带病原微生物

每日经济新闻
2026-10-19 12:24:23
轰20咋还不问世?美专家想明白了:不是技术问题,中国无法弥补

轰20咋还不问世?美专家想明白了:不是技术问题,中国无法弥补

影孖看世界
2026-10-18 22:14:43
太恐怖!“女版林丹”赛季61胜1负,只要她参赛别人只能争夺亚军

太恐怖!“女版林丹”赛季61胜1负,只要她参赛别人只能争夺亚军

里芃芃体育
2026-10-19 17:00:21
曹可凡不再隐瞒!发文揭开刘翔私下人品,原来孙海平当初没说谎

曹可凡不再隐瞒!发文揭开刘翔私下人品,原来孙海平当初没说谎

草莓信箱
2026-09-16 16:31:27
菲政坛要变天了!特朗普还没到菲律宾,小马科斯先遭自己人背刺!

菲政坛要变天了!特朗普还没到菲律宾,小马科斯先遭自己人背刺!

小莜读史
2026-10-18 18:34:35
《职业卫生与应急救援》编辑部主任黄沪涛逝世,终年47岁

《职业卫生与应急救援》编辑部主任黄沪涛逝世,终年47岁

澎湃新闻
2026-10-19 20:04:27
近6万兵力逼近台海,火力前置百余公里,美日这步棋风险远超想象

近6万兵力逼近台海,火力前置百余公里,美日这步棋风险远超想象

张斌说
2026-10-19 15:16:49
韦斯特被问是否与詹姆斯母亲发生过关系,回:绅士从不说这些

韦斯特被问是否与詹姆斯母亲发生过关系,回:绅士从不说这些

陈意小可爱
2026-10-19 01:12:39
批评尊界就是不爱国?

批评尊界就是不爱国?

廖保平
2026-10-14 08:26:07
公开否定“文革”第一人,他是最敢说真话的硬骨头!

公开否定“文革”第一人,他是最敢说真话的硬骨头!

涵豆说娱
2026-10-18 14:11:18
他刚入行就被30个剧组拒绝,得了焦虑症待业在家1年,如今爆红了

他刚入行就被30个剧组拒绝,得了焦虑症待业在家1年,如今爆红了

追影客栈
2026-10-18 16:58:34
世界首次500强差距断崖:日本149家,美国151家,中国3家,如今呢

世界首次500强差距断崖:日本149家,美国151家,中国3家,如今呢

福建睿平
2026-08-28 07:25:16
936球427助,千球倒计时64:全世界都在等,只有梅西自己不着急

936球427助,千球倒计时64:全世界都在等,只有梅西自己不着急

生活新鲜市
2026-10-18 20:11:28
突然!抄底资金,涌入!万亿赛道大爆发

突然!抄底资金,涌入!万亿赛道大爆发

证券时报
2026-10-19 12:54:07
1972 年,76岁辛普森夫人向46岁英女王行屈膝礼,姿态卑微讨好

1972 年,76岁辛普森夫人向46岁英女王行屈膝礼,姿态卑微讨好

照见古今
2026-10-19 19:11:31
545分天堑+腿伤崩盘,斯瓦泰克含泪宣布:不期待年终总决赛了

545分天堑+腿伤崩盘,斯瓦泰克含泪宣布:不期待年终总决赛了

林子说事
2026-10-19 16:09:46
央视红人洛桑之死,时隔25年后,搭档博林坦白:他根本没喝多少酒

央视红人洛桑之死,时隔25年后,搭档博林坦白:他根本没喝多少酒

李橑在北漂
2026-10-19 20:52:18
小杨哥新号粉丝数一度归零,知情人士称系数据展示异常,目前账号粉丝数已经正常显示

小杨哥新号粉丝数一度归零,知情人士称系数据展示异常,目前账号粉丝数已经正常显示

黄河新闻网吕梁
2026-10-19 10:39:05
忍了18个月,究竟是什么让泽连斯基决定公开对抗特朗普?

忍了18个月,究竟是什么让泽连斯基决定公开对抗特朗普?

澎湃新闻
2026-10-19 15:28:34
2026-10-19 21:40:49
报错免疫体
报错免疫体
一名在需求评审和数据异常中反复横跳的产品运营。
238文章数 82关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

女子随口一句"姐过得不太好" 8年前帮过的小伙飞来送钱

头条要闻

女子随口一句"姐过得不太好" 8年前帮过的小伙飞来送钱

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

健康
家居
房产
本地
公开课

看着很健康的人,怎么会突然猝死?

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

最新房价:海口,三亚齐跌!

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版