网易首页 > 网易号 > 正文 申请入驻

打破瓶颈,让RAG学会思考:中科大、智源等发布推理检索框架BGE-Reasoner

0
分享至

来源:市场资讯

(来源:机器之心)

机器之心发布

机器之心编辑部

人工智能的浪潮正将我们推向一个由 RAG 和 AI Agent 定义的新时代。然而,要让这些智能体真正「智能」,而非仅仅是信息的搬运工,就必须攻克一个横亘在所有顶尖团队面前的核心难题。这个难题,就是推理密集型信息检索(Reasoning-Intensive IR)。

它不仅是当前 RAG 和 AI Agent 技术发展的关键瓶颈,更对大模型智能体和深度研究(DeepResearch)等应用场景的成败具有决定性意义。

正当全球研究者都在为此寻求突破之际,我们看到了一项来自中国的贡献:BGE-Reasoner。

BGE-Reasoner 由来自中国科学技术大学、智源研究院、北京邮电大学与香港理工大学等机构的联合团队研发,是一套用于推理密集型信息检索任务的创新的端到端解决方案。通过系统性的查询理解、向量检索与重排序,该方案可显著提升搜索引擎在推理密集型信息检索任务中的表现。

在权威评测基准 BRIGHT 上,BGE-Reasoner 取得 45.2 的测试得分,以显著优势刷新了该基准的最佳纪录。

作为 BGE 系列模型的又一重要里程碑,BGE-Reasoner 不仅实现了性能上的突破,更为解决推理密集型检索这一行业难题提供了一套行之有效的新范式。从技术洞察来看,本次成果的核心创新主要体现在以下三个方面:

一个可复制的框架: 提出了一个由 Rewriter、Embedder 和 Reranker 组成的三阶段模块化框架,为处理复杂查询提供了清晰、高效的工程范式。

数据驱动创新: 探索并证明了利用大模型合成高质量、多领域推理训练数据的可行性,巧妙地解决了该领域训练数据稀缺的核心瓶颈。

强化学习赋能: 成功将强化学习应用于 Reranker 训练,让模型在面对困难样本时具备了更强的推理和泛化能力。

相关模型权重、训练代码及训练数据即将面向社区开放,进一步推动该领域的研究与应用发展。

项目主页:https://github.com/FlagOpen/FlagEmbedding/tree/master/research/BGE_Reasoner

简介

推理密集型信息检索(Reasoning-Intensive IR)是近年来兴起的一类新型信息检索任务。与传统检索不同,它不仅依赖语义匹配,还需要综合运用深层逻辑推理、多步语义链以及相关背景知识,才能在查询与目标文档之间建立起正确的语义关联。

为推动该领域研究,香港大学、普林斯顿大学和斯坦福大学联合提出了首个面向推理密集型检索的权威评测基准 BRIGHT。该基准汇集了来自 StackExchange、LeetCode、数学竞赛等领域的真实查询,并将其与需要多步推理才能识别的相关文档进行配对,用于评估检索系统在复杂推理场景下的能力。

在 BRIGHT 基准下,传统依赖关键词匹配或简单语义相似度的方法往往难以定位真正相关的目标文档,暴露出当前检索系统在复杂推理场景中的不足。因此,如何在推理密集型检索中提升系统性能,成为推动检索增强生成(RAG)在复杂推理任务中发展的关键问题。


图 1. 不同于基于关键词和直接语义匹配的检索任务,BRIGHT 评测基准关注于推理密集型场景下的检索任务

在这一背景下,BGE-Reasoner 在推理密集型检索任务中展现出卓越性能。在 BRIGHT 榜单中,它超越了此前由蚂蚁、百度、字节跳动、人民大学、滑铁卢大学等机构提交的成果,并以领先第二名 3.6 分的优势刷新纪录。与此同时,其内置向量模型 BGE-Reasoner-Embed 也大幅超越了 Seed1.5-Embedding、Qwen3-Embedding、GTE 等当前最强基线模型,展现了显著的性能提升。


图 2. 在 BRIGHT 榜单上,BGE-Reasoner 取得 SOTA 表现于 8 月 21 日荣登第一名,BGE-Reasoner-Embed 使用原生查询即表现出色,在向量模型中取得 SOTA 结果,榜单链接:https://brightbenchmark.github.io


图 3. BGE-Reasoner 及 BGE-Reasoner-Embed 与基线模型在 BRIGHT 上的检索表现对比图

技术分析

BGE-Reasoner 采用信息检索中的经典三模块体系:

  • 查询理解 —— BGE-Reasoner-Rewriter:对初始查询进行理解与改写,生成更适合检索的优化查询;

  • 向量模型 —— BGE-Reasoner-Embed:与 BM25 协同利用改写后的查询进行检索,获取候选文档集合;

  • 排序模型 —— BGE-Reasoner-Reranker:对候选文档进行重排序,得到更为准确的排序结果。

在实际工作流程中,用户的原始查询首先经过 BGE-Reasoner-Rewriter 改写,然后由 BGE-Reasoner-Embed 与 BM25 并行检索得到候选文档,最后交由 BGE-Reasoner-Reranker 进行精排。系统通过集成多路结果,输出最终排序,完成端到端的推理式检索流程。完整框架如下图所示:


图 4. BGE-Reasoner 的端到端检索流程示意图

数据合成。不同于传统的开放式问答场景,推理密集型信息检索场景下的训练数据十分稀缺。为了解决这一问题,智源及合作机构的研究团队诉诸于基于大语言模型的数据合成策略。具体来说,基于现实场景中存在的知识密集型语料库,合成出针对特定场景的高质量推理密集型查询,然后借助于大语言模型强大的理解能力为每个查询构造出高质量的正例和负例。最终构造出一份覆盖数学、代码等多个领域的高质量推理密集型检索训练数据,为后续各个模块的训练提供支撑。

查询理解。在查询理解模块中,研究人员基于前述合成数据,借助推理能力较强的教师模型生成多条推理路径,并通过拒绝采样策略筛选高质量结果以构建训练样本。随后,利用这些训练数据对 Qwen2.5-7B-Instruct 模型进行微调,从而显著提升其在查询理解与改写方面的能力,最终得到 BGE-Reasoner-Rewriter。

向量模型。内嵌的向量模型 BGE-Reasoner-Embed 基于 Qwen3-8B 基座模型进行微调。依托高质量的合成训练数据,模型在推理密集型检索任务中的能力得到了显著增强。在 BRIGHT 基准下,无论是基于原始查询还是 GPT-4 推理查询,BGE-Reasoner-Embed 均取得了当前向量模型中的最佳检索表现,充分验证了所构建合成数据的有效性。

排序模型。内嵌的排序模型 BGE-Reasoner-Reranker 基于 Qwen3 系列基座模型进行微调。结合任务场景下的相关性定义,模型能够在查询与候选文档之间展开细粒度推理,识别关键信息片段并准确评估相关性。在训练过程中,引入强化学习以提升模型在困难样本上的推理能力;在推理阶段,模型通过测试时扩展(test-time augmentation)获取更加稳健的相关性评分,从而进一步增强排序性能。


图 5. BGE-Reasoner-Reranker 的推理过程示意图

总结

BGE-Reasoner 的卓越表现充分验证了强化学习与合成数据在推理密集型信息检索中的重要作用,为未来 Agent Search 的发展提供了关键支撑。

智源研究院将持续深耕向量模型与检索增强技术,不断提升 BGE 系列模型的能力与通用性。未来期待与更多科研机构及产业伙伴合作,共同推动检索与人工智能的发展,欢迎研究者与开发者关注并使用 BGE 系列模型,共建开放繁荣的开源生态。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
跑步5公里vs走路1万步,哪个效果更好?

跑步5公里vs走路1万步,哪个效果更好?

马拉松跑步健身
2026-01-25 21:46:11
三星堆再醒惊天下!新发现颠覆认知,未解之谜直指何方?

三星堆再醒惊天下!新发现颠覆认知,未解之谜直指何方?

生活新鲜市
2026-01-25 11:59:42
你别不信,好多人走之前,其实都有反常征兆!

你别不信,好多人走之前,其实都有反常征兆!

千秋文化
2026-01-25 20:49:20
贝克汉姆14岁女儿家庭风波中首次发声,大布被曝,只想跟妹妹联系

贝克汉姆14岁女儿家庭风波中首次发声,大布被曝,只想跟妹妹联系

无处不风景love
2026-01-25 12:10:56
领头羊2-3被绝杀,切尔西3-1胜,英超四主队翻车积分出炉

领头羊2-3被绝杀,切尔西3-1胜,英超四主队翻车积分出炉

陈锌特色美食
2026-01-26 02:57:08
男篮:半场压制显实力,末节坚守赢胜利

男篮:半场压制显实力,末节坚守赢胜利

魔血獄苼
2026-01-26 01:04:07
官宣!上海乒协新会长正式上任,樊振东迎来强援,许昕有望留队

官宣!上海乒协新会长正式上任,樊振东迎来强援,许昕有望留队

刘哥谈体育
2026-01-25 00:36:34
纪实:退伍军人摆摊刺死城管被判死刑,律师的三连问,让法官改判

纪实:退伍军人摆摊刺死城管被判死刑,律师的三连问,让法官改判

五元讲堂
2024-10-30 12:29:40
老天都站在中国这边!中美博弈最激烈时刻,内蒙发现超级核矿

老天都站在中国这边!中美博弈最激烈时刻,内蒙发现超级核矿

史行途
2026-01-24 13:59:27
同居变群居!男子与女友同居后被女友5个闺蜜缠上,拿捏得死死的

同居变群居!男子与女友同居后被女友5个闺蜜缠上,拿捏得死死的

今朝牛马
2026-01-16 17:30:01
不要轻易做手术!医生提醒:65岁后,这4类手术可尽量避免

不要轻易做手术!医生提醒:65岁后,这4类手术可尽量避免

路医生健康科普
2026-01-23 10:10:57
维埃拉:枪手心理强度的问题仍然存在;萨卡在比赛中太安静了

维埃拉:枪手心理强度的问题仍然存在;萨卡在比赛中太安静了

懂球帝
2026-01-26 04:36:49
从免费听到付费,中国音乐非但没进步,反而把听众“作”没了?

从免费听到付费,中国音乐非但没进步,反而把听众“作”没了?

草莓解说体育
2026-01-20 04:16:58
一位老人感叹:人没必要活得太长寿。60岁走,太年轻;70岁走,有点早;80岁去世,刚好合适。

一位老人感叹:人没必要活得太长寿。60岁走,太年轻;70岁走,有点早;80岁去世,刚好合适。

品读时刻
2026-01-17 09:02:08
独家!地铁11号线将迎重要改造!

独家!地铁11号线将迎重要改造!

尚虹桥
2026-01-25 19:26:44
李兴湖卸任福建省副省长

李兴湖卸任福建省副省长

上观新闻
2026-01-25 21:27:04
亲美的下场,再现南北分裂危机,或将悲剧重演,中方还会出手吗?

亲美的下场,再现南北分裂危机,或将悲剧重演,中方还会出手吗?

曹焋解说
2026-01-25 18:09:44
每年放假都不想回家!农村娃晒家里不堪环境,浙江沪父母又赢了!

每年放假都不想回家!农村娃晒家里不堪环境,浙江沪父母又赢了!

林林先生
2026-01-23 10:21:37
特朗普抵京前,美国先通知中国,不想谈2件事,中方大规模抛美债

特朗普抵京前,美国先通知中国,不想谈2件事,中方大规模抛美债

墨兰史书
2026-01-25 08:35:07
詹姆斯对东契奇赞不绝口,称赞他自被交易到湖人队后球技突飞猛进

詹姆斯对东契奇赞不绝口,称赞他自被交易到湖人队后球技突飞猛进

好火子
2026-01-26 01:42:55
2026-01-26 06:04:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
2057561文章数 5296关注度
往期回顾 全部

科技要闻

黄仁勋在上海逛菜市场,可能惦记着三件事

头条要闻

委代总统控诉遭美国威胁:不配合就杀了你们

头条要闻

委代总统控诉遭美国威胁:不配合就杀了你们

体育要闻

中国足球不会一夜变强,但他们已经创造历史

娱乐要闻

央八开播 杨紫胡歌主演的40集大剧来了

财经要闻

隋广义等80人被公诉 千亿骗局进入末路

汽车要闻

别克至境E7内饰图曝光 新车将于一季度正式发布

态度原创

艺术
亲子
家居
公开课
军事航空

艺术要闻

溥心畬的花鸟,淡雅清新

亲子要闻

惊!老爸越老,孩子得病几率直线上升!真相揭秘!

家居要闻

在家度假 160平南洋混搭宅

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄美乌三方首轮会谈细节披露

无障碍浏览 进入关怀版