网易首页 > 网易号 > 正文 申请入驻

AI记住失败经验:微软提出Re-TRAC框架,4B性能SOTA,30B超越358B

0
分享至

想象一下,你让 AI 助手结合搜索工具探索一个复杂问题。它第一次探索时走错了方向,但第二次、第三次,它依然重复同样的错误探索路径。虽然你可能可以从最终得到的多次探索结果中挑选出一个勉强满意的答案,但是这既低效,也需要人工干预。这就是当前大多数深度搜索智能体面临的困境——它们无法「记住」之前的探索经验,每次都是从头开始,导致大量冗余搜索和资源浪费。

现有的深度搜索智能体大多基于 ReAct 框架构建,采用线性推理方式:「思考→调用工具→观察→再思考」。这种设计在简单任务上表现良好,但在需要多轮探索的深度搜索任务中,往往陷入局部最优、重复探索和低效搜索的困境。

来自东南大学、微软亚洲研究院等机构的研究团队提出了一种全新的解决方案——Re-TRAC(REcursive TRAjectory Compression),这个框架让 AI 智能体能够「记住」每次探索的经验,在多个探索轨迹之间传递经验,实现渐进式的智能搜索。

  • 论文标题:RE-TRAC: REcursive TRAjectory Compression for Deep Search Agents
  • 论文链接:
  • https://arxiv.org/abs/2602.02486
  • 项目链接:
  • https://github.com/microsoft/InfoAgent

让探索变成「渐进式学习」过程

为什么 ReAct 会失败?

ReAct 框架的核心问题在于其线性设计。每个探索轨迹都是独立的,模型无法回顾先前尝试的状态。在长上下文场景下,早期制定的计划逐渐被遗忘,关键线索被埋没。

研究团队通过深入分析发现,现有深度搜索模型即使经过大量强化学习训练,其 Pass@K 性能仍远高于 Pass@1。这意味着模型本身具备解决问题的推理能力潜能,问题在于受限于上下文长度限制,单次探索难以生成足够多样的探索路径,无法覆盖足够宽广的搜索空间。

Re-TRAC:递归式轨迹压缩

Re-TRAC 的核心思想是将探索从一系列独立尝试转变为渐进式学习过程。具体而言,在每个探索轨迹结束时生成一个结构化的状态表示,针对深度搜索任务,记录以下三个维度的信息:

  • 答案与分析结论:当前可能性最高的答案与其关键推理结果——为后续推理提供锚点。

  • 证据库与来源验证:已搜集到的证据及其来源,并标记哪些已被查阅、已被验证——避免冗余的工具调用和重复检查。

  • 不确定项与待探索方向:现阶段需要继续探索验证的角度、曾被遗漏的候选探索分支与曾因失败放弃的探索方向;帮助模型在下一轮中补全未探索的搜索空间。

这个结构化状态将被添加到下一轮探索的输入中,确保智能体在每轮新尝试开始时,都能清楚地了解什么已被验证、什么仍未解决,以及应该将探索重点放在哪里。

小模型也能「以小博大」

研究团队在五个具有挑战性的搜索导向基准上评估了 Re-TRAC:BrowseComp、BrowseComp-ZH、XBench、GAIA 和 HLE。

4B 模型性能 SOTA

RE-TRAC-4B 在所有小于 15B 参数的基线中表现最佳:

  • BrowseComp上达到 30.0% 的准确率;
  • BrowseComp-ZH上达到 36.1%;
  • GAIA上达到 70.4%;
  • XBench上达到 76.6%;
  • HLE上达到 22.2%。

更令人惊讶的是,这个仅 4B 参数的模型在多个基准上超越了更大规模的模型。

  • XBench基准上,RE-TRAC-4B 的 76.6% 准确率不仅远超 InfoAgent-14B 的 40.4%(提升了近 90%),也超过了 NestBrowse-4B 的 74.0%。

  • GAIA基准上,RE-TRAC-4B 的 70.4% 准确率超过了 AgentCPM-Explore-4B 的 63.9% 和 NestBrowse-4B 的 68.9%。

30B 模型的进一步突破

RE-TRAC-30B 同样表现出色,在除 HLE 外的所有基准上都击败了 MiniMAX-M2-229B。

  • BrowseComp上,其准确率达到 53%,甚至超过了 GLM-4.7-358B 的 52%。

  • GAIA上,RE-TRAC-30B 击败了所有闭源模型,在 BrowseComp 和 BrowseComp-ZH 上排名第二。

这些结果说明,通过轨迹压缩与跨轮次信息传递,小模型在资源受限场景下也能获得接近甚至超过更大模型的效果。

更少的消耗、更高的性能的通用拓展

Re-TRAC 不仅可以通过训练提升小模型性能,还可以作为无需训练的测试扩展直接应用于前沿模型。

研究团队在 o4-mini、o3、GPT-5、DeepSeek-V3.2、GLM-4.7 和 MiniMax-M2.1 上实现了 Re-TRAC 框架,并与多数投票(Majority Voting)、加权投票(Weighted Voting)和最佳选择(Best-of-N)等方法进行了对比。

结果显示,Re-TRAC 在所有模型上都达到了最佳或具有竞争力的性能。在 BrowseComp300 子集上:

  • o4-mini通过 Re-TRAC 从 25.7% 提升到 46.8%;
  • o3从 54.9% 提升到 69.8%;
  • GPT-5-medium从 48.3% 提升到 66.6%;
  • DeepSeek-V3.2从 45.3% 提升到 60.8%;
  • GLM-4.7从 37.7% 提升到 60.7%。

在传统框架中,由于轨迹相互独立,资源使用量通常随扩展近似线性增长。Re-TRAC 会继承之前轮次的状态,使搜索空间逐步收敛,从而减少冗余工具调用与重复探索,提升探索的效率。

技术细节:

如何训练 Re-TRAC 模型

研究团队开发了一种后训练方法,构建了基于结构化状态表示的监督微调(SFT)数据。训练数据通过实体树方法构建:从维基百科收集大量实体作为树根,然后递归搜索相关实体作为子节点,直到树达到预定义深度。

通过选择从根到叶节点的路径并将边转换为子问题,团队合成了 33K 个问答对。然后,收集 GLM-4.7 在这些合成问题上的 Re-TRAC(4 轮)轨迹,经过过滤后得到 104k 个训练样本,用于训练 RE-TRAC-4B 和 RE-TRAC-30B 模型。

实验结果显示,经过 SFT 训练后,Qwen3-4B-Instruct 在 BrowseComp 上的准确率从 2.7% 大幅提升到 30.0%,在 BrowseComp-ZH 上从 6.9% 提升到 36.1%,在 GAIA 上从 24.4% 提升到 70.4%,在 XBench 上从 45.0% 提升到 76.6%。

这表明通过简单的 SFT 训练,配合 Re-TRAC 框架,可以产生强大的搜索智能体,实现与通过大规模强化学习训练的模型相当甚至更好的性能。

总结:

优化 ReAct 的搜索框架,

让小模型跑出大模型表现

Re-TRAC 可以看作是针对深度搜索任务优化过的 ReAct 框架:在原有「思考→调用工具→观察→再思考」的范式上,引入了跨轮次的轨迹压缩和结构化状态表示,让智能体在开放网络检索、复杂信息汇总等场景中不再「从零开始」,而是像人一样复用既有证据、总结失败教训并规划未来方向。

更重要的是,这种有针对性的框架设计让小模型也能跑出大模型级别的效果,为资源受限场景(如边缘设备、本地部署)提供了一条「用小模型做大事」的现实路径。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
队报:耐克曾为姆巴佩开出10年、每年超2000万欧的代言合同

队报:耐克曾为姆巴佩开出10年、每年超2000万欧的代言合同

懂球帝
2026-09-19 16:01:22
普京喊话欧洲国家:俄罗斯没有侵略意图!

普京喊话欧洲国家:俄罗斯没有侵略意图!

看看新闻Knews
2026-09-19 08:28:41
伊朗处决侯赛因·佩达兰

伊朗处决侯赛因·佩达兰

上观新闻
2026-09-20 06:10:14
闹大了!《兰香如故》刚开播,杨紫老剧被冲上热搜,同质化太离谱

闹大了!《兰香如故》刚开播,杨紫老剧被冲上热搜,同质化太离谱

瓦叔看世界
2026-09-19 22:18:04
当年一针疫苗没打的500万人,如今结局出人意料,太真实了!

当年一针疫苗没打的500万人,如今结局出人意料,太真实了!

坠入二次元的海洋
2026-09-11 00:35:48
一个月死27000人!波兰总理一句话,把泽连斯基的盖子掀了

一个月死27000人!波兰总理一句话,把泽连斯基的盖子掀了

子桑说
2026-09-20 11:16:56
亚运会风波再失控!乒联彻底成众矢之的,王楚钦孙颖莎有苦难言

亚运会风波再失控!乒联彻底成众矢之的,王楚钦孙颖莎有苦难言

悦君兮君不知
2026-09-20 04:21:42
中国体育代表团夺首金 中国红闪耀名古屋

中国体育代表团夺首金 中国红闪耀名古屋

极目新闻
2026-09-20 12:22:11
他接受纪律审查和监察调查

他接受纪律审查和监察调查

锡望
2026-09-19 20:13:02
张智任龙华区副区长,张高峰任龙华区委办(区政府办)主任

张智任龙华区副区长,张高峰任龙华区委办(区政府办)主任

南方都市报
2026-09-20 12:10:11
环球时报快评:当美联社说“美国应当感谢中国”

环球时报快评:当美联社说“美国应当感谢中国”

环球网资讯
2026-09-19 19:55:07
李小璐和赵涛逛公园!黑人是矿泉水歌手的救命恩人!

李小璐和赵涛逛公园!黑人是矿泉水歌手的救命恩人!

八卦疯叔
2026-09-19 09:03:35
力争小组第一!亚运会男足中国对阵伊朗首发出炉:张玉宁、吴曦、朱辰杰三名老将继续首发出战

力争小组第一!亚运会男足中国对阵伊朗首发出炉:张玉宁、吴曦、朱辰杰三名老将继续首发出战

极目新闻
2026-09-20 12:50:27
胡塞要求沙特割让三省,短短十多天的时间,把沙特打到国将不国

胡塞要求沙特割让三省,短短十多天的时间,把沙特打到国将不国

霁寒飘雪
2026-09-20 11:35:19
五一我妈来上海住7天,妻子甩了7天的脸,暑假岳母来家住,我回老家

五一我妈来上海住7天,妻子甩了7天的脸,暑假岳母来家住,我回老家

人间百态大全
2026-09-18 06:47:00
老水产人从不吃的4种鱼,重金属超标、寄生虫、致癌……一个比一个毒

老水产人从不吃的4种鱼,重金属超标、寄生虫、致癌……一个比一个毒

常笑健康
2026-09-19 12:33:36
凌晨战报:再爆大冷世界第16不敌第119,中国4胜2负淘汰外协冠军

凌晨战报:再爆大冷世界第16不敌第119,中国4胜2负淘汰外协冠军

求球不落谛
2026-09-20 05:49:43
这三个国家不欢迎中国人,满脸都是嫌弃,却总有国人上赶着去

这三个国家不欢迎中国人,满脸都是嫌弃,却总有国人上赶着去

墨兰史书
2026-09-18 03:30:06
深圳福田区任命一批局长!涉及发改、教育、财政、卫健等19个部门

深圳福田区任命一批局长!涉及发改、教育、财政、卫健等19个部门

阿离家居
2026-09-20 11:06:38
“投名状”被美国退回后:万亿矿产在手,塔利班仍难靠经济“破局”,华商称“100个订单,99个会滞留阿富汗”

“投名状”被美国退回后:万亿矿产在手,塔利班仍难靠经济“破局”,华商称“100个订单,99个会滞留阿富汗”

澎湃新闻
2026-09-19 14:04:05
2026-09-20 13:36:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14031文章数 142734关注度
往期回顾 全部

科技要闻

谷歌承认:AI模型“黑”进3家公司

头条要闻

河南60岁高龄产妇生下女儿 2年前曾因失独生下个儿子

头条要闻

河南60岁高龄产妇生下女儿 2年前曾因失独生下个儿子

体育要闻

2026亚运会开幕式 胡明轩吴愉担任旗手

娱乐要闻

马伊琍被曝有新恋情,约会被拍

财经要闻

伪造票据洗白药品 回流药黑色产业链曝光

汽车要闻

大五座布局 车身尺寸不变 吉利银河M8申报信息公布

态度原创

本地
时尚
数码
公开课
军事航空

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

关上浴室门,把世界留在门外。

数码要闻

消息称京东方、TCL华星、惠科近期均上调LCD电视显示面板价格

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗称已向美政府传达7项谈判条件

无障碍浏览 进入关怀版