网易首页 > 网易号 > 正文 申请入驻

通义实验室大火的 WebAgent 续作:全开源模型方案超过GPT4.1

0
分享至

WebAgent 续作《WebShaper: Agentically Data Synthesizing via Information-Seeking Formalization》中,作者们首次提出了对 information-seeking(IS)任务的形式化建模并基于该建模设计了 IS 任务训练数据合成方法,并用全开源模型方案取得了GAIA 评测最高 60.1 分的 SOTA 表现

WebShaper 补足了做 GAIA、Browsecomp 上缺少高质量训练数据的问题,通义实验室开源了高质量 QA 数据!

WebShaper 体现了通义实验室对 IS 任务的认知从前期的启发式理解到形式化定义的深化。

  • GitHub 链接:https://github.com/Alibaba-NLP/WebAgent
  • huggingface 链接:https://huggingface.co/datasets/Alibaba-NLP/WebShaper
  • model scope 链接:https://modelscope.cn/datasets/iic/WebShaper

图表 1:WebShaper 在 GAIA 上取得开源方案 SOTA。

WebShaper —— 合成数据范式的转变

在大模型时代,「信息检索(Information Seeking, IS)」早已不是简单的 「搜索 + 回答」 那么简单,而是 AI 智能体(Agent)能力的重要基石。无论是 OpenAI 的 Deep Research、Google 的 Gemini,还是国内的 Doubao、Kimi,它们都把 「能不能上网找信息」 当作核心竞争力。

系统性地构造高质量的信息检索训练数据成为激发智能体信息检索能力的关键,同时也是瓶颈。当前主流方法依赖 「信息驱动」 的合成范式 —— 先通过网络检索构建知识图谱,再由大模型生成问答对(如 WebDancer、WebWalker 等方案)。这种模式存在两大缺陷:知识结构与推理逻辑的不一致性,以及预检索内容的局限导致的任务类型、激发能力和知识覆盖有限。

图表 2:WebShaper 从 「信息驱动」到 「形式化驱动」 的范式转变。

WebShaper 系统开创性提出 「形式化驱动」 新范式,通过数学建模 IS 任务,并基于该形式化,检索信息,合成训练数据。形式化驱动的优点包括:

1. 全域任务覆盖 :基于形式化框架的系统探索,突破预检索数据边界,实现覆盖更广任务、能力、知识的数据生成。

2. 精准结构控制 :通过形式化建模,可精确调控推理复杂度与逻辑结构。

3. 结构语义对齐 :任务形式化使信息结构和推理结构一致,减少数据合成中产生的错误。

Information Seeking 形式化建模

图表 3: 形式化建模

WebShaper 首先提出基于集合论的 IS 任务形式化模型。

该模型包含核心概念「知识投影(Knowledge Projection)」,他是一个包含实体的集合:

  • 每个 IS 任务都由 KP 的 R - 并集(R-Union)、交集(Intersection)、递归操作构成,能够精准控制推理路径和任务复杂度;
  • 每个 IS 任务旨在确定一个复杂的由 KP 组合而成的目标集合 T 中包含的实体。

该形式化建模让 WebShaper 不再依赖自然语言理解的歧义,而是可控、可解释、可扩展的数据合成方案。

智能体式扩展合成:让 Agent 自己 「写题」

为了与形式化建模保持一致,WebShaper 整个流程开始于预先构建且形式化的基础种子任务,然后在形式化的驱动下,将种子问题多步扩展为最终的合成数据。此过程采用专用的代理扩展器 (Expander) 模块,旨在通过关键过程 (KP) 表征来解释任务需求。在每个扩展阶段,系统都会实现逐层扩展机制,以最小化冗余,同时通过控制复杂度进程来防止推理捷径。

种子任务构建

为了构建种子任务,作者下载了全部 WikiPedia,并在词条中随机游走检索信息,合成基础的种子 IS 任务。

KP 表示

IS 任务形式化模型是复杂度的,其中包含大量的交、R - 并和递归操作。为了在 Expander 中表示和使用该模型,作者提出了一种 KP 表示。其中通过引入 「变量」 和 「常量」,以及 R - 并的可交换性质,表示了 IS 形式化模型。

如,将如下的问题:

「Which player of a team in the 2004-05 season, who was born in 90s? This team is founded in 1966 and is an East German football team.」

表示为:

图表 4 :形式化表示。

逐层扩展结构

数据扩展的策略是数据合成的关键。之前的方法在我们的形式化模型中将得到下图中的 Random Structure 和 Sequential Structure:

图表 5 :扩展策略对比。

这样的结构存在两个问题:

  • 冗余性: 如上图中的 Random Structure 所示,存在一些已知常量与其他已知常量相联系。在这种情况下,诸如 「柏林迪纳摩是一家位于柏林的足球俱乐部」这样的句子会存在于问题中。然而,这并没有增加任务解决的推理链。
  • 推理捷径: 如上图中的 Sequential Structure 所示,存在一个将常量直接连接到目标的推理链条。如果发生这种情况,模型可能会通过仅推理较近的常量而忽略较深的序列来猜测答案。

为此,作者提出如上图所示的逐层结构,每次扩展都选择叶结点常量进行扩展,有效地解决了上述的两个问题。

扩展智能体

具体扩展是由 Expander 智能体负责执行,他接受当前问题的形式化表示:

  • 根据图结构层次遍历找到可扩展常量节点;
  • 调用搜索、网页摘要、验证等工具;
  • 自动生成形式化任务、并进行答案验证和复杂度过滤。

这一步,使得我们不仅能构建覆盖度广的任务,更能确保任务正确性和推理链条的严谨性,大幅减少错误传播。

Agent 训练

基于形式化生成的高质量任务和完整的行为轨迹,作者使用监督微调(SFT)+ GRPO 强化学习策略来训练 Agent。WebShaper 最终得到 5k 的训练轨迹。

训练后,模型在 GAIA 基准任务中获得:

  • 60.1 分,超越所有开源方案
  • 闭源模型 GPT4.1 只有 40.7 分、Claude Sonnet4 58.2 分、O4 mini 66.99

我们在全使用开源模型方案下拉近了用最强闭源模型 o4 mini 的差距,大幅领先第二名的开源方案。

图表 6 :与最新基线方法的对比。

进一步分析

论文中,作者还进一步分析了数据和训练模型,发现:

1. WebShaper 数据领域覆盖充分。

2. 在 WebShaper 数据上,通过 RL 训练能大幅激发模型的 IS 能力。

3. 消融实验验证了形式化建模和逐层扩展策略的有效性。

4. 求解 WebShaper 任务,相比于基线数据要求更多的智能体 action。

为什么这件事重要?

  • 任务形式化= WebShaper 是基于形式化任务合成数据的开端。该思想可以扩展于相比 IS 更为复杂的任务。
  • 数据质量 = Agent 能力上限。好的智能体,先要有好的训练任务。
  • Agentic 数据合成 = 智能体数据构建需要结合推理和信息检索,使用 agent 合成数据可以大幅减少中间过程开销和误差传递
  • 开源共享 = 社区生态繁荣。我们相信,用最开放的方式推动最前沿的研究,是 AI 发展的正路。

用开源数据 + 模型做到 GAIA 60 分,你也可以。

现在就来试试:https://github.com/Alibaba-NLP/WebAgent

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
不可思议!刘欢安葬后网友发文感慨,墓穴售价数十万,每年另缴5%管护费,担忧千年后无人续费,期盼其墓园纳入文保体系、专人管护

不可思议!刘欢安葬后网友发文感慨,墓穴售价数十万,每年另缴5%管护费,担忧千年后无人续费,期盼其墓园纳入文保体系、专人管护

火山詩话
2026-11-16 06:48:40
俄罗斯记者赴深报道APEC,提前换好现金,最后一分没花:太先进了

俄罗斯记者赴深报道APEC,提前换好现金,最后一分没花:太先进了

行者聊官
2026-11-18 11:55:37
雷军APEC现场发名片再造社交名场面

雷军APEC现场发名片再造社交名场面

界面新闻
2026-11-18 13:08:13
群英会,欧洲FIFA排名前7的球队+挪威组成了欧国联八强

群英会,欧洲FIFA排名前7的球队+挪威组成了欧国联八强

懂球帝
2026-11-18 06:22:13
台上卖力地表演,台下的看客不买账了!

台上卖力地表演,台下的看客不买账了!

胖胖说他不胖
2026-11-17 11:50:11
“我不反华了”润去美国的前律师周君红,发文希望回国,但不能坐牢

“我不反华了”润去美国的前律师周君红,发文希望回国,但不能坐牢

消失的电波
2026-11-17 19:36:00
贾玲线下被偶遇,穿紧身衣服身材苗条,皮肤白皙状态像大学生

贾玲线下被偶遇,穿紧身衣服身材苗条,皮肤白皙状态像大学生

白宸侃片
2026-11-18 17:52:40
美国总统特朗普抵达深圳

美国总统特朗普抵达深圳

新快报新闻
2026-11-18 17:08:04
同样是抵达马尼拉,中国代表和日本首相的接机规格,差在哪?

同样是抵达马尼拉,中国代表和日本首相的接机规格,差在哪?

爱下厨的阿酾
2026-11-18 03:37:45
实不相瞒,这就是赤裸裸的现实!中国石油或许已经出现大问题?

实不相瞒,这就是赤裸裸的现实!中国石油或许已经出现大问题?

老嘪科普
2026-11-17 17:48:27
两位妈妈打扮精致去开家长会,被发到网上,网友吵翻:这是选美,还是开会?

两位妈妈打扮精致去开家长会,被发到网上,网友吵翻:这是选美,还是开会?

蝴蝶花雨话教育
2026-10-29 00:05:14
山东一男婴日夜啼哭,母亲掀开被子后,将月嫂当场掐死

山东一男婴日夜啼哭,母亲掀开被子后,将月嫂当场掐死

罪案洞察者
2025-03-31 09:35:41
台北101点灯,力挺黄仁勋

台北101点灯,力挺黄仁勋

芯智讯
2026-11-17 12:23:23
陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

三公子娱乐丫
2025-05-17 17:59:45
中国股市:写给处于严重亏损的股民们的一封信,此文,很短很深

中国股市:写给处于严重亏损的股民们的一封信,此文,很短很深

屿探涨
2026-11-17 11:25:04
韩媒震惊:韩国队竟然输给了世界排名第95的中国队,脸都不要了

韩媒震惊:韩国队竟然输给了世界排名第95的中国队,脸都不要了

念洲
2026-11-18 18:24:15
这是中国最不要脸的一个群体,无耻之极,世所罕见!

这是中国最不要脸的一个群体,无耻之极,世所罕见!

晓楖科普
2026-11-11 13:09:39
时间定了,中方宣布安排,11月19日这一天,全世界都将拭目以待

时间定了,中方宣布安排,11月19日这一天,全世界都将拭目以待

古书奇谈
2026-11-17 10:23:42
3种一吃就“拉屎”的蔬菜!冬天可以这样吃,便便顺畅,肠道舒服

3种一吃就“拉屎”的蔬菜!冬天可以这样吃,便便顺畅,肠道舒服

花小厨
2026-11-18 16:06:01
又一癌症疫苗迎来重大突破,股价暴涨

又一癌症疫苗迎来重大突破,股价暴涨

东方豪侠
2026-11-18 08:50:06
2026-11-18 20:35:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14506文章数 142760关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

家居
本地
时尚
手机
健康

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

乌兰察布:以前种土豆,现在种Token

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

情绪真能让健康人"伤心至死"?

无障碍浏览 进入关怀版