网易首页 > 网易号 > 正文 申请入驻

多模态DeepResearch,成了!

0
分享至



DeepResearch 的价值在于把「查资料」变成「做研究」:不是搜到一条就回答,而是会连续多轮地提出问题、去不同地方找证据、互相对照核实、再把信息整理成结构清晰的结论。这样做能显著降低「凭感觉瞎编」的风险,特别适合那些信息分散、容易混淆、需要多步推理和多来源佐证的复杂问题。

工业级 deepresearch LLM(如 tongyi-deepresearch、MiroThinker),将文本 DeepResearch 性能从探索级提高到了与闭源模型的 agentic reasoning pipeline 相当的性能,但多模态 DeepResearch 依然处在初期。



图 1A:指出现有多模态深度研究在图像搜索上的两大瓶颈:忽视搜索引擎命中率问题(单次全图 / 实体检索常失败,不同尺度裁剪结果波动大),以及推理深度与检索广度不足(轨迹短、交互少)。图 1B:展示整体流程:自动合成高质量 VQA 与多轮轨迹,并通过 SFT+RL 把深研能力内化到 MLLM 中,使其能进行多轮、多实体、多尺度的视觉与文本搜索。底部结果对比表明:在统一的 agentic 推理设置下,模型以更小参数规模在 6 个基准上达到 SOTA。

在现实世界中,多模态 DeepResearch 有着重要意义,其将研究能力从「只看文字」扩展到「文字 + 图片 / 图表 / 截图等」。现实世界里很多关键信息就藏在视觉内容里:一张照片里的标志、一个产品细节、一页报告截图里的表格、一张地图或示意图。

多模态 DeepResearch 能把这些视觉线索也当成证据来使用:先从图片中抓住关键点,再去查文字资料验证补全,必要时再回到图片继续核对,最后把图文证据一起整合成更可靠、更完整的答案。这样不仅覆盖的信息更全,也更接近人类真实的研究方式。

基于此,作者构建了一个面向真实世界搜索环境的多模态 deep-research 大模型,通过 VQA 数据合成 + 轨迹合成 + 冷启动 + 大规模强化学习,解决当前工作所忽略的引擎命中率问题,将推理轮数提高到数十轮,与搜索引擎交互次数提高到了数百次。



  • 机构:港中文 MMLab,中科大,小红书等
  • HF daily paper:
  • https://huggingface.co/papers/2601.22060
  • https://huggingface.co/papers/2602.02185
  • Project page: https://osilly.github.io/Vision-DeepResearch/

相比于之前的 multimodal deep-research MLLM 在 6 个主流 benchmark 上几乎翻倍性能,对比例如 gpt5、gemini2.5pro、claude4 等强大闭源模型的 agentic reasoning pipeline,使用 30B-A3B 甚至 8B 参数规模几乎都取得了领先或者相当的性能。

基线对比 Demo:


https://mp.weixin.qq.com/s/E3chyoaLVtaMI1MAL6zAhA?click_id=1

更多 case 展示:


https://mp.weixin.qq.com/s/E3chyoaLVtaMI1MAL6zAhA?click_id=1


https://mp.weixin.qq.com/s/E3chyoaLVtaMI1MAL6zAhA?click_id=1


https://mp.weixin.qq.com/s/E3chyoaLVtaMI1MAL6zAhA?click_id=1


https://mp.weixin.qq.com/s/E3chyoaLVtaMI1MAL6zAhA?click_id=1

现有一些多模态 DeepResearch 的探索,在真实网页环境里经常卡在两道硬坎,这导致他们缺乏实际应用价值:

  1. 命中率问题(hit-rate)被忽视:一张全图 / 一次实体级查询往往被背景噪声带偏;同一实体不同尺度裁剪,检索结果差异巨大。
  2. 推理深度与检索广度不足:多数方法轨迹短、工具调用少,难以完成多跳证据聚合与复杂问题的「试错式搜证」。

Vision-DeepResearch 提出新的多模态深度研究范式:把检索从「一次性操作」升级为多轮试探 — 反馈 — 再检索的长期交互过程,支持几十步推理、上百次引擎交互,让模型像人一样在噪声环境中不断缩小范围、验证证据,最终稳定命中关键事实。

方法核心:多尺度视觉检索 + 文本深研接力 + 端到端内化

整体路线是「高质量长轨迹合成 → 冷启动 SFT → 在线高效异步 RL 内化能力」

  1. 多实体 / 多尺度视觉裁剪检索(CIS):模型先定位与问题相关区域,生成多个 bbox 与不同尺度 crop 并行发起视觉搜索,显著提升命中率。
  2. 视觉→网页→摘要→验证的证据管线:视觉搜索返回 URL 后,访问网页并用辅助模型做摘要与图文一致性验证,过滤噪声,提炼可用证据。
  3. 桥接文本 DeepResearch 能力:利用强文本 DeepResearch 基础模型生成对应的文本搜索长轨迹,实现跨模态长视野推理迁移。
  4. 训练策略:先用约 30K 长轨迹做 SFT 教会「怎么搜、怎么查、怎么写轨迹」,再用在线强化学习在真实在线搜索环境中优化策略(纯准确率奖励 + 多种工程稳定化技巧),把深研行为真正「内化」为模型能力。



图 2 数据管线高质量轨迹数据生成;多跳复杂 VQA 合成

实验:小参数也能打到 SOTA,长视野交互是关键增益来源

性能强大:在 VDR、FVQA、MMSearch (+)、LiveVQA、BC-VL 等 6 个基准上:

  1. Vision-DeepResearch-8B 在同等 agent 设置下,相比 Qwen3-VL-8B-Instruct(Agentic)平均提升约 + 10.4%
  2. Vision-DeepResearch-30B-A3B 进一步把整体成绩推到更高水平(平均提升约 + 16.0%),在多个基准上持续扩大优势。超越 GPT-5、Gemini-2.5-Pro、Claude-4-Sonnet 等强大闭源模型构成的 deep-research 系统的性能。



消融结论明确

  1. 仅全图检索(WIS)收益有限且易受噪声干扰;
  2. 多尺度裁剪(CIS)显著提升视觉命中;
  3. CIS + 文本搜索(TS)组合最好,同时满足「视觉锚点精准 + 长尾知识补全」;
  4. RL 进一步把长视野决策做稳:模型学会用更少但更有效的步骤拿到更高回报。



VDR-Bench:重新定义视觉深研评测!2,000 条「必须做视觉搜索」的真实难题,专治文本捷径与全图完美检索

多模态深度研究系统越来越多,但评测却长期「不对题」:很多基准存在两类系统性漏洞:

  1. 不够「视觉搜索中心」:答案常被问题文本线索泄露,甚至可用模型先验知识 / 纯文本检索绕过视觉验证,导致分数虚高。
  2. 检索场景过于理想化:全图反搜经常命中几乎一模一样的「近重复图片 + 标题元信息」,形成「完美检索(perfect retrieval)」,没测到真实环境下的定位、裁剪、试错与跨模态核验能力。文搜搜索深度太浅,无法反映真实世界的复杂性。



图 3 现有评测基准两大缺陷

VDR-Bench 为此提出一套更贴近现实的评测基准:2,000 条多跳 VQA,覆盖 10 个视觉域,强调必须通过局部实体发现 + 迭代裁剪检索 + 文本多跳推理才能可靠作答,从源头减少捷径与「全图一把梭」

基准构建核心:从「视觉实体」出发,强制闭环证据链

VDR-Bench 采用严格的「视觉优先」多阶段流程:

  1. 人工裁剪 + Web 级视觉搜索:标注者优先裁剪显著局部(logo / 人物 / 地标 / 产品等)而非整图,模拟真实搜图行为。
  2. 实体抽取与验证:从检索结果标题 / 描述抽取候选实体,经 MLLM 过滤一致性,再由人工核验,确保实体不是「全图轻松搜到」的近重复泄露。
  3. Seed VQA 生成:围绕已验证视觉实体生成需要显式识别与落地的问答。
  4. 知识图谱随机游走做多跳扩展:把问题升级为「从视觉实体出发」的多跳推理(总部城市 / 创始人 / 年份 / 关联组织等)。
  5. 可解性与去捷径审核:自动与人工双重检查,确保必须依赖记录下来的视觉检索证据与推理路径,避免歧义与 shortcut。



图 4 多阶段数据标注管道

在 VDR-Bench 上,模型必须主动检索才有明显提升,并且作者发现「Lazy Search(懒搜索)」:越强的模型越可能依赖先验知识、反而不愿意充分调用视觉检索,导致深研题表现不匹配其基础能力。

为缓解这一点,作者提出Multi-turn Visual Forcing(MVF):在推理流程上强制多轮、多尺度裁剪与验证,大幅提升深度检索性能。



意义与未来

Vision-DeepResearch 证明:多模态深研能力的关键不只是「会调用工具」,而是要在噪声世界里形成长视野、可试错、可验证的检索 — 推理闭环;并且通过可规模化数据合成与 RL,可以把这种行为从 workflow 变成模型的内生能力。

VDR-Bench 把「视觉深研」从「能不能答对」升级为「能不能在噪声世界里定位 — 检索 — 验证 — 多跳推理」,为后续模型与 Agent 训练提供更真实的测试平台,也让社区更清楚:下一代多模态深研系统的瓶颈到底在哪里?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
徐克在前妻追思会上哭了,叶倩文坐第二排,杨采妮把施南生当妈妈

徐克在前妻追思会上哭了,叶倩文坐第二排,杨采妮把施南生当妈妈

暖心萌阿菇凉
2026-08-04 03:06:20
极目深度|戈壁滩上的致命“管教”:14岁少年遭殴打后死亡,事发前一天打人者向家长收取6000元“开导费”,主犯被判死缓

极目深度|戈壁滩上的致命“管教”:14岁少年遭殴打后死亡,事发前一天打人者向家长收取6000元“开导费”,主犯被判死缓

极目新闻
2026-08-04 12:03:10
泽连斯基向普京开出停火条件:军队原地不动,俄乌先停炸能源设施

泽连斯基向普京开出停火条件:军队原地不动,俄乌先停炸能源设施

桂系007
2026-08-03 23:19:06
蔡崇信与女主持人合照发酵!当事人出面澄清 否认网传恋情

蔡崇信与女主持人合照发酵!当事人出面澄清 否认网传恋情

快科技
2026-08-04 11:47:41
高中生被同学雇凶打死仅赔3000,父亲出家两年携11枚炸弹挨个拜年

高中生被同学雇凶打死仅赔3000,父亲出家两年携11枚炸弹挨个拜年

易玄
2026-08-01 22:37:36
特朗普威胁对伊朗采取斩首行动,称美伊谈判正在进行;以色列:感觉被美国抛到了一边;伊朗:不允许美在霍尔木兹海峡开辟新航线

特朗普威胁对伊朗采取斩首行动,称美伊谈判正在进行;以色列:感觉被美国抛到了一边;伊朗:不允许美在霍尔木兹海峡开辟新航线

扬子晚报
2026-08-04 07:14:40
劳荣枝逃亡路上的两段感情:不缺钱不出门,生活精致,但不敢结婚

劳荣枝逃亡路上的两段感情:不缺钱不出门,生活精致,但不敢结婚

莫地方
2026-08-02 19:57:38
荀慧生:样板戏就是今天人骂,明天人学,后天就成了经典传承下去

荀慧生:样板戏就是今天人骂,明天人学,后天就成了经典传承下去

兴趣知识
2026-08-02 21:56:16
20岁俄罗斯教练:北京很美!消费比莫斯科低 但普通人不会说英语

20岁俄罗斯教练:北京很美!消费比莫斯科低 但普通人不会说英语

念洲
2026-08-03 13:28:50
NBA最美女记者宫河麻耶:天使脸蛋傲人身材,人称"日本第一美臀"

NBA最美女记者宫河麻耶:天使脸蛋傲人身材,人称"日本第一美臀"

桑葚爱动画
2026-08-03 08:58:50
系统BUG先放放,微软要给盗版用户们上强度了。

系统BUG先放放,微软要给盗版用户们上强度了。

差评XPIN
2026-08-04 00:35:39
特朗普亲口证实:美国正在帮助日本提振日元 日本对我们一直不错,除了珍珠港事件

特朗普亲口证实:美国正在帮助日本提振日元 日本对我们一直不错,除了珍珠港事件

每日经济新闻
2026-08-03 09:04:28
牛蛙药残,只是冰山一角!更可怕的是,人们已经习以为常!

牛蛙药残,只是冰山一角!更可怕的是,人们已经习以为常!

闲侃闲侃
2026-08-04 08:13:39
广东4岁男童独自夜宿路边 当地回应:计划给孩子爸爸找工作

广东4岁男童独自夜宿路边 当地回应:计划给孩子爸爸找工作

闪电新闻
2026-08-04 11:06:29
震惊!江西儿科医生韩杰因漏诊被判刑一年,网友:劝人学医天打雷劈的含金量还在上升

震惊!江西儿科医生韩杰因漏诊被判刑一年,网友:劝人学医天打雷劈的含金量还在上升

Mr王的饭后茶
2026-08-02 22:10:32
《红楼梦》最不堪一幕:亲爹把玩腻的房里人塞给儿子,竟藏着一盘狠毒的棋

《红楼梦》最不堪一幕:亲爹把玩腻的房里人塞给儿子,竟藏着一盘狠毒的棋

如玉公子
2026-08-03 08:00:20
全红婵和朵薇,一场关于“守护”的双向奔赴

全红婵和朵薇,一场关于“守护”的双向奔赴

剁椒Spicy
2026-08-03 22:28:38
坦克发动机,为啥难倒了全世界?

坦克发动机,为啥难倒了全世界?

清沐执笔
2026-08-01 20:15:09
接棒帕米拉·安德森!超模穿红色泳衣幕后照曝光,自曝压力山大,家人竟因这个理由狂喜

接棒帕米拉·安德森!超模穿红色泳衣幕后照曝光,自曝压力山大,家人竟因这个理由狂喜

时光慢旅人
2026-08-03 12:06:44
世界杯落幕球星评级大洗牌,3人上桌1人下桌,C罗姆巴佩位列其中

世界杯落幕球星评级大洗牌,3人上桌1人下桌,C罗姆巴佩位列其中

娱瓜酱
2026-08-03 14:40:53
2026-08-04 14:36:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13667文章数 142710关注度
往期回顾 全部

科技要闻

Anthropic老板急了:挖来的人,可能只为钱

头条要闻

上海飞东京航班临降落时险些与检查飞机相撞 官方调查

头条要闻

上海飞东京航班临降落时险些与检查飞机相撞 官方调查

体育要闻

斯卢茨基告别申花:1座城市和14亿份难忘的回忆

娱乐要闻

93岁香港巨星葛兰离世

财经要闻

存储芯片超级周期走到十字路口?

汽车要闻

方程S系列将于成都车展发布内饰 9月上旬新车上市即交付

态度原创

数码
教育
旅游
健康
军事航空

数码要闻

国产自研GPU从0到1破晓时刻!砺算首秀ChinaJoy:LX 7G100现场开跑黑神话

教育要闻

河南专科征集志愿倒计时,这所学校更适合普通家庭

旅游要闻

海底看云南!昆明融创海世界“人鱼秀”惊艳上演

干细胞和衰老有什么联系?

军事要闻

特朗普威胁对伊朗采取"斩首"行动:这是最后一次机会

无障碍浏览 进入关怀版