网易首页 > 网易号 > 正文 申请入驻

视频理解+开放网络搜索=首个视频Deep Research评测基准

0
分享至

新智元报道

编辑:LRST

【新智元导读】现有的多模态模型往往被困在「视频」的孤岛里——它们只能回答视频内的问题。但在真实世界中,人类解决问题往往是「看视频找线索 -> 上网搜证 -> 综合推理」。为了填补这一空白,来自QuantaAlpha、兰州大学、香港科技大学(广州)、北京大学等机构的研究者联合推出了首个视频深度研究(Video Deep Research)评测基准VideoDR。

在传统的视频问答(VideoQA)中,答案通常就在视频里。

然而,真正的智能Video Agent应该具备Deep Research的能力。

试想这样一个场景:你看到视频中博物馆的一个展品,想知道「该博物馆推荐的展品中,距离这个展品最近的那个,其注册编号是多少?」

这不仅仅需要理解视频(识别展品、定位位置),还需要跳出视频,去博物馆官网查找地图、推荐列表和编号信息。

论文链接:https://arxiv.org/abs/2601.06943

代码链接:https://github.com/QuantaAlpha/VideoDR-Benchmark

VideoDR (Video Deep Research) 正是为此而生,它定义了一个全新的任务范式:

  1. 多帧视觉线索:从多个视频帧中准确识别连续的关键信息进行推理。

  2. 交互式网络搜索:在浏览器环境中进行交互,执行多跳深度搜索。

  3. 多跳推理验证:结合视频线索和网络证据,提供可验证的事实性答案。

为了保证评测的含金量,VideoDR并没有采用自动化生成,而是进行了严格的人工标注与质检。

双重依赖性测试:剔除了那些「只看视频就能答」或「只搜文字就能答」的样本,确保模型必须结合两者能力。

六大领域覆盖:涵盖日常生活、经济、科技、文化、历史、地理。

Workflow vs. Agentic

研究人员对比了两种主流范式:

  • Workflow(工作流模式): 将视频转化为结构化文本线索,再进行搜索推理。

  • Agentic(代理模式): 模型直接端到端处理视频和搜索,自主决定何时搜索、何时思考。

评测模型:

  • 闭源模型: GPT-5.2, GPT-4o, Gemini-3-pro-preview

  • 开源模型: Qwen3-Omni-30B-a3b, InternVL3.5-14B, MiniCPM-V 4.5


核心发现与洞察

谁是目前的最强王者?

Gemini-3-pro-preview和GPT-5.2处于第一梯队,准确率达到了69%-76%左右,显著领先于其他模型。

Agentic 模式一定更强吗?

答案是:不一定。

虽然 Agentic 模式更灵活,但在长视频或高难度任务中,模型容易出现目标漂移(Goal Drift)。

  • Workflow 的优势: 显式的中间文本充当了「外部记忆」,防止模型在漫长的搜索链路中忘记最初视频里的视觉细节。

  • Agentic 的短板: 一旦初始的视觉感知出现偏差,且无法回看视频,错误的搜索路径会被不断放大。


长视频是「照妖镜」

在长视频场景下,模型保持长期一致性(Long-horizon Consistency)的能力成为瓶颈。

强如Gemini-3在Agentic模式下能利用长上下文获得提升,而部分开源模型在长视频下性能反而大幅下降。

总结

VideoDR将视频理解的战场从封闭测试集延伸到了无限的开放网络。

评测结果深刻揭示了「端到端」并非万能药:在面对长链路搜索时,模型往往会陷入「记忆衰退」的困境。

未来的视频 Agent 只有在保持视觉线索的长程一致性上取得突破,才能真正胜任真实世界的复杂调研任务。

参考资料:

https://arxiv.org/abs/2601.06943

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
复活诺基亚N95!HMD将推出全新侧滑盖智能机 这配置3千块最多了...

复活诺基亚N95!HMD将推出全新侧滑盖智能机 这配置3千块最多了...

快科技
2026-08-12 16:32:14
生育大局已定!2026新生儿预估出炉,低生育率根本不是年轻人懒生

生育大局已定!2026新生儿预估出炉,低生育率根本不是年轻人懒生

大鱼简科
2026-08-13 11:33:31
钱再多有什么用?女排教父袁伟民现状,给所有中老年人提了个醒

钱再多有什么用?女排教父袁伟民现状,给所有中老年人提了个醒

铁锤妹妹是只猫
2026-07-29 14:45:25
大衣哥朱之文在景区演出,唱到一半突然停了,直接说:“我不演了”。不是设备出毛病,也不是台下有人闹事,其实是...

大衣哥朱之文在景区演出,唱到一半突然停了,直接说:“我不演了”。不是设备出毛病,也不是台下有人闹事,其实是...

背包旅行
2026-07-31 11:39:13
1958年,邓华设宴款待毛主席,席间主席说:我想见一下陶万荣

1958年,邓华设宴款待毛主席,席间主席说:我想见一下陶万荣

青途历史
2026-08-13 11:46:51
CCTV5直播,中国女篮PK泰国女篮,赛前三个好消息,宫鲁鸣迎大考

CCTV5直播,中国女篮PK泰国女篮,赛前三个好消息,宫鲁鸣迎大考

体坛小快灵
2026-08-13 08:35:58
巨大损失!王希季,昨日逝世

巨大损失!王希季,昨日逝世

南方都市报
2026-08-13 13:14:05
塔利班在阿富汗执政整整五年,经济萎缩超两成,包括中国在内全球无一国承认,如今急了眼直接向联合国叫板摊牌,到底谁更理亏

塔利班在阿富汗执政整整五年,经济萎缩超两成,包括中国在内全球无一国承认,如今急了眼直接向联合国叫板摊牌,到底谁更理亏

林杰论事
2026-08-06 21:49:44
20年前入世谈判,朱镕基曾怒斥美国:“这很不礼貌”

20年前入世谈判,朱镕基曾怒斥美国:“这很不礼貌”

环球人物杂志
2021-12-12 09:54:30
“滚回你们自己的国家!”日本42万穆斯林遭仇恨,风向彻底变了

“滚回你们自己的国家!”日本42万穆斯林遭仇恨,风向彻底变了

风流女汉
2026-06-15 15:52:33
最爱绿色穿搭:那不是颜色,是我在钢筋水泥中找到的固定呼吸点

最爱绿色穿搭:那不是颜色,是我在钢筋水泥中找到的固定呼吸点

疾跑的小蜗牛
2026-08-13 19:01:43
四川一维修队打开下水道,发现里面躺着3个女人,一查身份吓一跳

四川一维修队打开下水道,发现里面躺着3个女人,一查身份吓一跳

清茶浅谈
2025-03-30 15:06:25
SpaceX 12小时两连发,加州再送24颗星链卫星

SpaceX 12小时两连发,加州再送24颗星链卫星

我是一个粉刷匠2
2026-08-12 19:58:02
178万成交!这样的1角纸币,再破都值钱!

178万成交!这样的1角纸币,再破都值钱!

天天纪念币
2026-08-09 10:05:46
豪门互挖墙角,夏天最疯狂的转会战才刚刚开始这个夏天,欧洲足坛的转会市场彻底乱套了

豪门互挖墙角,夏天最疯狂的转会战才刚刚开始这个夏天,欧洲足坛的转会市场彻底乱套了

带你逛体坛
2026-08-13 19:40:16
男性有没有衰老,“下半身”会说实话,若一个没中,恭喜还强壮

男性有没有衰老,“下半身”会说实话,若一个没中,恭喜还强壮

展望云霄
2026-07-23 09:05:25
恩爱多年敌不过现实,伏明霞婚变传闻水落石出,姐姐回应婚姻真相

恩爱多年敌不过现实,伏明霞婚变传闻水落石出,姐姐回应婚姻真相

星娱叨叨社
2026-08-13 14:20:27
巴萨肠子悔青!世界级神锋苦等被无视!转头空降欧洲豪门

巴萨肠子悔青!世界级神锋苦等被无视!转头空降欧洲豪门

澜归序
2026-08-13 09:03:29
惊人的穷人定律:越是贫穷的家庭,越喜欢让子女从事这3类工作,结果越来越穷

惊人的穷人定律:越是贫穷的家庭,越喜欢让子女从事这3类工作,结果越来越穷

品读时刻
2026-08-13 09:09:37
大S遗产分配终于敲定,长女首次境外发声,外婆那套说法被推翻了

大S遗产分配终于敲定,长女首次境外发声,外婆那套说法被推翻了

乡野小珥
2026-08-02 03:23:40
2026-08-13 20:23:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
15931文章数 67001关注度
往期回顾 全部

科技要闻

DeepSeek V4 Pro更新:性价比炸裂 仍需打磨

头条要闻

三体原CEO投毒案细节:一边毒杀老板 一边毒害多名同事

头条要闻

三体原CEO投毒案细节:一边毒杀老板 一边毒害多名同事

体育要闻

负债十几亿的联赛,还在疯狂买球星

娱乐要闻

篡改红歌已立案,郭德纲大祸临头

财经要闻

可治疗癌症?神话破灭的片仔癀 陷入争议

汽车要闻

试了奇瑞捷豹路虎神行者8,才知道它的i-ATS有多强?

态度原创

房产
健康
手机
教育
游戏

房产要闻

投资暴跌90%!文昌楼市,正在停摆!

孩子高低肩,是不是脊柱侧弯了?!

手机要闻

苹果压价大成功:iPhone 18 Pro屏幕成本低至70美元同比下降近40%

教育要闻

录取线又涨了!多所“双非”高校最高分赶超985

Annapurna Interactive正式推出《D-Topia》 一场探索AI与人类未来的冒险

无障碍浏览 进入关怀版