网易首页 > 网易号 > 正文 申请入驻

视频理解+开放网络搜索=首个视频Deep Research评测基准

0
分享至


新智元报道

编辑:LRST

【新智元导读】现有的多模态模型往往被困在「视频」的孤岛里——它们只能回答视频内的问题。但在真实世界中,人类解决问题往往是「看视频找线索 -> 上网搜证 -> 综合推理」。为了填补这一空白,来自QuantaAlpha、兰州大学、香港科技大学(广州)、北京大学等机构的研究者联合推出了首个视频深度研究(Video Deep Research)评测基准VideoDR。

在传统的视频问答(VideoQA)中,答案通常就在视频里。

然而,真正的智能Video Agent应该具备Deep Research的能力。

试想这样一个场景:你看到视频中博物馆的一个展品,想知道「该博物馆推荐的展品中,距离这个展品最近的那个,其注册编号是多少?」

这不仅仅需要理解视频(识别展品、定位位置),还需要跳出视频,去博物馆官网查找地图、推荐列表和编号信息。


论文链接:https://arxiv.org/abs/2601.06943

代码链接:https://github.com/QuantaAlpha/VideoDR-Benchmark

VideoDR (Video Deep Research) 正是为此而生,它定义了一个全新的任务范式:

  1. 多帧视觉线索:从多个视频帧中准确识别连续的关键信息进行推理。

  2. 交互式网络搜索:在浏览器环境中进行交互,执行多跳深度搜索。

  3. 多跳推理验证:结合视频线索和网络证据,提供可验证的事实性答案。


为了保证评测的含金量,VideoDR并没有采用自动化生成,而是进行了严格的人工标注与质检。


双重依赖性测试:剔除了那些「只看视频就能答」或「只搜文字就能答」的样本,确保模型必须结合两者能力。

六大领域覆盖:涵盖日常生活、经济、科技、文化、历史、地理。


Workflow vs. Agentic

研究人员对比了两种主流范式:

  • Workflow(工作流模式): 将视频转化为结构化文本线索,再进行搜索推理。

  • Agentic(代理模式): 模型直接端到端处理视频和搜索,自主决定何时搜索、何时思考。

评测模型:

  • 闭源模型: GPT-5.2, GPT-4o, Gemini-3-pro-preview

  • 开源模型: Qwen3-Omni-30B-a3b, InternVL3.5-14B, MiniCPM-V 4.5


核心发现与洞察

谁是目前的最强王者?

Gemini-3-pro-preview和GPT-5.2处于第一梯队,准确率达到了69%-76%左右,显著领先于其他模型。


Agentic 模式一定更强吗?

答案是:不一定。

虽然 Agentic 模式更灵活,但在长视频或高难度任务中,模型容易出现目标漂移(Goal Drift)。

  • Workflow 的优势: 显式的中间文本充当了「外部记忆」,防止模型在漫长的搜索链路中忘记最初视频里的视觉细节。

  • Agentic 的短板: 一旦初始的视觉感知出现偏差,且无法回看视频,错误的搜索路径会被不断放大。


长视频是「照妖镜」

在长视频场景下,模型保持长期一致性(Long-horizon Consistency)的能力成为瓶颈。

强如Gemini-3在Agentic模式下能利用长上下文获得提升,而部分开源模型在长视频下性能反而大幅下降。



总结

VideoDR将视频理解的战场从封闭测试集延伸到了无限的开放网络。

评测结果深刻揭示了「端到端」并非万能药:在面对长链路搜索时,模型往往会陷入「记忆衰退」的困境。

未来的视频 Agent 只有在保持视觉线索的长程一致性上取得突破,才能真正胜任真实世界的复杂调研任务。

参考资料:

https://arxiv.org/abs/2601.06943


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
重磅突发!6名将军被罢免相关职务!军中反腐无禁区!

重磅突发!6名将军被罢免相关职务!军中反腐无禁区!

小马姨
2026-06-27 11:27:11
火箭军党委署名文章

火箭军党委署名文章

新京报
2026-06-27 12:22:23
板仓滉谈战巴西:如果我们拿下这场胜利,全日本都会为之沸腾

板仓滉谈战巴西:如果我们拿下这场胜利,全日本都会为之沸腾

懂球帝
2026-06-27 08:15:05
当着34国的面,中巴爆发正面交锋!美国的底牌这下全露了

当着34国的面,中巴爆发正面交锋!美国的底牌这下全露了

千羽解读
2026-06-26 20:11:39
中国不给脸,新加坡就是个县!英媒:中国富人正集体逃离新加坡

中国不给脸,新加坡就是个县!英媒:中国富人正集体逃离新加坡

到此为止的印象
2026-06-26 21:57:26
终于老果农肯说实话:大连晚熟大樱桃,到底打不打药?值得买吗?

终于老果农肯说实话:大连晚熟大樱桃,到底打不打药?值得买吗?

神牛
2026-06-27 11:17:55
原来洗钱这件事一直都贴近生活!网友:手段变化多端,长见识了

原来洗钱这件事一直都贴近生活!网友:手段变化多端,长见识了

另子维爱读史
2026-05-27 07:52:25
WTT美国大满贯最新战报:国乒首日连赢2场!瑞典世界冠军险被爆冷

WTT美国大满贯最新战报:国乒首日连赢2场!瑞典世界冠军险被爆冷

阿讯说天下
2026-06-27 11:48:25
火箭3换2深谋远虑?32岁老将选择2500万,明夏或走人!新控卫接班

火箭3换2深谋远虑?32岁老将选择2500万,明夏或走人!新控卫接班

熊哥爱篮球
2026-06-27 13:09:05
昔日顶流反诈老陈疑跌落谷底 自曝向朋友借钱周转 仍欠3万微粒贷

昔日顶流反诈老陈疑跌落谷底 自曝向朋友借钱周转 仍欠3万微粒贷

快科技
2026-06-26 13:15:10
百姓躺平摆烂,食税群体怎么办?

百姓躺平摆烂,食税群体怎么办?

律法刑道
2026-06-03 09:30:48
第31届上海电视节白玉兰获奖名单公布,杨紫斩获最佳女主角

第31届上海电视节白玉兰获奖名单公布,杨紫斩获最佳女主角

梦回千年aa
2026-06-27 12:41:04
美团股价跌没86%,王兴说:我一股没卖,你们别慌

美团股价跌没86%,王兴说:我一股没卖,你们别慌

大厂人物志
2026-06-27 02:27:12
快讯!日本传来消息!

快讯!日本传来消息!

故事终将光明磊落
2026-06-27 12:28:31
中国正式改口?不再称“日本政府”,新称呼把立场亮得更清楚

中国正式改口?不再称“日本政府”,新称呼把立场亮得更清楚

温读史
2026-06-27 13:40:40
因内存短缺,iPhone 18 将首次使用 9GB 运行内存!

因内存短缺,iPhone 18 将首次使用 9GB 运行内存!

XCiOS俱乐部
2026-06-27 09:30:20
在银行捅过最大的篓子,代发工资做成代扣,全县老师打电话来维权

在银行捅过最大的篓子,代发工资做成代扣,全县老师打电话来维权

夜深爱杂谈
2026-06-06 22:00:03
温州任命新公安局局长

温州任命新公安局局长

温州草根
2026-06-27 08:58:03
阿里钉钉大换血:原CEO陈航一天卸任3职,92年新帅上任7天成立核心部门

阿里钉钉大换血:原CEO陈航一天卸任3职,92年新帅上任7天成立核心部门

码上闲叙
2026-06-26 11:06:58
C罗的基因真的太能打了,五个孩子三个妈个个都长得像他,小小罗还继承了足球天赋

C罗的基因真的太能打了,五个孩子三个妈个个都长得像他,小小罗还继承了足球天赋

动物奇奇怪怪
2026-06-27 05:00:35
2026-06-27 14:47:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
15545文章数 66938关注度
往期回顾 全部

科技要闻

GPT-5.6发布,你暂时用不了!Mythos也放行

头条要闻

美国专家:亚洲秩序正在转变 中国统一可能"不战而胜"

头条要闻

美国专家:亚洲秩序正在转变 中国统一可能"不战而胜"

体育要闻

世界杯最火门将,站到了阿根廷和梅西面前

娱乐要闻

四提白玉兰终封后,杨紫:仍觉不真实

财经要闻

OpenAI推迟IPO重创软银!

汽车要闻

11.99万起 捷途自由者7 PLUS/山海T1四驱版上市

态度原创

教育
房产
游戏
亲子
公开课

教育要闻

第39课-在国外不懂预定服务,要睡大街?

房产要闻

全国高考大放水,300分就能上本科!论上岸率,海南没输过!

惨案一个接一个!外媒锐评索尼头铁硬推服务型游戏

亲子要闻

甲酰胺纸尿裤,暴露了被价格战卷疯的产业链

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版