网易首页 > 网易号 > 正文 申请入驻

国产开源模型卷赢Gemini 3 Pro、GPT-5.2,最强多模态推理大模型易主?

0
分享至

智东西1月30日报道,1月29日,商汤正式开源多模态自主推理模型SenseNova-MARS-8B和SenseNova-MARS-32B。该系列模型在多模态搜索与推理的核心基准测试中性能超越Gemini 3 Pro、GPT-5.2

商汤指出,SenseNova-MARS是首个支持动态视觉推理和图文搜索深度融合的Agentic VLM模型。

该框架能够在多轮推理过程中主动运用图像搜索、文本搜索和图像裁剪工具,如通过放大、裁剪图片寻找细节,然后调用文本、图片搜索工具查询背景信息,且这一过程无需人工干预。

在MMSearch、HR-MMSearch、FVQA、InfoSeek、SimpleVQA、LiveVQA等基准测试中,SenseNova-MARS取得开源模型中的SOTA成绩

商汤日日新SenseNova-MARS模型、代码、数据集全开源。

GitHub地址:

https://github.com/OpenSenseNova/SenseNova-MARS

一、自动放大图片看细节,调用外部工具进行文字、图片搜索

尽管视觉语言模型(VLM)能够通过智能推理解决复杂任务,但其主要局限于面向文本的思维链或孤立的工具调用。尤其是在需要协调外部工具(例如搜索和图像裁剪)的知识密集型和视觉复杂场景中,它们无法展现出人类所需的熟练程度,无法将动态工具操作与连续推理无缝衔接。

基于此,商汤研究团队推出了SenseNova-MARS。SenseNova-MARS能在生活和工作的场景,解决需要“多步骤推理+多工具协作”的问题,如可以通过裁剪放大图片的细节、进行图像搜索、进行文本搜索。

下方模型需要完成识别赛车服微小Logo、查询公司成立年份、匹配车手出生年月、计算差值的复杂任务,SenseNova-MARS可自主调用图像裁剪、文本/图像搜索工具,无需人工干预完成解答。

其还能从产品和行业峰会的照片中,如根据下面的汽车图片识别出汽车品牌的标志、确认车型,然后结合文本和图像搜索给出答案。

SenseNova-MARS能从赛事照片中识别画面中的Logo、人物等信息,追溯比赛或人员背景信息,快速补充重要细节。

该模型还能处理超长步骤的多模态推理,和超过三种工具调用,自动裁剪分析细节、搜索相关研究数据,快速验证假设,得出关键判断。例如根据下方图片,其能快速抓取精准信息,包括公司成立年份、人物出生年月等。

二、搜索能力超Gemini-3-Pro、GPT-5.2,跨任务调用工具强过Qwen3-VL-8B

为了全面评估智能视觉学习模型(VLM)在复杂视觉任务上的性能,研究团队引入了HR-MMSearch基准测试。

作为评估VLM智能体细粒度感知和搜索推理能力的基准测试。该数据集包含305张4K分辨率的图像,这些图像来自8个不同的、具有高影响力的领域,涵盖体育、休闲文化以及科学技术等。

▲HR-MMSearch测试集的数据包含情况

实验表明,SenseNova-MARS在开源搜索和细粒度图像理解基准测试中均表现较优。在面向搜索的基准测试中,SenseNova-MARS-32B在MMSearch和HR-MMSearch上的得分分别为74.3和54.4,超越了Gemini-3-Pro和GPT-5.2等专有模型。

在知识密集型MMSearch基准测试中,SenseNova-MARS主要依赖图像和文本搜索工具来获取外部信息,对基于裁剪的感知依赖性极低。相比之下,在既需要高分辨率感知,也需要复杂的推理的HR-MMSearch测试中,SenseNova-MARS展现出更为均衡的工具使用,表明其能够有效地整合局部视觉线索和外部知识。

与Qwen3-VL-8B相比,SenseNova-MARS-8B通过动态地为每种任务场景选择最有效的工具,展现出更强的跨任务适应性。

▲SenseNova-MARS-8B的自适应工具使用行为

SenseNova-MARS-32B在六项基准测试中与其他模型的整体性能对比显示,MMSearch、HR-MMSearch和FVQA等搜索导向型基准测试中,该模型超越了Gemini-3-Pro和GPT-5.2等专有模型。

面向视觉理解,在V Bench和HR-Bench等高分辨率感知基准测试中,SenseNova-MARS-32B性能优于Qwen3-VL-235B-A22B等模型。

三、系统框架+强化学习,采用双阶段流水线并行训练策略

SenseNova-MARS基于Qwen2.5-VL-7B-Instruct,采用两阶段流水线进行训练,先进行系统框架训练(SFT),再进行强化学习(RL)训练。

第一阶段,其针对跨模态搜索推理训练数据稀缺的痛点,的提出了基于多模智能体的自动化数据合成引擎,采用细粒度视觉锚点与多跳深度关联检索的机制,动态挖掘并关联跨网页实体的逻辑,自动化构建高复杂度的多跳推理链路,同时引入闭环自洽性校验来去除幻觉数据,构造出具备严密逻辑链条与高知识密度的多跳搜索问答数据。

其筛选的高难度案例中,每个案例都标注了“该用什么工具、步骤是什么”,让AI先学会基本的解题逻辑,确保AI一开始就接触真实复杂场景。

第二阶段训练采用强化学习,AI每做对一次决策,比如选对工具、步骤合理就会获得奖励,做错了就调整策略。

此外,为了避免AI“学偏”,研究团队还引入了BN-GSPO算法,让模型在处理简单题和复杂题时都能保持稳定进步,不会出现“偏科”。

这种基于双阶段归一化的机制可以平滑动态工具调用返回分布多样性带来的优化波动并确保学习信号分布的一致性,从而解决跨模态多步多工具智能体训练过程中的收敛性难题。

经过这样的训练,AI不仅学会了用工具,还能知道在什么情况下应该使用哪些工具,以及如何将不同工具的结果有机结合起来。

结语:多模态AI能自主解题,或加速产业端AI应用

商汤提出了新型的多模态智能推理与搜索模型,该模型能够在多轮推理过程中主动运用图像搜索、文本搜索和图像裁剪工具,提升了AI从被动响应指令到主动规划步骤、调用工具解决复杂问题的能力。

聚焦到真实的业务场景,在工业质检、金融风控、传媒内容分析、赛事数据挖掘、科研辅助等领域,模型此前受限于看不清细节、不会查背景、无法处理复杂多步骤任务的落地痛点。SenseNova-MARS无需人工干预的闭环解题能力,或大幅提升产业端的AI应用效率。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
上海市第三女子中学原党委书记王悦成因病逝世,享年67岁

上海市第三女子中学原党委书记王悦成因病逝世,享年67岁

澎湃新闻
2026-08-11 11:08:27
5位前首相集体倒戈,痛骂高市早苗:对华无策略,对美只知谄媚

5位前首相集体倒戈,痛骂高市早苗:对华无策略,对美只知谄媚

健身狂人
2026-08-10 00:50:07
宁波公安回应“网红雅典娜遇害”:报道截图系反诈宣传片引用的网络资料 案件非宁波公安办理

宁波公安回应“网红雅典娜遇害”:报道截图系反诈宣传片引用的网络资料 案件非宁波公安办理

红星新闻
2026-08-11 13:43:19
攻击俄炼油厂致近百人死伤!大型军用油库被炸,前线俄军严重缺油

攻击俄炼油厂致近百人死伤!大型军用油库被炸,前线俄军严重缺油

鹰眼Defence
2026-08-11 17:23:43
内蒙古一辆警车价值百万,却贴着国产车标,糊弄谁呢?

内蒙古一辆警车价值百万,却贴着国产车标,糊弄谁呢?

News脑洞
2026-08-11 16:19:41
不装了,百花奖没到手,当场“甩脸”的杨幂,不再顾及所谓的体面

不装了,百花奖没到手,当场“甩脸”的杨幂,不再顾及所谓的体面

阿笎评论哥
2026-08-11 14:06:17
内蒙古一警车被换标成长城汽车,网友称:哪是换标那么简单

内蒙古一警车被换标成长城汽车,网友称:哪是换标那么简单

Mr王的饭后茶
2026-08-11 10:55:29
逼走胖东来的幕后人曝光!漫天要价不惯着,于东来一动作让他闭嘴

逼走胖东来的幕后人曝光!漫天要价不惯着,于东来一动作让他闭嘴

皮蛋儿电影
2026-08-11 21:43:02
俄罗斯唯一公开反对俄乌战争的苹果党被禁止参选!引发大规模抗议

俄罗斯唯一公开反对俄乌战争的苹果党被禁止参选!引发大规模抗议

项鹏飞
2026-08-11 20:11:41
8月11俄乌最新:令人不安的曲线

8月11俄乌最新:令人不安的曲线

西楼饮月
2026-08-11 18:30:49
细思极恐!930万人超大型研究证实:99.6%的心脏病发作,都和这4项有关!

细思极恐!930万人超大型研究证实:99.6%的心脏病发作,都和这4项有关!

趣味探索
2026-08-09 23:41:52
风暴眼 | 曾年销超76万的神车,要退场了

风暴眼 | 曾年销超76万的神车,要退场了

凤凰网财经
2026-08-10 18:58:21
科学周刊 | 现代科技如何“解封”2300多年前的战国秦酒?淡蓝色的液体,保存有7斤多,一共检测到了2400多种化合物,味道嘛……

科学周刊 | 现代科技如何“解封”2300多年前的战国秦酒?淡蓝色的液体,保存有7斤多,一共检测到了2400多种化合物,味道嘛……

大风新闻
2026-08-11 20:12:05
WTT瑞典大满贯:男单头号种子一轮游!莫雷加德0-3惨败止步64强

WTT瑞典大满贯:男单头号种子一轮游!莫雷加德0-3惨败止步64强

全言作品
2026-08-12 01:56:03
特朗普下令斩首哈梅内伊时,绝对想不到,会因恐惧躲在食品卡车里

特朗普下令斩首哈梅内伊时,绝对想不到,会因恐惧躲在食品卡车里

西楼知趣杂谈
2026-08-11 20:37:48
斯诺克中国公开赛太残酷:随着赵心童5-6,已有6大名将遭遇一轮游

斯诺克中国公开赛太残酷:随着赵心童5-6,已有6大名将遭遇一轮游

侧身凌空斩
2026-08-12 00:06:40
广东24岁美女姜小柔去世!砸观音荒地钉八字,知情人曝死因属横祸

广东24岁美女姜小柔去世!砸观音荒地钉八字,知情人曝死因属横祸

米果说识
2026-08-11 10:12:53
上海暴雨,浇醒的不只是房价,更是“伪中产”的体面

上海暴雨,浇醒的不只是房价,更是“伪中产”的体面

茶韵浮生
2026-08-11 18:47:10
雅典娜容貌出众,绑匪为何宁愿撕票,也不倒卖牟利?

雅典娜容貌出众,绑匪为何宁愿撕票,也不倒卖牟利?

社会日日鲜
2026-08-11 16:15:26
GDP增速狂飙30.2%,“下一个深圳”要来了?

GDP增速狂飙30.2%,“下一个深圳”要来了?

智谷趋势
2026-08-11 16:03:06
2026-08-12 04:56:49
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12412文章数 117149关注度
往期回顾 全部

科技要闻

AI大战变天:扎克伯格突然回头

头条要闻

网红"雅典娜"失踪3年 好友:她被李姓女网友诱骗至境外

头条要闻

网红"雅典娜"失踪3年 好友:她被李姓女网友诱骗至境外

体育要闻

NBA老顽童,抽着大麻喝着小酒告别了

娱乐要闻

“雅典娜”确认被害 细节令人发指!

财经要闻

AI泡沫的剧本,是2008年的次贷危机?

汽车要闻

闪充/天神之眼B/云辇-C 2027款海豹06售9.99万元起

态度原创

艺术
旅游
时尚
数码
教育

艺术要闻

色彩的盛宴,视觉的狂欢:西班牙水彩大师福斯蒂诺·马丁·冈萨雷斯的艺术世界

旅游要闻

住在拓东路几十年,今天才弄明白家门口这座老城,对昆明有多重要!

时速60公里,“慢”车去南非

数码要闻

苹果Apple Arcade下月新增两款益智游戏

教育要闻

低分照样上本科 孩子高考不到四百分,一定要了解湖北专升本

无障碍浏览 进入关怀版