网易首页 > 网易号 > 正文 申请入驻

微软开源15B多模态推理模型

0
分享至

AIPress.com.cn报道

3月5日消息,Microsoft 发布并开源一款15B参数的多模态推理模型——Phi-4-reasoning-vision-15B,主打硬件效率与视觉理解能力,可处理科学图表、界面截图等复杂视觉内容。

该模型基于两项既有算法构建:视觉编码算法SigLIP-2与此前已开源的Phi-4 Reasoning推理模型。SigLIP-2用于将图像压缩为神经网络可处理的数值表示,Phi-4 Reasoning则负责文本与逻辑推理能力。微软采用“中融合(mid-fusion)”架构将二者结合,即仅在部分网络层支持多模态处理,而非在所有层级引入视觉能力,从而在一定输出质量折衷下显著降低算力消耗。

微软表示,用户还可通过提示词启用或关闭推理功能,以进一步降低基础设施占用。这种可切换设计使模型在推理强度与资源效率之间实现动态平衡。

在训练方面,Phi-4-reasoning-vision-15B主要使用开源数据,包括图像及对应文本描述。训练前,微软对数据进行多阶段筛选:保留无需修改的高质量数据集;对图像质量较高但文本标注不准确的数据重新生成说明文本,所用模型包括 GPT-4o 与 o4-mini;同时加入内部构建数据及部分定向收购的高质量数据。训练语料中还包含模型应避免的行为示例,用于降低潜在有害输出风险。

在基准测试中,微软将该模型与同规模推理模型进行比较。在包含多模态数学问题的MathVista_Mini测试中,Phi-4-reasoning-vision-15B成绩较 Gemma 3 12B IT 高出17%,并在六项以上评测中取得更高分数。微软研究人员称,该模型在数学与科学推理方面表现突出,在计算资源消耗显著低于部分大型模型的前提下实现竞争性性能。

应用层面,该模型可用于构建具备界面理解能力的AI代理系统。通过分析截图,模型能够推断按钮、菜单、文本框等界面元素的功能与位置,适用于桌面、网页及移动端环境的自动化交互场景。

此外,模型还可解析复杂视觉资产,例如科学图表或天文图像。在演示中,用户上传土星照片并询问其倾斜原因,模型能够结合季节与观测角度进行解释。

目前,微软已在Hugging Face、GitHub及Azure平台开放该模型代码与访问渠道。(AI普瑞斯编译)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
暴涨819%后买在山顶,满仓硬扛竟亏近5万

暴涨819%后买在山顶,满仓硬扛竟亏近5万

财经智多星
2026-03-05 12:18:48
反击开始!埃尔多安再演黄雀,土耳其大军压境伊朗,借口已准备好

反击开始!埃尔多安再演黄雀,土耳其大军压境伊朗,借口已准备好

策略述
2026-03-06 13:48:44
伊朗玩命!美防长称“不用理中俄”,转头发现:中国已经开始行动

伊朗玩命!美防长称“不用理中俄”,转头发现:中国已经开始行动

浪子阿邴聊体育
2026-03-05 20:40:41
国家发展改革委主任:“十五五”时期普通高中将增加学位200万个以上

国家发展改革委主任:“十五五”时期普通高中将增加学位200万个以上

界面新闻
2026-03-06 17:27:07
比亚迪砍向蔚来

比亚迪砍向蔚来

版面之外
2026-03-06 00:08:17
太突然!上海人熟悉的“老舅妈”嫩娘因病去世

太突然!上海人熟悉的“老舅妈”嫩娘因病去世

上观新闻
2026-03-06 12:37:06
连续八年亏损,股票近一年从24涨到今天255,不声不响涨了10倍!

连续八年亏损,股票近一年从24涨到今天255,不声不响涨了10倍!

有范又有料
2026-03-06 11:38:37
美财长:为确保原油持续流入全球市场,允许印度短期采购俄油

美财长:为确保原油持续流入全球市场,允许印度短期采购俄油

环球网资讯
2026-03-06 16:19:08
两会速递|中国人民银行行长:中国没有必要也无意通过汇率贬值获取贸易竞争优势

两会速递|中国人民银行行长:中国没有必要也无意通过汇率贬值获取贸易竞争优势

新华社
2026-03-06 16:56:37
财政部部长:将提高单笔贴息的上限,花呗、微粒贷、信用卡等都可享受贴息

财政部部长:将提高单笔贴息的上限,花呗、微粒贷、信用卡等都可享受贴息

极目新闻
2026-03-06 16:40:59
鲁山舅舅娶亡姐后续!只手遮天势力大,女孩被管控,更多猛料曝光

鲁山舅舅娶亡姐后续!只手遮天势力大,女孩被管控,更多猛料曝光

哄动一时啊
2026-03-06 12:09:33
反对哈梅内伊儿子接任,特朗普要“钦定”最高领袖,伊朗:无权干涉

反对哈梅内伊儿子接任,特朗普要“钦定”最高领袖,伊朗:无权干涉

上观新闻
2026-03-06 19:07:04
再读《穆斯林的葬礼》,对茅盾文学奖的信任崩塌了!

再读《穆斯林的葬礼》,对茅盾文学奖的信任崩塌了!

难得君
2026-03-06 13:43:16
真只死了6个?曝美军承包商紧急招聘数名临时工,专门处理阵亡士兵物品

真只死了6个?曝美军承包商紧急招聘数名临时工,专门处理阵亡士兵物品

不掉线电波
2026-03-06 10:00:34
车主注意了!6月起高速无杆通行试点,车主终于能一脚油门通过?

车主注意了!6月起高速无杆通行试点,车主终于能一脚油门通过?

老特有话说
2026-03-06 16:12:20
特殊时点,金正恩再上“最大的船”

特殊时点,金正恩再上“最大的船”

中国新闻周刊
2026-03-06 18:14:11
“螺丝大王”潜伏中国31年,一年赚取上千亿,却被误认是国企

“螺丝大王”潜伏中国31年,一年赚取上千亿,却被误认是国企

有范又有料
2026-03-06 14:48:52
山东某银行员工年终收入

山东某银行员工年终收入

济宁人
2026-03-06 08:21:01
国内成品油价格将迎调整

国内成品油价格将迎调整

环球网资讯
2026-03-06 10:08:08
人类灭亡已成定局?马斯克预言人类灭绝方式,科学家早已算出日期

人类灭亡已成定局?马斯克预言人类灭绝方式,科学家早已算出日期

猪小艳吖
2026-03-06 15:07:43
2026-03-06 20:48:49
鞭牛士 incentive-icons
鞭牛士
准确、快速、有深度的科技媒体
104565文章数 61698关注度
往期回顾 全部

科技要闻

独家|除夕加班、毫无黑料!林俊旸无奈离场

头条要闻

美国击沉伊朗军舰后 印度总理莫迪就中东局势罕见发声

头条要闻

美国击沉伊朗军舰后 印度总理莫迪就中东局势罕见发声

体育要闻

跑了24年,他终于成为英超“最长的河”

娱乐要闻

周杰伦社交媒体晒昆凌,夫妻感情稳定

财经要闻

关于经济、股市等,五部门都说了啥?

汽车要闻

逃离ICU,上汽通用“止血”企稳

态度原创

艺术
游戏
健康
数码
公开课

艺术要闻

敦煌壁画里的“动物世界”,温馨有爱!

《失落星船:马拉松》首发Steam峰值8.8万 不及《命运2》首发表现

转头就晕的耳石症,能开车上班吗?

数码要闻

超越OLED的画质革命:海信UX 2026款为何能成为“时代旗舰”?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版