网易首页 > 网易号 > 正文 申请入驻

小米发布新模型MiMo-V2-Flash:媲美 DeepSeek-V3.2

0
分享至

DoNews12月17日消息,据APPSO报道,刚刚,小米正式发布并开源新模型 MiMo-V2-Flash。MiMo-V2-Flash 总参数 3090 亿,活跃参数 150 亿,采用专家混合架构 (MoE),性能还能和 DeepSeek-V3.2、Kimi-K2 这些头部开源模型掰掰手腕。

此外,MiMo-V2-Flash 采用 MIT 开源协议,基础版权重也已经在 Hugging Face 上发布。除去「开源」这一标签,新模型真正的杀手锏在于架构设计上的激进创新,把推理速度拉到了 150 tokens/秒,成本压到了每百万 token 输入 0.1 美元、输出 0.3 美元,主打一个超绝性价比。

根据官方体验页面信息,MiMo-V2-Flash 还支持深度思考和联网搜索功能,既能对话聊天,也能在需要实时数据、最新动态或资料核对的场景里派上用场。

基准测试成绩显示,AIME 2025 数学竞赛和 GPQA-Diamond 科学知识测试中,MiMo-V2-Flash 都排在开源模型前两名。编程能力更是亮眼,SWE-bench Verified 得分 73.4%,超越所有开源模型,直逼 GPT-5-High。而这个测试是让 AI 去修真实世界的软件 bug,73.4% 的成功率也意味着它能搞定大部分实际编程问题。

在多语言编程基准测试 SWE-Bench Multilingual 里,MiMo-V2-Flash 的解决率为 71.7%。转看智能体任务,MiMo-V2-Flash 在τ²-Bench 分类得分中,通信类 95.3 分,零售类 79.5 分,航空类 66.0 分,BrowseComp 搜索代理得分 45.4,启用上下文管理后直接飙到 58.3。

这些数据说明,MiMo-V2-Flash 不仅会写代码,还能真正理解复杂任务逻辑,执行多轮智能体交互。

更重要的是,写作质量也接近顶级闭源模型,这意味着 MiMo-V2-Flash 不只是个工具,还能当个靠谱的日常助手。

MiMo-V2-Flash 在保持长文本性能的同时,还降低了成本,究其原因,离不开两项核心技术创新。

混合滑动窗口注意力机制:传统大模型处理长文本时,全局注意力机制会导致计算量二次爆炸,存储中间结果的 KV 缓存也跟着飙升。

小米这次采用了 5 比 1 的激进比例,5 层滑动窗口注意力搭配 1 层全局注意力交替使用,滑动窗口只看 128 个 token。

这种设计让 KV 缓存存储量直接减少了近 6 倍,但长文本能力却没打折扣,最长支持 256k 上下文窗口。

且模型即使在这么激进的窗口设置下,照样能稳住长文本性能。

对此,罗福莉在社交平台上特别指出一个反直觉的发现:窗口大小 128 是「最佳甜点值」。实验证明,盲目扩大窗口(如增至 512)反而会导致性能下降。同时她强调,在实施该机制时,sink values 是维持性能的关键,绝不可省略。

另一个黑科技是轻量级多 Token 预测 (MTP)。

传统模型生成文本时一次只能吐一个 token,就像打字员一个字一个字敲。MiMo-V2-Flash 通过原生集成的 MTP 模块,能并行预测多个 token,一次性猜出接下来好几个 token。

实测平均能接受 2.8 到 3.6 个 token,推理速度直接提升 2 到 2.6 倍,不仅在推理时管用,训练阶段也能加速采样,减少 GPU 空转,属于一箭双雕。

罗福莉提到,在三层 MTP 设置下,他们观察到平均接受长度超过 3,编码任务速度提升约 2.5 倍。它有效解决了小批量 On-Policy 强化学习中「长尾样本」带来的 GPU 空闲时间浪费问题。

啥叫长尾样本?就是那些特别难、特别慢的任务,拖着其他任务一起等,GPU 就在那干瞪眼。MTP 把这个问题给解了,极大提高了效率。

不过罗福莉也坦诚,这次因为时间紧迫没能把 MTP 完整集成进 RL 训练循环,但它与该流程高度契合。小米已经把三层 MTP 开源了,方便大家在自己的项目中使用与开发。

算力只用 1/50,性能如何不打折?

预训练阶段,新模型使用 FP8 混合精度,在 27 万亿 token 数据上完成训练,原生支持 32k 序列长度。

FP8 混合精度是一种压缩数值表示的技术,能在保持精度的同时减少显存占用和加速训练。这种训练方式在业界并不常见,需要对底层框架进行深度优化。

而在后训练阶段,小米整了个大活,提出了多教师在线策略蒸馏 (MOPD)。

传统的监督微调加强化学习管线,不仅训练不稳定,算力消耗还贼高。MOPD 的思路是让学生模型在自己的策略分布上采样,然后由多个专家教师在每个 token 位置提供密集的奖励信号。

MOPD Architecture Diagram

通俗点说就是,学生模型自己写作业,老师在每个字上都给评分,不用等写完整篇才打分。这样一来,学生模型能快速从教师那里学到精髓,而且训练过程稳定得多。

最夸张的是效率提升,MOPD 只需要传统方法 1/50 的算力,就能让学生模型达到教师性能峰值。这意味着小米能用更少的资源,更快地迭代模型。

而且 MOPD 支持灵活接入新教师,学生模型成长后还能反过来当教师,形成「教与学」的闭环自我进化。今天的学生,明天的老师,后天又能教出更强的学生,套娃玩法属实有点东西。

用罗福莉的话来说,他们借鉴 Thinking Machine 的 On-Policy Distillation 方法,将多个强化学习模型进行融合,结果带来了惊人的效率提升。这为构建一个自我强化循环系统奠定了基础,学生模型可以逐步进化,最终成为更强的教师模型。

On-Policy Distillation - Thinking Machines Lab

在智能体强化学习扩展上,小米 MiMo-V2-Flash 研究团队基于真实 GitHub issue 构建了超过 10 万个可验证任务,自动化流水线跑在 Kubernetes 集群上,并发能开 10000 多个 Pod,环境部署成功率 70%。

针对网页开发任务,还专门搞了个多模态验证器,通过录制视频而非静态截图来验证代码执行结果,直接减少视觉幻觉,确保功能正确。

对于开发者而言,MiMo-V2-Flash 能与 Claude Code、Cursor、Cline 等主流开发环境无缝配合,256k 的超长上下文窗口支持数百轮智能体交互与工具调用。

256k 是什么概念? 大概相当于一本中等篇幅的小说,或者几十页技术文档。这意味着开发者可以把 MiMo-V2-Flash 直接融入现有工作流,不需要额外适配,拿来就用。

小米还把所有推理代码贡献给了 SGLang,并在 LMSYS 博客分享了推理优化经验。

技术报告公开了完整模型细节,模型权重 (包括 MiMo-V2-Flash-Base) 在 Hugging Face 上以 MIT 许可协议发布。这种全面开源的态度,在国内大厂里属实少见。

目前 MiMo-V2-Flash 已经在 API Platform 限时免费开放,开发者可以直接上手体验。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1699元 !小米新品正式上新

1699元 !小米新品正式上新

科技堡垒
2026-07-26 11:42:32
Coco现状:定居上海洋房花园,财务自由,谢贤已为她安排好后半生

Coco现状:定居上海洋房花园,财务自由,谢贤已为她安排好后半生

小嵩
2026-07-25 18:08:47
王虹不该被非议

王虹不该被非议

哲空空
2026-07-26 16:27:23
日本牛郎曾年收入3亿,如今41岁月薪仅8万!欠债1个亿,他却说自己很幸福…

日本牛郎曾年收入3亿,如今41岁月薪仅8万!欠债1个亿,他却说自己很幸福…

东京新青年
2026-07-26 18:08:04
“95花”演古偶,也开始被嫌弃了?

“95花”演古偶,也开始被嫌弃了?

深度文娱
2026-07-26 00:17:34
甘肃一景区山洪已致10死23伤,为何伤亡这么大?谁该为这起悲剧负责?

甘肃一景区山洪已致10死23伤,为何伤亡这么大?谁该为这起悲剧负责?

之乎者也小鱼儿
2026-07-27 10:25:51
55万打水漂!追梦格林直播破防:我掏心掏肺,却被詹姆斯当傻子耍

55万打水漂!追梦格林直播破防:我掏心掏肺,却被詹姆斯当傻子耍

小徐讲八卦
2026-07-26 10:16:34
黄百鸣跌落神坛,才让人看懂周星驰当年800万片酬,从不是贪财

黄百鸣跌落神坛,才让人看懂周星驰当年800万片酬,从不是贪财

喜欢历史的阿繁
2026-07-27 02:41:26
人活多少岁最合适:一、41岁走,算短命;二、50 岁离去,还是偏早;三、60 岁辞世,留有遗憾......

人活多少岁最合适:一、41岁走,算短命;二、50 岁离去,还是偏早;三、60 岁辞世,留有遗憾......

品读时刻
2026-07-10 09:07:05
ICC首席检察官被罢免,杜特尔特案风向变,马科斯外援断

ICC首席检察官被罢免,杜特尔特案风向变,马科斯外援断

热点风采
2026-07-27 09:39:50
两性关系:70岁后分房睡的夫妻,大都逃不过这3个扎心真相!

两性关系:70岁后分房睡的夫妻,大都逃不过这3个扎心真相!

小影的娱乐
2026-07-27 07:06:08
马斯克直言不讳:旧世界只剩5年,中国手握唯一的王牌,早已不是芯片

马斯克直言不讳:旧世界只剩5年,中国手握唯一的王牌,早已不是芯片

粤语音乐喷泉
2026-07-24 12:29:38
韦太后被俘虏时正风韵犹存,在金国待了15年,金国士兵怎能放过她

韦太后被俘虏时正风韵犹存,在金国待了15年,金国士兵怎能放过她

明月清风阁
2026-07-25 15:50:13
三伏天开空调,只按“制冷”是大错!难怪费电又伤身

三伏天开空调,只按“制冷”是大错!难怪费电又伤身

小柱解说游戏
2026-07-27 02:00:59
“我要长成这样,此生无憾了”,女生讲课照走红,神似小说女主角

“我要长成这样,此生无憾了”,女生讲课照走红,神似小说女主角

泽泽先生
2026-07-26 15:08:37
13号台风或在1天后生成,12号台风携巨量水上岸,暴雨大暴雨升级

13号台风或在1天后生成,12号台风携巨量水上岸,暴雨大暴雨升级

老牛讲
2026-07-26 11:59:28
“摸奶子”再惹争议,OPPO的流量反噬开始了

“摸奶子”再惹争议,OPPO的流量反噬开始了

品牌头版
2026-05-13 10:18:15
动卧骗局曝光!和普速卧铺一模一样,竖着睡的车次寥寥无几

动卧骗局曝光!和普速卧铺一模一样,竖着睡的车次寥寥无几

小鹿姐姐情感说
2026-07-26 17:03:48
暴涨9000%!俞敏洪一夜大翻身!

暴涨9000%!俞敏洪一夜大翻身!

财经要参
2026-07-27 07:18:11
“牡丹花下死,做鬼也风流”!如今,谁也救不了色欲熏心的宋小宝

“牡丹花下死,做鬼也风流”!如今,谁也救不了色欲熏心的宋小宝

羽逸地之光
2026-07-10 09:28:57
2026-07-27 11:24:49
DoNews incentive-icons
DoNews
不局限于对互联网行业的追踪与探索,更要向未来、向未知的方向迈进。
108232文章数 26893关注度
往期回顾 全部

科技要闻

长鑫市值登顶A股,盘中市值约等于2个茅台

头条要闻

长鑫科技老员工:上市和普通员工关系不大 更关心工资

头条要闻

长鑫科技老员工:上市和普通员工关系不大 更关心工资

体育要闻

詹姆斯的最后一集,依旧最艰难的路?

娱乐要闻

佟丽娅离婚不离家,绝非恋爱脑

财经要闻

不肯裁员的善人:西安商人严鹏之死

汽车要闻

轿跑姿态+大空间/标配655km续航 奇瑞风云A9置换价10.68万起

态度原创

艺术
时尚
手机
本地
房产

艺术要闻

739米!深圳差点就拥有“中国第一高楼”

从小萌娃变大女王,她就是“天选之女”吧

手机要闻

游戏手机必备 骁龙8E6 Pro独占1440P超分超帧

本地新闻

跟着影视去旅行:西游篇

房产要闻

37人抢1套房…海棠湾资产拍卖,爆了!

无障碍浏览 进入关怀版