428B参数模型开源，KV缓存从61440砍到34560

周一发的公告，周五才等来真正的产品。MiniMax M3.1 Flash 的开放权重现在挂上了 Hugging Face，同一天早上 vLLM 就放出了 day-0 支持，内核覆盖 NVIDIA Blackwell、NVIDIA Rubin 和 AMD 的 MI350 系列。对自托管的人来说，这两天才算数。

公告日到权重日之间的这段空档，正在变成评估一次模型发布最被低估的技能：分清哪个日期跟你有关，然后在真正的日期到来时手里有一张清单。

今天到底发了什么

M3.1 Flash 是一个原生多模态混合专家模型，总参数约 428B，每 token 激活 23B，接受文本、图像、视频输入，上下文窗口最高 1M token。架构上靠的是 MiniMax 稀疏注意力（MSA）：不是每个 query 都读完整 KV 缓存，而是由一个轻量索引器给历史 key 打分，把分数按 128 token 分块做最大池化，注意力只在得分最高的 16 个块上精确计算。不管上下文多长，每个 query 最多只碰 2,048 个 key。

对服务成本真正有影响的是两个细节：量化感知训练和草稿头。路由的 MoE 专家以 NVFP4 存储，KV 缓存也是 NVFP4 原生，这让检查点从 451.5 GB（M3 的 MXFP8 版本）缩到 250.1 GB，每 token 的 KV 缓存字节数从 FP8 的 61,440 降到 34,560。模型还自带 DSpark 投机解码草稿器，随发布一起给。

跑分方面，MiniMax 自称 DeepSWE v1.1 拿到 73.7%，OSWorld V2 为 61.7，BankerToolBench 为 76.2，CyberGym 为 82.2，API 定价每百万输入 token 0.15 美元、每百万输出 token 0.60 美元。这些先按厂商数字看，等第三方评测落地再说；不过方向与该模型以"Space Bunny"匿名运行时的表现一致，MiniMax 称揭晓前它处理了超过 200 万亿 token。

day-0 支持才是重点

vLLM 那篇帖子我读了两遍。以前 day-0 支持的意思是"模型能加载"，这次是一整套随发布一起交付的专用内核：Blackwell MSA 内核用 CUDA 13.4 的新 QMUL4 指令在核内把 NVFP4 反量化到 FP8（索引器 QK 解码最高快 1.7 倍）；DeepGEMM 的 MegaMoE 做了 NVFP4 扩展并融合 MXFP8 共享专家；索引器解码上下文并行在 4 张 GB300、512K 上下文下让每层稀疏注意力跑快最多 3.3 倍；还有一个融合 QKV+norm+RoPE+KV 插入的内核，在 TP4 下把 P50 首 token 时间压低约 19%。

专门的 Rubin 内核本身就值得注意：为刚到的硬件做优化，而且赶在大多数人拿到卡之前。AMD 那边也是真移植，NVFP4 反量化做成共享内存里一张 2 KB 查找表，再加一个"单体内核"，把每层解码器约 1,170 次内核启动压成一次。

这就是模型与服务栈协同设计的样子，也抬高了"开放权重"的门槛。没有内核的检查点只是研究产物；带三套硬件家族的 day-0 内核、预构建镜像（vllm/vllm-openai:minimax-m31-flash 和 ROCm 变体）以及公开配方的检查点，才是这周末就能挂到端点后面的东西。

先算容量这笔账

vLLM 帖子里有个值得记住的算例：4 张 B300、256K 上下文，M3.1 能塞下 76 个并发序列，而带 FP8 KV 缓存的 M3 是 28 个，同样硬件上并发约为 2.7 倍。同一篇里也有一句诚实的提醒：稀疏注意力限制的是每个 query 读多少，不是缓存存多少。每个 token 的 K 和 V 都常驻，长上下文部署依然是内存受限，NVFP4 只是把墙往后挪了挪。

我的第一个测试不会跑基准套件，而是跑自己的 agent 轨迹：一次真实的编码 agent 会话，带工具调用、长文件读取和重试，分别打 API 和自托管端点，比每用户 token 吞吐和每个完成任务的总成本。公开的 AgentX 数字（GB300 上延迟敏感端每用户 418.9 tok/s，Rubin 上 724.9，MI355X 上每美元 TCO 133.3M token）是基准框架上的合成接受长度数字，当天花板看可以，当预算看不行。

还有两点实操提醒。模型现在在预构建镜像里，但 nightly 的 PyPI wheel 还在等上游审核，vLLM 团队说通常要一周左右，要基于它搭东西就先钉住镜像 tag。如果做微调，day-0 的 RL 支持（veRL、FSDP2、在 NVFP4 检查点上做 LoRA）意味着训练器量化基模型的方式和引擎服务它的方式完全一致，能消掉一整类训练/服务偏差的 bug。

更大的那个模式

湾区 AI 基础设施的扩建一直假设推理需求会无边界增长，这类发布就是假设持续成立的原因：每一分效率提升都会被更长的上下文和更多 agent 负载吃掉。KV 缓存版的杰文斯悖论。

这次发布对我更持久的教训是流程性的。周一是公告，周五是发布。从开放模型里拿到价值的团队，都是手里有"权重日清单"的：核对检查点页面，先读服务栈的帖子再看厂商博客，确认你的硬件有没有对应内核，钉住镜像，在 CFO 把"便宜 70%"写进规划文档之前先跑自己的轨迹。M3.1 Flash 纸面上确实强，周五才是纸面变成基础设施的时候。