英伟达开源Nemotron 3.5 Super VL：120B只激活12B、吞吐号称5倍，"始终在线"Agent的执行层要换人了？

英伟达 10 月 15 日开源 Nemotron 3.5 Super VL——1200 亿总参数、每 token 只激活 120 亿的混合 Mamba-2 + Transformer MoE 多模态模型，单卡可跑，官方宣称吞吐最高达同级开源模型 5 倍。配套的 Bolt 系列直接把 Agent 塞进 24GB 笔记本。

15日，英伟达一口气放出三个开源模型，生态的配合快得像排练过：vLLM 当天零日支持，Perplexity 直接把它摆到 Pro/Max 订阅用户面前，Red Hat 当天给出 FP8 和投机解码 checkpoint，Hugging Face 两位联创亲自转发站台。

主角是Nemotron 3.5 Super VL：120B 总参数、12B 激活的 MoE，Hybrid Mamba-2 与 Transformer 混合架构，外挂 C-RADIO 视觉编码器，图像、多页文档、GUI 截图、两分钟以内的视频都能读，上下文拉到 100 万 token。权重、数据集、训练配方全部以 OpenMDW-1.1 许可公开，商用免费。

两个配角瞄准边缘：Bolt 74B-A9B 用原生 2-bit 权重压进 24GB 显存，为 10 月 16 日到货的 RTX Spark 笔记本准备；4GB 的 Bolt E4B 排在 10 月 23 日，给语音助手和 Jetson 嵌入式用。

"5 倍吞吐"是怎么凑出来的

这是官方口径，需要打折看，但打折之前先拆开看刀法——它没在单一环节硬卷，而是把推理链路的每一层都削了一遍：

两条值得单独说。前缀缓存这一条精准命中Agent 场景的痛点：智能体每一轮都要重发系统提示、工具定义和历史记录，Super VL 连 Mamba 的 recurrent state 都一起缓存，共享前缀零重算。NVFP4 量化则用了量化感知蒸馏——训练 4-bit 模型去对齐 BF16 原版的输出，精度损失补回来，推理零额外开销；同一个 checkpoint 在 Blackwell 上跑 4-bit 激活，在老卡上退到 W4A16。

训练侧，Super VL 从 550B 的 Nemotron 3 Ultra 蒸馏而来，用多教师 on-policy 蒸馏（MOPD）让不同专长的教师模型给学生的回答打分。预训练语料 26 万亿 token，其中和印度理工马德拉斯分校共建的印地语系数据集就有 2.8 万亿——新兴市场这条线，只有一家媒体挖到了。

记分牌是混合的，官方自己也藏不住

官方数字漂亮：GPQA-Diamond 89.90，SWE-bench Verified 71.07，BrowseComp 77.5；在 Hermes Bench 和 LangChain 评测上反超参数量 4.6 倍的自家 Ultra。Baseten 端点上 Artificial Analysis 的 Agent 任务实测输出超过 600 token/s。

但第三方很快把另一面翻了出来：按英伟达自己的模型卡，Super VL 在多数 Agent 测试上赢 Qwen3.5-122B，编码和浏览却落后 GLM-5.3-Flash 和 DeepSeek V4 Flash；tau3-bench 银行业务长程任务只拿到 17.78，短板明显。"5 倍吞吐"的限定词也写得很清楚——同级别开源模型、特定单卡 Agent 负载，独立复测还没跟上。

真正的定位：Agent 的"执行层"

Super VL 的官方标签是"always-on agents"。这个词背后是英伟达今年 8 月 Lightning 发布时就摊牌的分层思路：长时间运行的智能体，大部分时间花在工具调用、结果验证、子任务分派这类高频定型动作上，每一步都动用前沿大模型，成本和延迟都会失控。规划交给 Ultra 或闭源旗舰，跑量交给 Super VL、Lightning 这类小激活模型——配套的 NeMo Switchyard 路由器负责每轮自动分活，官方数据称能比单用旗舰省下约三分之二成本。

这套"分层 Agent 栈"直接冲着 DeepSeek、Qwen、GLM 主导的开源 Agent 生态来的：你有便宜的旗舰，我卖给你一整套"旗舰规划 + 廉价执行 + 路由调度"的流水线，而且每一环都默认跑在英伟达硬件上。开源模型是饵，DGX Spark、RTX Spark、Blackwell 才是钩。

公开资料能确认的边界：5 倍吞吐为厂商自测，编码能力被国产开源 Flash 系压一头，Bolt 的 24GB 实机表现要等 10 月 16 日笔记本到货后验证。

英伟达又一次证明了它最擅长的打法：当别人在卷模型排行榜时，它在卖整条流水线。