代码不用上云了：JetBrains开源12B编程智能体，自己电脑就能跑

编程工具巨头 JetBrains 把自研编码模型 Mellum 2.1 完整开源：120亿参数、每个词只激活25亿，Apache 2.0 许可免费商用，代码和数据可以全部留在自己机器上。

一、一个专门解决「代码不敢上云」的模型

大厂模型再能干，很多公司仍有一道过不去的坎：代码是核心资产，一行都不能出内网。云上大模型再强，安全与合规那一关就能把项目直接卡死。JetBrains 这次给出的答案很彻底：把模型本身交给你。

10月8日，JetBrains 在官方博客发布 Mellum 2.1 并同步开源。这是它今年6月开源的 120 亿参数混合专家（MoE）模型 Mellum2 的重大后训练版本：总参数 12B、每个 token 只激活 2.5B，上下文窗口 131072 个 token，权重以Apache 2.0 许可挂在 Hugging Face 上，base、instruct、thinking 三个版本任取，商用零授权费。

Mellum 2.1 官方主视觉：2.5B 激活参数的智能体编程模型（图片来源：JetBrains 官方博客）

二、这次没动架构，动的是训练方法

严格说，Mellum 2.1 的网络结构和上一代一模一样，变化全部发生在预训练之后。最核心的一条：强化学习（RL）从原来「收尾阶段的一小段」，被提升为训练的主体。

为了喂饱这个阶段，JetBrains 自建了一套 RL 基础设施：可以同时运行数千个训练环境，整个训练过程累计启动了数百万个沙盒。任务覆盖数学、竞赛编程、科学、工具调用、软件工程五类；开源数据集先经过严格过滤——坏测试、无法验证的答案、难度失当的任务，统统剔除后才进训练。

效果直接体现在行为上。官方的原话是：Mellum2「快，但在仓库里干不了活」；而 Mellum 2.1 能自己探索代码库、编辑文件、再检查自己的改动——定位一个失败测试的根因、起草修复、验证结果，全程不需要人盯着。

这条路线对行业的启示很直白：智能体能力是练出来的，不是靠堆架构堆出来的。一个 12B 的小模型，靠大规模 RL 后训练，也能干以前要百亿级大模型才干得了的智能体活。

三、成绩单：小模型第一次把修bug能力打上47分

JetBrains 在完全相同的评测设置下，对比了 Mellum2、Qwen3.5-9B 和 Gemma 4 E4B 三款同级开源模型（均为 thinking 版）。

Mellum2.1 与同级开源模型的六项基准对比，青色柱为 Mellum2.1（图片来源：JetBrains 官方博客）

最抓眼的是SWE-bench Verified（真实开源仓库修 bug）：Mellum2.1 拿下47.0，而上一代只有2.0——一口气涨了 45 分。它离 Qwen3.5-9B 的 50.0 只差 3 分，把 Gemma 4 E4B（23.0）甩开一倍多。

SWE-bench Verified 成绩：Mellum2.1 达 47.0，上一代仅 2.0（图片来源：JetBrains 官方博客）

其他几项同样能打：竞赛编程 LiveCodeBench v6 拿82.0，反超 Qwen3.5-9B 的 75.4；工具调用 BFCL v462.3对 58.5；数学 AIME83.3、科学推理 GPQA Diamond64.6、指令遵循 IFEval90.6，相比上一代分别提升 23.2、13.6 和 11.1 分。

LiveCodeBench v6 竞赛编程成绩：Mellum2.1 以 82.0 反超 Qwen3.5-9B（图片来源：JetBrains 官方博客）

基准（thinking 版）

Mellum2.1

上一代 Mellum2

Qwen3.5-9B

SWE-bench Verified（真实仓库修bug）

47.0

2.0

50.0

SWE-bench Pro（更难）

28.0

38.0

LiveCodeBench v6（竞赛编程）

82.0

69.4

75.4

BFCL v4（工具调用）

62.3

49.6

58.5

AIME（数学竞赛）

83.3

60.1

GPQA Diamond（科学推理）

64.6

51.0

IFEval（指令遵循）

90.6

79.5

四、速度账：显存按12B算，算力按2.5B算

MoE 的好处在这类模型上体现得最典型：占多少显存看总参数，跑多快看激活参数。Mellum2.1 只有 2.5B 激活，官方在单张 H200（FP8 精度）上的实测数据相当亮眼。

单张 H200（FP8）速度实测：服务器打满时 8533 token/秒（图片来源：JetBrains 官方博客）

单请求场景，开启多 token 预测（MTP）后输出557 token/秒，是 Qwen3.5-9B（241）的 2.3 倍；服务器打满时吞吐8533 token/秒，接近 Qwen3.5-9B 的两倍，是同组最快。对部署方来说，这意味着一台单卡工作站，就能给整个团队的编码智能体当「干活的子智能体」。

五、怎么跑起来：三档方案对号入座

部署方式

门槛 / 成本

现状

本地 BF16 直跑

约 24GB 显存（单卡）

Hugging Face 已开放下载

量化版 GGUF

按 4-bit 估算约 7GB 级，16GB 显存游戏本可跑

官方称即将推出（llama.cpp / Ollama / LM Studio）

vLLM 服务化

单卡 H200 实测吞吐 8533 token/秒

MTP 推测解码组件即将推出

云上托管 API

官方未提供，想用需自部署

• 现在就能跑：Hugging Face 搜 JetBrains/Mellum2.1，用 vLLM 或 Transformers 起服务，BF16 权重约占 24GB 显存；

• 等等更香：GGUF 量化版和 vLLM 的 MTP 推测解码组件官方称即将推出，量化后 16GB 显存的消费级显卡有望直接装下；

• 想清楚再上：它没有官方托管 API、没有现成定价，想用就得自己运维——这既是门槛，也是「数据不出门」的底气。

选型建议一句话：企业内网编码智能体、隐私敏感的自动化流水线，Mellum2.1 值得进候选；要开箱即用，云上托管大模型仍是默认答案。更现实的玩法是混搭——规划、评审交给云端旗舰，批量执行交给本地小模型，成本直接打下来。

六、冷水也得泼一泼

• 成绩全是官方自测，尚无第三方榜单背书，实际到手里可能打折；

• 越难的任务差距越明显：更难的真实工程题 SWE-bench Pro 上，Mellum2.1 只有 28.0，明显落后 Qwen3.5-9B 的 38.0；

• 部署门槛仍在：BF16 要 24GB 显存，量化版还没放出来，个人玩家还得再等等；

• 定位是执行者，不是主力：别指望它替代旗舰模型做架构设计，它的角色是「快、便宜、可控的干活的」。

七、同期值得关注

• 英伟达被曝洽购 Reflection AI：金融时报10月11日消息，谈判或以「人才兼并」模式绕开反垄断审查，剑指其开放权重模型技术（Beam 10月5日刚发布）；

• 联想天禧 TianxiCode 登顶 SWE-bench-Live：71% 的问题解决率排名全球第一，国产代码智能体框架首次登顶该榜；

• 谷歌发布 AI Edge Foresight：配合 Flutter 与 EmbeddingGemma 2，把多步预测推理整体搬上手机端侧，断网也能连续决策；

• 腾讯元器宣布 11 月 9 日停服：10月29日起停止创建新智能体，给所有依赖大厂 AI 平台的开发者提了个醒——选平台先看数据能不能迁走。

一句话总结今天的趋势：大模型在云上卷价格，小模型在本地卷「能不能干活」。当 47 分的修 bug 能力装进一台单卡工作站，「代码不出门」这件事，第一次有了便宜又体面的答案。