先说结论,省得你白激动: 如果你用的是 8GB 显存的卡,Qwen3.6 这两个开源权重你一个都跑不动。
我知道这话有点扫兴。前几天群里、后台都在刷 Qwen3.6,一堆人问"是不是该冲了"。我把两个权重都拉下来实际跑了一圈,越跑越清楚——升级是真升级,但这次的门槛也是真门槛。所以这篇我分两半写:前半讲 Qwen3.6 到底升级了什么、值不值得关注;后半讲 8GB 卡的现实处境,以及你该退回哪个平替。
一、Qwen3.6 这次开源了什么
Qwen3.6 一次放出两个权重,定位完全不同,别搞混:
权重
类型
激活参数
特点
qwen3.6:27b
dense(稠密)
全参激活
编程 / 代码质量更高
qwen3.6:35b-a3b
MoE(混合专家)
约 3B 激活
推理速度快
两个都是 256K 原生上下文 ,这一点延续了之前写过的长上下文那条线——窗口够大不是新鲜事了,Qwen 全系这两代都站稳了 256K。
拉取命令很直接:
# 默认拉 27b dense
ollama pull qwen3.6# 拉 MoE 版,指定量化
ollama pull qwen3.6:35b-a3b
升级点我只讲定性的,不给你编 benchmark 分数 (那种"编程 +12.7%"的数字我核不到就不写)。社区和官方口径一致的方向是: 编程能力、agentic(工具调用 / 自主执行)、仓库级代码推理这三块比上一代明显更强 。27b dense 在纯代码质量上更稳,35b-a3b 靠 MoE 换来更快的吞吐——这是这次两个权重分工的核心逻辑。
二、35B-A3B 的 "A3B" 是个大坑,先讲清楚
很多人看到 "35b-a3b,只激活 3B",脑子里立刻算出一个错误的账:
"才激活 3B?那不就跟个 3B 小模型差不多,我 8GB 稳稳的?"
这是这次最容易踩的误区。
MoE 的"激活 3B"指的是 每次前向计算只走一部分专家 ,所以 算得快、吞吐高 。但—— 全部专家的权重仍然要完整装进显存 。35b-a3b 装载时占的是 ≈35B 量级的体积 ,不是 3B。
换句话说: 它省的是算力,不是显存。 你显存里得先把整整一屋子专家都请进来,只是每次干活只叫其中几个。
看体积就明白了(量级,随量化实现略有出入):
权重
量化
体积(量级)
qwen3.6:35b-a3b
Q4_K_M
约 23-24GB
qwen3.6:27b
Q4
约 17GB
qwen3.6:27b
Q8
约 30GB
qwen3.6:27b
bf16
约 56GB
三、8GB 卡的现实:这次真别碰
把上面的体积和 8GB 显存放一起,账一目了然:
35b-a3b(Q4_K_M) :光权重就 21-24GB 量级,纯显存跑得要 24GB 显存卡 (4090 / 3090 那一档),或者靠 CPU 卸载硬撑(速度会很难看)。
27b(Q4) :约 17GB,最低也得 16GB+ 的卡 才谈得上纯显存。
8GB?两个都进不去。别说满上下文了,光把权重塞进去这一步就过不了。硬用 CPU 卸载不是不能启动,但那速度 因硬件而异,慢到基本不实用 ——这不是"忍一忍"的问题,是体验直接崩掉。
所以对 8GB 用户,我的结论就一句话: Qwen3.6 目前不是你的菜,先别浪费带宽去 pull。
四、8GB 该退回哪:平替就是 qwen3.5:9b
好消息是,退路早就铺好了——就是之前写过的那个 Qwen 平替主力:
体积约 6.6GB ,8GB 显存 纯显存 就能装下,不用 CPU 卸载;
同样是 256K 原生上下文 ,长文档那套玩法一点不缺;
日常问答、写代码、长文总结,8GB 卡上它就是当前的稳态主力。
对照一下就清楚谁适合你:
需求
选谁
最低显存(量级)
8GB 纯显存主力
qwen3.5:9b
8GB ✅
更强代码 / agentic,有 16GB 卡
qwen3.6:27b
(Q4)
16GB+
极速 MoE,有 24GB 卡
qwen3.6:35b-a3b
(Q4)
24GB
不用为了追新硬冲。8GB 的甜区还在 9B 这一档,等你哪天换了 16GB+ 的卡,再回来碰 Qwen3.6 也不迟。
五、两个必须提醒的坑
坑 1:Qwen3.6 的多模态(看图)在 Ollama 上目前用不了
这个坑我踩了才知道。Qwen3.6 本身是有视觉能力的,但 它的视觉权重(mmproj)在 Ollama 的 GGUF 流程里目前没接上 。结果就是:
纯文本推理:正常。
发图片让它看:用不了 (多模态这条路在 Ollama 上暂时是断的)。
如果你就是要在本地"看图",别指望 Qwen3.6,直接上专门的视觉权重:
这个是能正常看图的,8GB 场景也有得玩。
坑 2:别去 pull qwen3.7
我看到有人已经在群里问"3.7 是不是也开源了,怎么拉"。 Ollama 上没有 qwen3.7 ——它目前只有 API 形态,本地库里不存在。你去 pull 只会得到一句 model not found :
别浪费时间,也别以为是自己网络出问题。想本地跑,认准 qwen3.6 和 qwen3.5 这两代就行。
六、行动建议
8GB 卡用户 :这次直接跳过 Qwen3.6,继续用
qwen3.5:9b有 16GB 卡 :可以上
qwen3.6:27b有 24GB 卡 :
qwen3.6:35b-a3b要本地看图的 :Qwen3.6 的多模态在 Ollama 上暂时用不了,改用
qwen3-vl:8b别做的事 :别 pull
qwen3.7(Ollama 没有);别被 "a3b 只激活 3B" 骗着以为 8GB 能装。
Qwen3.6 这次最亮的其实是 agentic 和仓库级代码能力。光有强模型还不够,得有个会自己动手的壳子把它用起来。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.