北京
凌晨设好任务，清点API配额，然后睡觉。这是程序员的经典操作——把脏活累活扔给云端代理，醒来收结果。但那天我醒来时，终端冻住了。远程服务半夜宕机，任务停在第10分钟。五十页文档的抓取、交叉验证、结构化汇总，几乎还没开始。
模型没崩，智能也没问题。问题是我建在别人地基上：服务会断，配额会光，而我无从预知哪个先来。
本地模型我一直在玩。训练、测试、喜欢，但从不信任。复杂任务需要太多 babysitting，只能归到"有趣"的文件夹。那个冻住的终端，把它挪到了另一个位置。
闭源巨头与开源世界的鸿沟曾是 canyon。GPT、Claude、Gemini 这些"神级模型"几乎能推理一切，但你得按它们的规则玩。想要真智能？订阅、接受条款、承担宕机风险。
这道峡谷正在收窄。DeepSeek V4、Kimi K2.6、GLM-5.1 等开源权重模型证明高端推理正在商品化。但问题是重量——除非你有服务器农场或昂贵机架，否则部署这种规模的模型是后勤噩梦。远观可以，动手太难。
然后甜点出现了：Gemma 4 31B 和 Qwen 3.6 27B。
数学变了。它们不如万亿参数巨头聪明，但能装下——装进消费级GPU，离线运行，电费之外零成本。
但我认为本地模型的目标不是跟云端比智商。复杂任务的高价值迭代，你仍需要最强火力，那是冲刺。可如果任务不是冲刺呢？如果需要模型连续工作六小时？爬一百页、试五十条推理路径、失败、转向、继续磨直到完成？
马拉松里，耐力比聪明更重要。本地设置的核心优势不只是隐私或成本，而是可控的持续性。它不睡觉，不宕机，不因我的配额用完而中途离场。
Gemma 4 加上多令牌预测（MTP），正是这种场景的引擎。不是最聪明的，但是能跑完的。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
