网易首页 > 网易号 > 正文 申请入驻

ollama v0.20.0 更新:Gemma 4 全家桶发布,音频、视觉、MoE、BPE 支持全面升级

0
分享至

2026年4月3日,ollama 发布了v0.20.0版本。
这次更新的核心非常明确:Gemma 4 正式加入支持,并且围绕模型推理、音频能力、Tokenizer、视觉测试、转换器、OpenAI 音频接口等多个方向进行了集中增强。

如果你关注本次更新,可以直接从两个关键词理解:

  • •Gemma 4

  • •音频与推理能力升级

下面按照本次版本更新内容,逐项整理成一篇完整的技术更新说明。

一、Gemma 4 正式加入支持

本次 v0.20.0 最重要的变化,就是Gemma 4相关支持的加入。
更新中给出了多个可直接运行的模型规格:

1)Effective 2B(E2B)

运行命令:

ollama run gemma4:e2b

这是 Gemma 4 的有效 2B 版本,适合轻量场景使用。

2)Effective 4B(E4B)

运行命令:

ollama run gemma4:e4b

这是 Gemma 4 的有效 4B 版本,在能力和资源消耗之间做了更平衡的选择。

3)26B(Mixture of Experts model with 4B active parameters)

运行命令:

ollama run gemma4:26b

这是一个MoE(Mixture of Experts)模型,描述中说明其4B active parameters。

4)31B(Dense)

运行命令:

ollama run gemma4:31b

这是 Gemma 4 的31B Dense版本,属于更大规模的稠密模型。

从这次发布的信息来看,Gemma 4 已经形成了较完整的规格覆盖,从轻量到大模型都提供了支持方式,用户可以按资源和场景选择对应版本。

二、What's Changed:本次更新涉及的关键内容

本次版本的更新记录非常集中,主要围绕 Gemma 4、音频、Tokenizer、文档、推理与测试展开。下面逐条梳理。

三、文档更新

首先是文档相关更新:

  • •docs: update pi docs

这说明本次版本中对 pi 相关文档进行了更新。
虽然内容本身不多,但说明文档层面同步跟进了新版本变化,方便用户查阅和使用。

四、Tokenizer 增强:支持 SentencePiece-style BPE

本次更新中有一个非常关键的底层能力变化:

  • •tokenizer: add SentencePiece-style BPE support

这表示 Tokenizer 新增了SentencePiece 风格的 BPE 支持。
这一变化对于模型适配和分词处理非常重要,尤其是在处理不同模型格式与分词规则时,可以提升兼容性。

与此同时,后续也有与 tokenizer 相关的配套修复:

  • •mlx: respect tokenizer add_bos_token setting in pipeline

这个改动说明在 pipeline 中会尊重 tokenizer 的add_bos_token设置。
换句话说,Tokenizer 的行为会更贴合配置,避免在处理输入时出现不一致情况。

五、Gemma 4 的模型支持与转换器更新 1)Gemma 4 GGML 模型支持

更新中明确写到:

  • •gemma4: add Gemma 4 GGML model support

这表示 Gemma 4 的 GGML 模型支持已经加入。

2)转换器更新:适配新的 weight drop 命名

  • •gemma4: update converter for new weight drop naming

这说明 Gemma 4 相关转换器已经根据新的 weight drop 命名进行了更新。
这是模型转换流程中非常关键的一环,确保新版本模型文件命名和导入过程能够顺利对接。

六、音频能力大幅增强

这次 v0.20.0 在音频方向的变化非常密集,可以说是重点之一。

1)添加音频支持,使用 USM conformer encoder

更新内容:

  • •gemma4: add audio support with USM conformer encoder

这表明 Gemma 4 新增了音频支持,并且使用的是USM conformer encoder。

2)OpenAI 音频 API 支持与能力检测

更新内容:

  • •gemma4: add OpenAI audio API support and capability detection

这说明本次版本已经加入了OpenAI 音频 API 支持,并且还包含capability detection,也就是能力检测机制。

3)音频输入支持

更新内容:

  • •gemma4: add audio input support for run command

这意味着在 run 命令中已经支持音频输入。

4)新增转写命令

更新内容:

  • •gemma4: add transcribe command (ollama transcribe MODEL)

这次新增了一个转写命令:

ollama transcribe MODEL

这对于音频转文字场景非常直接,命令形式也很清晰。

5)增加 OpenAI 音频转写 API 和 input_audio 支持

更新内容:

  • •gemma4: add OpenAI audio transcription API and input_audio support

这进一步完善了音频能力,不仅是输入和转写,还补充了与 OpenAI 音频转写 API 相关的支持,以及 input_audio 能力。

6)音频输入改为 dropped file attachments

更新内容:

  • •cmd: simplify audio input to dropped file attachments

这说明音频输入在命令层面被简化为dropped file attachments,使用方式更直接。

从这一组更新可以看出,v0.20.0 在音频方向完成了从输入、转写、API 到命令行体验的一整套补强。

七、Gemma 4 解析、渲染与集成测试支持

本次更新还有一组围绕 Gemma 4 的基础设施改进:

  • •gemma4: add parser, renderer, and integration test plumbing

这说明已经加入了parser、renderer、integration test plumbing。
也就是说,Gemma 4 在解析、渲染以及集成测试方面的配套设施已经补上。

1)渲染器修复:输出 BOS token

  • •gemma4: fix renderer to emit BOS token

这是一个非常具体的修复,说明 renderer 现在会正确输出BOS token。

2)渲染器重写:与 HF Jinja2 模板完全一致

  • •gemma4: rewrite renderer to match HF Jinja2 template exactly

这说明渲染器被重写,以确保与 HF Jinja2 模板保持完全一致。

这个变化通常意味着模型输入模板的行为会更加标准化,减少模板差异带来的结果偏差。

八、MoE 相关增强与修复

Gemma 4 的 26B 版本是 MoE 模型,因此 MoE 相关改动非常关键。

1)为 MoE router 增加 per_expert_scale,并修复 moe_intermediate 问题

更新内容:

  • •gemma4: add per_expert_scale to MoE router and fix moe_intermediate_s…

虽然后半部分在记录中被截断,但已经明确看到两个重点:

  • • 为 MoE router 增加per_expert_scale

  • • 修复moe_intermediate_s...相关问题

2)修复 MoE fused gate_up split 和 multiline tool-call arg parsing

更新内容:

  • •gemma4: fix MoE fused gate_up split and multiline tool-call arg parsing

这说明本次对 MoE 的 fused gate_up split 做了修复,同时还修复了multiline tool-call arg parsing。

3)MoE block 字段对齐格式调整

更新内容:

  • •Format Gemma4 MoE block field alignment

这是一个格式层面的整理,说明 Gemma4 MoE block 的字段对齐做了统一和规范化。

从这些信息可以看出,Gemma 4 的 MoE 版本在结构、解析、格式与计算路径方面都做了较完整的修复和优化。

九、视觉测试与 thinking 测试增强

更新中还有测试相关增强:

  • •integration: improve vision test robustness and add thinking tests

这表示集成测试进一步增强了视觉测试的稳定性,同时新增了 thinking tests。
从结果上看,这类更新主要是为了提升整体验证能力,让新版本在视觉相关场景和推理相关场景下更加可靠。

十、Gemma 4 音频测试与 OpenAI API 覆盖

音频相关不仅有能力支持,也同步加入了测试覆盖:

  • •integration: add gemma4 audio tests including OpenAI API coverage

这说明本次版本已经加入了 Gemma 4 音频测试,并且包括 OpenAI API 的覆盖。
这和前面音频能力的增强是相互呼应的,说明该版本并不是只做了功能接入,也同步补齐了对应验证。

十一、Gemma 4 视觉模型注释与字段格式调整

更新记录中还有一些针对模型结构和代码可读性的整理:

  • •Remove redundant comments in gemma4 vision model

  • •Format Gemma4 MoE block field alignment

前者表示移除了 Gemma 4 视觉模型中的冗余注释。
后者则对 Gemma4 MoE block 的字段对齐格式进行了调整。

这类更新虽然看起来偏细节,但对于代码维护、结构统一和后续协作非常重要。

十二、内存缓存与推理缓存优化

本次更新里还有一项和缓存相关的改动:

  • •use 4096 kvcache.NewSWAMemCache

  • •gemma4: use full SWA memory for better cache reuse

这说明缓存机制做了调整:

  • • 使用了4096 kvcache.NewSWAMemCache

  • • 同时使用full SWA memory来获得更好的 cache reuse

这类优化通常和推理效率、上下文缓存复用体验有关,是底层能力增强的一部分。

十三、Gemma 4 clamps 初始化与后端加载修复

更新记录中还有:

  • •gemma4: initialize clamps after backend load

这表示 clamps 的初始化时机调整到了 backend load 之后。
从描述来看,这是一个初始化顺序上的修复,用于保证加载流程更稳定。

十四、Gemma 4 GGML 改进合并

更新记录最后还有一个重要的合并信息:

  • •Merge pull request from gemma4-ggml-improvements

这说明本次版本把 Gemma 4 的 GGML 改进进行了合并,和前面提到的 GGML model support、converter 更新等内容形成闭环。

十五、本次 v0.20.0 更新总结

整体来看,ollama v0.20.0 这次更新可以概括为几个核心方向:

  1. 1.Gemma 4 正式上线

  • • 提供了 E2B、E4B、26B、31B 多种规格

  • • 支持 GGML 模型

2.音频能力全面增强

  • • 支持音频输入

  • • 新增转写命令

  • • 增加 OpenAI 音频 API 与 transcription API 支持

  • • 支持 input_audio

  • • 简化音频输入方式

3.Tokenizer 和模板能力增强

  • • 增加 SentencePiece-style BPE 支持

  • • pipeline 尊重 add_bos_token

  • • renderer 重写并修复 BOS token 输出

4.MoE 与推理路径优化

  • • 增加 per_expert_scale

  • • 修复 MoE 相关问题

  • • 调整字段格式和分裂逻辑

  • • 改进缓存复用

5.测试与工程能力增强

  • • 视觉测试稳定性提升

  • • 新增 thinking tests

  • • 补充 Gemma 4 音频测试与 OpenAI API 覆盖


我们相信人工智能为普通人提供了一种“增强工具”,并致力于分享全方位的AI知识。在这里,您可以找到最新的AI科普文章、工具评测、提升效率的秘籍以及行业洞察。 欢迎关注“福大大架构师每日一题”,发消息可获得面试资料,让AI助力您的未来发展。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
郁亮,出事了!

郁亮,出事了!

大佬灼见
2026-09-17 09:18:35
形势严重!这5个行业,工资都发不下来了!

形势严重!这5个行业,工资都发不下来了!

职场资深秘书
2026-10-11 11:17:52
俄方寸步不让:天然气管道非得取道蒙古进入中国

俄方寸步不让:天然气管道非得取道蒙古进入中国

果妈聊娱乐
2026-10-01 16:13:46
俄罗斯“鼠疫”疑云

俄罗斯“鼠疫”疑云

看看新闻Knews
2026-10-14 00:55:07
宅基地大局已定?明后年,有两块以上农村宅基地的人,坚持4不做

宅基地大局已定?明后年,有两块以上农村宅基地的人,坚持4不做

找回密码
2026-10-13 10:20:01
凭什么一美元可以换我们七块人民币?

凭什么一美元可以换我们七块人民币?

流苏晚晴
2026-09-18 14:26:20
胡塞武装,凭什么这么难打?因为坚决不建国,因为借鉴中国游击战

胡塞武装,凭什么这么难打?因为坚决不建国,因为借鉴中国游击战

烈史
2026-09-24 10:27:55
前准儿媳当大使后卷入利益交换丑闻,特朗普大怒考虑将其免职

前准儿媳当大使后卷入利益交换丑闻,特朗普大怒考虑将其免职

澎湃新闻
2026-10-12 18:34:24
三连冠球队单节仅得6分,辽宁男篮重建的逻辑是什么?

三连冠球队单节仅得6分,辽宁男篮重建的逻辑是什么?

除此深远轮廓
2026-10-13 14:27:07
《人性论》:一场解释“理性是激情奴隶”的心灵实验 | 每周经典

《人性论》:一场解释“理性是激情奴隶”的心灵实验 | 每周经典

砺石商业评论
2026-10-12 10:44:00
罗马诺:梅西未受邀为金球奖得主颁奖,尚未确定是否出席典礼

罗马诺:梅西未受邀为金球奖得主颁奖,尚未确定是否出席典礼

懂球帝
2026-10-13 22:37:07
刚刚,中国移动原董事长杨杰最新消息!

刚刚,中国移动原董事长杨杰最新消息!

通信爆料
2026-10-13 17:22:25
女博士毕业后远赴德国,嫁了58岁当地男富商,婚后一周16次夫妻生活,直到一次突然晕倒住院,医生却低声问:你知道你丈夫的真实身份吗

女博士毕业后远赴德国,嫁了58岁当地男富商,婚后一周16次夫妻生活,直到一次突然晕倒住院,医生却低声问:你知道你丈夫的真实身份吗

起飞做故事
2026-10-08 17:41:10
非法收受财物超22亿元,杨有林一审被判死刑:犯罪情节特别严重,社会影响特别恶劣

非法收受财物超22亿元,杨有林一审被判死刑:犯罪情节特别严重,社会影响特别恶劣

每日经济新闻
2026-07-06 21:58:54
王皓被辱骂后续:3人被行政拘留,身份曝光,原来都是同一类人

王皓被辱骂后续:3人被行政拘留,身份曝光,原来都是同一类人

阿废冷眼观察所
2026-10-11 04:00:22
如果人人都不结婚,你不生我不生,人口降至5亿,日子会更好吗

如果人人都不结婚,你不生我不生,人口降至5亿,日子会更好吗

铭记历史呀
2026-10-06 01:01:55
女性长期使用情趣用品,身体可能出现哪些不适?不少人缺乏认知

女性长期使用情趣用品,身体可能出现哪些不适?不少人缺乏认知

看世界的人
2026-08-07 09:22:50
董卿终于熬出头了?密春雷再遭重大变故,52岁董卿也没料到这一步

董卿终于熬出头了?密春雷再遭重大变故,52岁董卿也没料到这一步

至死不渝的爱情
2026-10-13 14:40:43
57岁歌手阿宝脸部疑似被烧伤,本人回应:嘴周疤痕是一次意外车祸所致,我快60岁了,早已不注重形象管理了

57岁歌手阿宝脸部疑似被烧伤,本人回应:嘴周疤痕是一次意外车祸所致,我快60岁了,早已不注重形象管理了

大风新闻
2026-10-13 18:34:04
再见!勇士,又被交易了!巴特勒乐疯了……

再见!勇士,又被交易了!巴特勒乐疯了……

体育新角度
2026-09-28 10:51:50
2026-10-14 04:43:00
moonfdd incentive-icons
moonfdd
福大大架构师每日一题
1513文章数 83关注度
往期回顾 全部

科技要闻

扎克伯格宣布追上OpenAI!Meta新模型亮相

头条要闻

男子到姐姐家调解夫妻矛盾 不到1分钟被姐夫刺死

头条要闻

男子到姐姐家调解夫妻矛盾 不到1分钟被姐夫刺死

体育要闻

走调的歌声里全是感情 最好的郑钦文尚未登场

娱乐要闻

谭松韵亲自解答兰香结局遗憾

财经要闻

"黑医师"产业链调查:不学医竟能"拿证"

汽车要闻

豪华智能全拉满 比亚迪大汉不止旗舰级舒适

态度原创

房产
健康
教育
时尚
本地

房产要闻

巨无霸来了!海口百亿大盘,正式动工!

孩子运动莫名晕倒?当心这类疾病

教育要闻

成都这所公办K12学校开启招聘!优秀在职教师和本硕博毕业生赶紧关注

钟楚曦: 两处人间

本地新闻

这个十一,林都伊春彻底出圈!

无障碍浏览 进入关怀版