网易首页 > 网易号 > 正文 申请入驻

ollama v0.20.7 最新版更新详解:ROCm 7.2.1、Gemma4 渲染修复与多项 Metal/Renderer 回归修补

0
分享至




2026年4月13日,ollama 发布了 v0.20.7 版本。
这次更新虽然版本号看起来是一次常规小版本升级,但从变更内容来看,实际上是一次面向 GPU 生态、模型渲染逻辑和 Metal 后端兼容性的集中修复版本。尤其是 Gemma4 相关修复、ROCm 版本升级,以及多个 ggml Metal 相关补丁的回补,说明这一版重点并不只是“更新依赖”,而是围绕真实运行中的质量问题进行了一轮修正。

一、v0.20.7 发布概览

本次发布版本为v0.20.7,发布时间是2026年4月13日
从变更列表看,本次更新包含:

  • 修复 gemma:e2b 和 gemma:e4b 在关闭 thinking 时的质量问题

  • Linux 下 ROCm 更新到 7.2.1

  • • 多个与Gemma4相关的渲染器修复、回归修正和测试调整

  • • 多个Metal 后端补丁同步更新

  • • 相关的测试与构建配置同步升级

整体来看,这一版不是功能大扩展,而是以“修复、回补、兼容性调整”为主。对于依赖 GPU 推理、尤其是 AMD ROCm、Apple Metal 以及 Gemma4 模型相关能力的用户来说,这个版本具有比较明确的升级价值。

二、本次更新的核心内容 1)修复 gemma:e2b 和 gemma:e4b 在关闭 thinking 时的质量问题

这是本次更新中最核心、最直接面向模型效果的修复之一。
官方说明写得很明确:Fix quality of gemma:e2b and gemma:e4b when thinking is disabled

这意味着当 Gemma4 系列模型中的 e2b、e4b 在thinking 被禁用的情况下,输出质量存在问题,而 v0.20.7 对这个问题进行了修复。

结合提交记录可以看到,这部分修复过程并不简单,期间围绕 Gemma4 的 renderer 做了多轮修改:

  • • 修复 nothink case renderer

  • • 添加 nothink renderer 测试

  • • 随后又回滚了测试和部分 renderer 修复

  • • 最终恢复 e2b-style nothink prompt

从这些提交名称可以看出,问题的焦点主要集中在“不启用 thinking 时,Gemma4 的提示词渲染方式”
也就是说,模型质量问题并不一定来自模型本身参数,而是和 renderer 在构造提示时的行为有关。最终版本选择恢复一种更合适的 nothink prompt 方式,以改善 e2b、e4b 的输出表现。

2)Linux 下 ROCm 更新到 7.2.1

另一个非常重要的更新是:ROCm: Update to ROCm 7.2.1 on Linux
这说明 ollama 在 Linux 平台上的 ROCm 支持版本进行了升级,从7.2更新到7.2.1

这类更新通常意味着:

  • • 使用更新的 ROCm 容器镜像

  • • 构建、测试和运行环境同步对齐

  • • 提升对 AMD GPU 相关运行环境的兼容性

从变更内容看,相关修改不仅出现在测试工作流里,也出现在 Dockerfile 里:

  • .github/workflows/test.yaml中 ROCm 容器从rocm/dev-ubuntu-22.04:7.2改为rocm/dev-ubuntu-22.04:7.2.1

  • DockerfileROCMVERSION=7.2更新为ROCMVERSION=7.2.1

这说明这次升级不是单点调整,而是构建链路、CI 测试链路、容器环境的同步升级。
对于依赖 ROCm 的 Linux 用户来说,这是一项非常关键的版本对齐,属于“平台支持跟进式升级”。

三、构建与测试相关变更 1)测试工作流中的 ROCm 容器升级

.github/workflows/test.yaml中,ROCm 测试环境从:

  • rocm/dev-ubuntu-22.04:7.2

变更为:

  • rocm/dev-ubuntu-22.04:7.2.1

除此之外,ROCm 测试仍保持原有配置:

  • extra-packages: rocm-libs

  • flags: '-DAMDGPU_TARGETS=gfx1010 -DCMAKE_PREFIX_PATH=/opt/rocm'

这说明测试流程的目标并未改变,仍然围绕特定 AMD GPU 架构和 ROCm 构建路径进行,但底层容器版本更新到了 7.2.1。

2)Dockerfile 中 ROCMVERSION 同步更新

Dockerfile中,版本变量也从:

  • ARG ROCMVERSION=7.2

更新为了:

  • ARG ROCMVERSION=7.2.1

这说明项目构建时使用的 ROCm 版本已经同步到新版本。
这种同步很重要,因为如果测试环境和构建环境不一致,就可能引入难以排查的问题。现在二者同时升级,说明本次版本发布在环境一致性上做了处理。

四、Gemma4 渲染器与模板的多轮修复

这一部分是本次更新里非常值得关注的内容,因为它直接关系到模型提示词渲染和最终输出质量。

1)Gemma4 renderer 的结构调整

文件model/renderers/gemma4.go有较大改动,变更量为129 changes: 85 additions & 44 deletions
这说明 Gemma4 渲染器并非小修,而是进行了比较系统的调整。

从可见的核心变化看,生成 prompt 的逻辑发生了变化:

原本在满足条件时会在生成提示里写入:

  • <|turn>model\n

  • • 如果没有 thinking,则再写入<|channel|>thought\n

而更新后,这一段逻辑被调整,说明在生成阶段对“是否启用 thinking”的处理方式进行了重新安排。

结合提交记录中的变化内容,整个过程经历了:

  • • 修复 nothink case renderer

  • • 添加 nothink renderer tests

  • • 回滚测试

  • • 回滚修复

  • • 最终恢复 e2b-style nothink prompt

这说明团队在修复过程中对渲染方式做了验证和回退,最终采用了稳定方案。

2)Gemma4 的 testdata 模板重命名

本次更新里有一个值得注意的文件变更:

  • model/renderers/testdata/gemma4_chat_template.jinja2
    被重命名为

  • model/renderers/testdata/gemma4_31b_chat_template.jinja2

并且标注为File renamed without changes
也就是说,文件内容没有变化,只是文件名调整了。

这通常意味着测试数据的命名与模型规格、模板版本或者用途进行了区分,使命名更加明确。
从结果上看,这有助于区分不同 Gemma4 模板场景,避免混淆。

3)新增 gemma4_e2b_chat_template.jinja2

另一个新增文件是:

  • model/renderers/testdata/gemma4_e2b_chat_template.jinja2

从文件名可以直接看出,它是针对gemma4 e2b场景的测试模板。
这与前面“修复 e2b 和 e4b 在 thinking disabled 时的质量问题”是对应的。

也就是说,这次更新并不是单纯改一行代码,而是配套增加了针对性模板测试,以便验证 e2b 场景下的渲染逻辑是否正确。

五、ggml 相关补丁同步更新

本次版本中还包含多个llama/patches下的补丁变更,这些补丁主要涉及 ggml 的不同后端实现,包括 CPU、CUDA、Metal、Vulkan 等。虽然很多 patch 的变更在展示中只露出部分内容,但从整体文件列表可以看到,本次升级对底层推理栈做了同步适配。

1)0027-interleave-multi-rope.patch

这个补丁的主题是:

  • interleave multi rope

其说明写的是:
由于 ollama 不再把 mrope 用于其他用途,因此将其改为表示qwen3vl 使用的 interleaved 版本

对应修改涉及四个文件:

  • ggml/src/ggml-cpu/ops.cpp

  • ggml/src/ggml-cuda/rope.cu

  • ggml/src/ggml-metal/ggml-metal.metal

  • ggml/src/ggml-vulkan/vulkan-shaders/rope_funcs.glsl

这个补丁中 Metal 文件的修改量从 8 行变为 10 行左右,说明在 Metal 实现上也有相应适配。

从版本升级角度看,这属于 rope 相关计算逻辑的内部调整,虽然不是用户界面层面的变化,但会影响到底层位置编码处理方式。

2)0032-ggml-enable-MLA-flash-attention-for-GLM-4.7-flash.patch

这个补丁的主题是:

  • ggml-enable-MLA-flash-attention-for-GLM-4.7-flash

从名称可以看出,它是为GLM-4.7-flash启用MLA flash attention相关能力的补丁。
在变更展示中,主要体现为ggml/src/ggml-metal/ggml-metal.metal文件有调整,新增了 1 行、删除了 1 行。

虽然展示内容很有限,但从补丁名和文件路径可以确定:
这是一次针对 ggml Metal 后端 flash attention 行为的适配,目的是支持某些模型在 Metal 平台上正确启用相关能力。

3)0033-ggml-metal-solve_tri.patch

这个补丁名称是:

  • ggml-metal-solve_tri

对应的变更涉及ggml/src/ggml-metal/ggml-metal.metal,修改点在一个较长的代码块中。
从补丁标题看,重点在于解决三角相关计算或三角求解路径的问题。

虽然展示里没有展开全部上下文,但可以确认这是一项 Metal 后端内部修复补丁,目的是让相关数学计算在 Metal 环境下更稳定或更正确。

4)0034-ggml-metal-guard-mul_mat_id-map0-and-add-ne20-22-spe.patch

这个补丁名称较长,核心意思是:

  • • 为mul_mat_idmap0做保护

  • • 并增加ne20-22相关的特殊处理

对应修改同样落在ggml/src/ggml-metal/ggml-metal.metal中,增加了 1 行,删除了 1 行。

从补丁风格可以看出,这属于针对 Metal 矩阵乘法映射路径的保护性修复,避免某些边界条件下出错,同时加入特定尺寸条件的支持。

5)0036-backport-kernels-for-gemma4.patch

这个补丁名称说明它是:

  • • 为 Gemma4 回补相关 kernels

对应的变更也落在ggml/src/ggml-metal/ggml-metal.metal
从提交顺序看,这个 patch 与 Gemma4 的 renderer 修复、notthink 逻辑回调一起,构成了本次 Gemma4 支持链路的一部分。

换句话说,Gemma4 的修复不仅仅在上层 renderer,还在底层 kernel 方面有对应回补。

六、Metal 后端相关的嵌入式文件同步变更

除了llama/patches目录下的补丁,本次更新还涉及两个 Metal 嵌入式文件:

  • ml/backend/ggml/ggml/src/ggml-metal/ggml-metal-embed.metal

  • ml/backend/ggml/ggml/src/ggml-metal/ggml-metal.metal

这两个文件都涉及kernel_rope_multi相关逻辑,并且都出现了相同的关键调整:

  • float theta_base;

  • • 变为float theta_base = 0.0;

  • • 条件判断由
    sector < 3 * args.sect_1
    调整为
    sector < 1 + 3 * args.sect_1

这说明在 Metal 的 rope multi 处理逻辑中,对 theta_base 做了初始化,并修正了区间判断条件。

这种改动看起来很小,但对于 GPU kernel 来说,初始化和边界条件往往非常关键,直接影响结果正确性和稳定性。

七、其他 Metal 文件的同步变化

本次版本中,ggml/src/ggml-metal/ggml-metal.metal多处被更新,这些更新分散在不同的 patch 中,说明 Metal 后端是本次版本的重点之一。

从变更摘要可见,Metal 文件涉及的场景包括:

  • • rope multi

  • • flash attention

  • • solve_tri

  • • mul_mat_id map0

  • • Gemma4 kernels 回补

这说明 v0.20.7 不只是简单提升某个模型的表现,而是对 Metal 推理链路做了系统性的修复和补齐。
对于使用 Apple 平台推理的用户来说,这种更新通常意味着更好的兼容性,也意味着旧版本中可能存在的边界问题被逐步清理。

八、本次版本的提交节奏与修复过程

从公开提交记录来看,这次版本并不是“一次改完”,而是经过了多次尝试与回滚:

  • • 先修复 nothink case renderer

  • • 再添加 nothink renderer tests

  • • 接着回滚测试

  • • 再回滚修复

  • • 最后恢复 e2b-style nothink prompt

这种节奏反映出一个很典型的现实:
看似只是一个提示词渲染问题,实际上会牵连到模型输出质量、渲染模板、测试样例、后端兼容性等多个层面。最终能够在发布版中稳定下来,说明这次修复经过了反复验证。

九、v0.20.7 适合谁升级

基于本次变更内容,v0.20.7 对以下场景尤其值得关注:

  • • 使用gemma:e2b / gemma:e4b的用户

  • • 依赖thinking disabled模式的用户

  • • 在Linux + ROCm环境下运行的用户

  • • 依赖Metal后端推理的用户

  • • 使用 Gemma4 相关渲染模板或测试链路的用户

因为这次更新直接涉及这些场景的修复与对齐,属于针对性较强的一版。

十、总结

代码地址:github.com/ollama/ollama

ollama v0.20.7 虽然是一个小版本号更新,但内容并不轻量。
从官方变更和提交记录看,这次升级主要围绕以下几个重点展开:

  1. 1.修复 gemma:e2b 和 gemma:e4b 在关闭 thinking 时的质量问题

  2. 2.Linux 下 ROCm 升级到 7.2.1

  3. 3.Gemma4 renderer 进行多轮修复与回滚,最终恢复 e2b-style nothink prompt

  4. 4.Gemma4 测试模板新增与重命名

  5. 5.ggml 的多个 patch 同步更新,覆盖 CPU / CUDA / Metal / Vulkan

  6. 6.Metal 后端的 rope、flash attention、求解、矩阵映射、Gemma4 kernel 等多项修补

  7. 7.测试和 Docker 构建链路同步升级,确保环境一致


我们相信人工智能为普通人提供了一种“增强工具”,并致力于分享全方位的AI知识。在这里,您可以找到最新的AI科普文章、工具评测、提升效率的秘籍以及行业洞察。 欢迎关注“福大大架构师每日一题”,发消息可获得面试资料,让AI助力您的未来发展。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
姚笛菜市场挑选西红柿,疑向文章暗送秋波,网友刷屏盼二人复合

姚笛菜市场挑选西红柿,疑向文章暗送秋波,网友刷屏盼二人复合

娱乐E君
2026-08-07 11:10:07
蒋介石晚年最后悔的三件事,爱错一个人,杀错一个人,放错一个人

蒋介石晚年最后悔的三件事,爱错一个人,杀错一个人,放错一个人

风飘飘而吹衣
2024-12-08 14:07:17
WTT横滨冠军赛太残酷了:随着陈垣宇0-3,国乒男单军团全军覆没

WTT横滨冠军赛太残酷了:随着陈垣宇0-3,国乒男单军团全军覆没

侧身凌空斩
2026-08-07 18:39:01
森保一谈麒麟杯:对手都是世界杯队伍,是一次非常好的锻炼机会

森保一谈麒麟杯:对手都是世界杯队伍,是一次非常好的锻炼机会

懂球帝
2026-08-07 15:58:12
DEI 政策下的“黑人神话”崩塌,百年顶尖学府颜面全无

DEI 政策下的“黑人神话”崩塌,百年顶尖学府颜面全无

南文视界
2026-08-08 07:30:23
广东、河南的这三件事能同时发生,才是现实讽刺的最真实写照

广东、河南的这三件事能同时发生,才是现实讽刺的最真实写照

清书先生
2026-08-08 08:30:16
账上只剩9万5,欠债1941万!40年老牌国货倒在了2026年的夏天

账上只剩9万5,欠债1941万!40年老牌国货倒在了2026年的夏天

品牌观察官
2026-08-07 20:06:15
贺子珍病逝,上海市委建议丧事从简,贺家却说:她是中央直管干部

贺子珍病逝,上海市委建议丧事从简,贺家却说:她是中央直管干部

翠羽
2026-08-07 10:55:14
《龙餐馆》破100万,韩东君第一个包场,沈腾的号召力顶流比不了

《龙餐馆》破100万,韩东君第一个包场,沈腾的号召力顶流比不了

白公子探剧
2026-08-06 15:13:45
欧足联承认向因凡蒂诺绯闻女友支付6位数款项,主席强烈否认

欧足联承认向因凡蒂诺绯闻女友支付6位数款项,主席强烈否认

甜度百分百21
2026-08-08 06:17:14
你经历过最尴尬的事是啥?网友:虽然辣眼睛,但真的爱看哦

你经历过最尴尬的事是啥?网友:虽然辣眼睛,但真的爱看哦

解读热点事件
2026-08-04 00:05:09
撒贝宁问龙洋想嫁谁?她的回答太绝,世上怕没这男人

撒贝宁问龙洋想嫁谁?她的回答太绝,世上怕没这男人

乡野小珥
2026-08-07 13:39:23
中国女篮70-67,球员评分,张子宇最佳,刘禹彤唐子婷首发不及格

中国女篮70-67,球员评分,张子宇最佳,刘禹彤唐子婷首发不及格

南海浪花
2026-08-07 21:38:23
陈赓葬礼上动人一幕:陈锡联不站将帅队列,甘愿以家属身份送别

陈赓葬礼上动人一幕:陈锡联不站将帅队列,甘愿以家属身份送别

时光流转追梦人
2026-08-08 07:24:54
争议华人裁判身份被扒!祖籍中国闽粤,曾多次做出对国乒不利判罚

争议华人裁判身份被扒!祖籍中国闽粤,曾多次做出对国乒不利判罚

悠悠说世界
2026-08-07 21:19:23
宏远早报!小陈总无奈决定,周鹏圆梦顶薪,焦泊乔崔永熙心里话!

宏远早报!小陈总无奈决定,周鹏圆梦顶薪,焦泊乔崔永熙心里话!

体坛卡卡说
2026-08-08 06:35:38
湖人随队记者爆料:布朗尼・詹姆斯存在常规赛开赛前被裁的可能性

湖人随队记者爆料:布朗尼・詹姆斯存在常规赛开赛前被裁的可能性

夜白侃球
2026-08-07 11:09:14
人口告别世界第一?催生“二孩”无效后,国家终于向住房出手了!

人口告别世界第一?催生“二孩”无效后,国家终于向住房出手了!

混沌录
2026-05-30 23:41:14
陌生电话打进来千万别按红色挂断,手机这个隐秘操作才是“救星”

陌生电话打进来千万别按红色挂断,手机这个隐秘操作才是“救星”

小怪吃美食
2026-08-08 06:07:31
为什么年轻人不怕没下一代?

为什么年轻人不怕没下一代?

罗sir财话
2026-08-06 15:46:34
2026-08-08 09:23:00
moonfdd incentive-icons
moonfdd
福大大架构师每日一题
1380文章数 78关注度
往期回顾 全部

科技要闻

突然涨价,"只收电费钱"的梁文锋,变了吗

头条要闻

超360个问题 投资者涌进宇树交流会提问王兴兴

头条要闻

超360个问题 投资者涌进宇树交流会提问王兴兴

体育要闻

去年信誓旦旦3000万 今年NBA查无此人

娱乐要闻

周也热恋结束,六个字暴露单身状态

财经要闻

一枚“回旋镖”,击中王思聪

汽车要闻

越7全球首秀 传祺开始进攻方盒子越野

态度原创

房产
本地
教育
游戏
公开课

房产要闻

单日狂卖35亿!两大央企重仓,三亚土拍又爆了!

本地新闻

课本里的童年,绍兴正上演

教育要闻

初中数学竞赛题,创新性很强

只是捂了一下裙子的美羊羊,怎么就变成了“擦边女郎”?"/> 主站 商城 论坛 自运营 登录 注册 只是捂了一下裙子的美羊羊,怎么就变成...

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版