网易首页 > 网易号 > 正文 申请入驻

ollama v0.23.3 发布:MLX 性能优化、安全加固与传输并发控制

0
分享至




引言

2026年5月12日,Ollama 团队正式发布了 v0.23.3 版本。本次更新虽然只有 6 个 commit,但涉及 MLX 推理引擎优化、应用更新机制安全加固、传输并发控制、测试体系完善等多个关键领域。本文将基于官方发布说明,逐条解析本次更新的技术细节和实际影响。

一、版本概览

  • 版本号:v0.23.3

  • 发布日期:2026年5月12日

  • 提交数量:6 commits

  • 文件变更:40 个文件

  • 代码行数:+3,621 行 / -433 行

  • 贡献者:2 人

本次更新延续了 Ollama 在 Apple Silicon 平台上的深度优化路线,同时对安全性和网络传输效率做出了重要改进。

二、MLX 后端优化(核心亮点) 2.1 精细化模型推送行为

本次更新对 MLX 后端的模型推送逻辑进行了细化。这次改进主要解决了在推送 safetensors 格式模型时的行为一致性问题,确保推送操作与拉取操作遵循相同的状态转换规则,减少了因状态不一致导致的部分上传失败场景。

2.2 图像生成 Runner 的线程亲和性优化

针对 MLX 在 macOS 上的图像生成功能,本次添加了线程亲和性设置。这是一项针对 Apple Silicon 异构核心架构(性能核心与能效核心)的性能优化措施。通过将计算密集型任务绑定到高性能核心,避免调度器将其误分配到效率核心,显著提升了图像生成任务的推理速度和响应一致性。对于使用 MLX 后端进行图像生成的用户,这一改进会带来可感知的生成速度提升。

2.3 推理过程中的状态超时规避

在长时间推理任务中,MLX runner 可能出现状态更新超时的问题,导致进程被错误终止。本次更新通过调整状态报告机制,确保在长时间生成任务中状态信号能够持续发送,避免了因静默期过长而触发的超时误判。这一修复对大上下文长度生成和多轮对话场景尤为关键。

2.4 macOS 26 部署目标泄漏修复

在构建 v3 metallib 时,MLX 编译过程会泄漏 macOS 26 的部署目标设置,导致生成的二进制库包含不受支持的平台标记。构建脚本中新增了重新链接 metallib 的步骤:首先收集所有.air文件,然后使用xcrun -sdk macosx metallib重新链接,最后覆盖原始的mlx.metallib。这一修复确保了 MLX 库与 macOS 14.0 及以上版本的兼容性。

三、应用更新机制安全加固 3.1 更新流程的安全性增强

本次更新对app/updater包进行了全面重构,主要解决了路径遍历漏洞和文件名注入风险:

安全路径处理:新增updateStagePath函数,使用 SHA256 对 ETag 进行哈希处理,防止恶意构造的 ETag 或Content-Disposition中的文件名导致路径逃逸。经过哈希处理的 ETag 目录名类似a1b2c3...,无法包含../等路径遍历字符。

文件名安全验证:新增safeUpdateFilename函数,拒绝以下危险模式:

  • • 空文件名或纯空白字符串

  • ...相对路径

  • • 绝对路径(Unix 或 Windows)

  • • 包含\/:等路径分隔符

  • filepath.Base与原始文件名不匹配的情况

目录逃逸防护:新增ensurePathInDir函数,验证解析后的路径始终在指定的 stage 目录内,防止符号链接或相对路径组合导致的逃逸。

3.2 macOS 应用包验证增强

路径范围约束:在解压更新包时,新增bundleEntryPath函数要求所有解压条目必须在Ollama.app目录内(或者对于带 archive root 的包,必须在解压后的根目录内)。任何试图跳出应用包目录的条目都会被拒绝。

符号链接安全验证:新增validBundleLinkTarget函数,拒绝以下符号链接:

  • • 空链接目标

  • • 绝对路径

  • • 包含..组件且跳出应用包目录

  • • 指向应用包外部的任何路径

测试覆盖:新增了针对各种恶意构造的更新包的测试用例,包括路径逃逸、绝对符号链接、相对符号链接逃逸等场景。

3.3 Windows 安装程序签名验证

本次更新为 Windows 平台添加了安装程序数字签名验证:

WinVerifyTrust 调用:使用 Windows 的WinVerifyTrustExAPI 验证安装程序的 Authenticode 签名,确保更新包确实由 Ollama Inc. 签名且未被篡改。

签名者证书提取:通过CryptQueryObjectCryptMsgGetParam从 PKCS 签名中提取签名者证书信息,验证证书的组织名称是否为 "Ollama Inc."。

集成到升级流程:在DoUpgradeAtStartupDoUpgrade中都会调用VerifyDownload,如果验证失败,会删除损坏的更新包并返回错误,防止执行未签名的代码。

3.4 测试框架增强

实时更新测试:新增updater_live构建标签,允许运行真实的端到端更新测试。该测试会从 ollama.com 的正式更新端点下载当前操作系统的更新包,验证整个下载、验证、暂存流程。

单元测试覆盖:新增针对路径逃逸、不安全文件名、恶意 ETag、符号链接验证等场景的单元测试。

四、传输层并发控制 4.1 新增环境变量 OLLAMA_MAX_TRANSFER_STREAMS

本次更新引入了一个新的环境变量OLLAMA_MAX_TRANSFER_STREAMS,用于控制 safetensors 格式模型拉取和推送时的并发传输流数量。

默认值:4

作用:限制同时进行的带有请求体的 HTTP 传输数量,避免在较慢的家庭网络上过度占用带宽导致网络拥塞。这一设置不影响 GGUF 格式模型的传输(仍使用传统的上传/下载路径)。

代码集成:在server/images.gopullWithTransferpushWithTransfer函数中将BodyConcurrency设置为max(1, int(envconfig.MaxTransferStreams())),确保至少有 1 个并发流。

4.2 Transfer 包的并发控制重构

x/transfer/download.go中,新增了bodySem信号量字段和holdBody方法:

func (d *downloader) holdBody(ctx context.Context) (func(), error) {
if d.bodySem == nil {
return func() {}, nil
}
if err := d.bodySem.Acquire(ctx, 1); err != nil {
return nil, err
}
return func() { d.bodySem.Release(1) }, nil
}

Token 管理的线程安全:将原来的*stringtoken 指针改为带读写锁保护的string字段,新增authToken读取方法和refreshToken方法,确保在多个并发 goroutine 同时收到 401 响应时,只有一个会执行实际的 token 刷新操作。

下载摘要日志:在下载完成后输出统计信息,包括 blob 数量、下载字节数、耗时和传输速率,方便排查性能问题。

五、测试体系完善 5.1 CI 工作流改进

.github/workflows/test.yaml中新增了app_changed输出,用于检测app/**目录的变更。当应用代码发生变化且运行在 macOS 或 Windows 平台时,会执行带有updater_live标签的测试:

- name:gotestappwithliveupdatertag
if:${{needs.changes.outputs.app_changed=='True'&&contains(fromJSON('["macos-latest","windows-latest"]'),matrix.os)}}
run:gotest-count=1-tagsupdater_live ./app/...
5.2 集成测试优化

Token 管理修复:在envconfig/test_home_test.goserver/test_home_test.go中添加t.Setenv("OLLAMA_MODELS", ""),避免测试间环境变量污染导致的 token 验证失败。

错误信息改进:在integration/api_test.go中,将错误输出从打印Messages结构改为调用summarizeMessages函数,该函数会截断图片数据的完整内容,避免日志中出现超长的整数数组。

超时调整:针对TestUnicodeTestLongInputContext等慢速测试增加了超时时间,适应 GPU 负载不足时的性能波动。

新增辅助函数

  • skipIfMLXUnsupported:检测 MLX 不支持的错误信息,在非 Apple Silicon 平台上跳过测试

  • skipIfModelTooLargeForVRAM:检查模型大小是否超过 OLLAMA_MAX_VRAM 的 75%,超过则跳过

  • containsEmoji:用于验证故事生成测试中是否包含表情符号

5.3 模型测试集更新

更新了多个测试模型列表:

  • 聊天模型:新增nemotron3:33blaguna-xs.2:q4_K_Mgemma4

  • MLX 模型:新增laguna-xs.2:nvfp4qwen3.5:2b-nvfp4gemma4:e2b-nvfp4

  • 视觉模型:新增nemotron3:33bgemma4

  • 工具调用模型:新增nemotron3:33blaguna-xs.2gemma4

六、命令行界面优化 6.1 环境变量文档格式化

cmd/cmd.go中,将环境变量文档的输出宽度从 24 字符调整为 27 字符,使得较长的变量名(如OLLAMA_MAX_TRANSFER_STREAMS)能够完整显示,改善了ollama help命令的可读性。

6.2 环境变量注册

envconfig/config.go中注册了OLLAMA_MAX_TRANSFER_STREAMS变量,包含描述信息:"Maximum parallel transfer streams for safetensors model pulls/pushes (default 4)"。

同时更新了环境变量映射表,统一调整了各变量名的对齐格式。

七、服务端错误处理优化 7.1 流式响应中的错误传递

server/routes.gohandleImageGenerate函数中,改进了流式响应中的错误处理逻辑:

原行为:如果流已经开始但后续生成失败,只能返回 200 状态码并在响应体末尾附加错误信息,客户端可能无法正确解析。

新行为:当isStreaming为 true 但streamStarted为 false 时,仍然返回 JSON 错误响应;当流已经开始后发生错误,会输出一个 JSON 格式的错误行并刷新缓冲区:

data, _ := json.Marshal(gin.H{"error": err.Error()})
c.Writer.Write(append(data, '\n'))
c.Writer.Flush()

这使得客户端能够正确区分正常的流结束和异常错误。

7.2 图像生成错误测试

新增server/routes_generate_test.go,包含两个测试用例:

  • TestImageGenerateStreamFalseErrorAfterProgress:非流式请求在发送进度后发生错误,验证返回 500 状态码

  • TestImageGenerateStreamingErrorAfterProgress:流式请求在发送进度后发生错误,验证先输出进度数据再输出错误行

八、MLX Runner 状态缓存机制 8.1 内存状态缓存

x/mlxrunner/status_memory.go中新增statusMemoryCache结构,用于缓存 MLX 的内存使用状态,避免每次健康检查都阻塞等待 MLX 工作线程:

核心特性

  • • 异步刷新:后台 goroutine 每 50ms 刷新一次内存统计

  • • 等待超时:如果刷新未及时完成,返回缓存值而不阻塞健康检查

  • • 并发安全:使用互斥锁保护共享状态

  • • 上下文取消:检测到 context 完成时立即退出

内存读取封装:在x/mlxrunner/server.go中,将内存读取操作改为通过mlxthread.Call在工作线程中执行,同时使用缓存机制减少调用频率。

8.2 工作线程生命周期管理

x/imagegen/runner.go中,图像生成 runner 也集成了新的线程管理机制:

MLX 初始化:通过mlxthread.Start启动工作线程,在专用的 goroutine 中执行 MLX 初始化操作。

请求串行化:每个图像生成请求通过s.mlxThread.Do在工作线程中执行,确保 MLX 操作不会并发执行导致状态冲突。

优雅关闭:在服务关闭时调用worker.Stop,并传入清理函数mlx.ClearCache,等待正在进行的操作完成后释放资源。

九、传输层测试覆盖率提升

本次更新对x/transfer包进行了大规模测试重构(transfer_test.go变更有 +1,062/-83 行),主要新增和改进了以下测试场景:

  1. 1.下载并发控制测试:验证BodyConcurrency参数能够正确限制并发的 body-bearing 请求数量

  2. 2.Token 刷新竞态测试:模拟多个并发请求同时收到 401 响应,验证只有一个 token 刷新请求被执行

  3. 3.上传路径遍历防护测试:验证恶意构造的文件名无法逃出暂存目录

  4. 4.大文件断点续传测试:验证 HTTP Range 请求在部分下载后能够正确恢复

  5. 5.分片上传回退测试:测试当服务器要求分片上传时的兼容性路径

十、实际应用建议 10.1 Apple Silicon 用户

如果你使用 macOS 且主要运行 safetensors 格式模型(如 MLX 优化版本),建议:

  • • 升级后验证图像生成功能的性能提升

  • • 检查长时间推理任务是否不再出现超时错误

10.2 网络受限环境

如果你的 Ollama 服务运行在家庭宽带或移动网络环境下:

  • • 设置OLLAMA_MAX_TRANSFER_STREAMS为 2 或更小的值,避免网络拥塞

  • • 观察模型拉取/推送时的带宽占用情况,按需调整

10.3 Windows 用户

如果你在 Windows 上运行 Ollama 并启用了自动更新:

  • • 新版本会自动验证更新包的数字签名

  • • 如果更新失败,请检查安装程序是否被第三方安全软件拦截

10.4 自建 Ollama 服务的开发者

如果你维护自定义的 Ollama 构建或镜像:

  • • 注意更新机制中的路径验证逻辑变更,确保自定义更新 URL 返回的Content-DispositionETag符合安全要求

  • • MLX 构建过程新增了 metallib 重新链接步骤,请更新构建脚本

结语

代码地址:github.com/ollama/ollama

Ollama v0.23.3 是一个以稳定性和安全性为主的维护版本。MLX 后端的多项优化显著改善了 Apple Silicon 平台上的推理体验,更新机制的加固为用户提供了更安全的自动升级保障,而传输并发控制的引入则为受限网络环境下的模型分发提供了灵活调整空间。建议所有用户升级到此版本,特别是 macOS 用户和启用了自动更新的 Windows 用户。

我们相信人工智能为普通人提供了一种“增强工具”,并致力于分享全方位的AI知识。在这里,您可以找到最新的AI科普文章、工具评测、提升效率的秘籍以及行业洞察。 欢迎关注“福大大架构师每日一题”,发消息可获得面试资料,让AI助力您的未来发展。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
别只盯特朗普专机,鲁比奥还是来了,释放比访问更重要的信号

别只盯特朗普专机,鲁比奥还是来了,释放比访问更重要的信号

兰妮搞笑分享
2026-05-13 09:06:32
美国做了个实验,将3男3女关一起2年,他们出来时,令所有人惊讶

美国做了个实验,将3男3女关一起2年,他们出来时,令所有人惊讶

千秋文化
2026-05-05 20:32:13
92岁老中医仍出诊!他的“5不”养生经,简单到人人都能做到

92岁老中医仍出诊!他的“5不”养生经,简单到人人都能做到

神奇故事
2026-05-11 22:38:56
光纤黑马悄然崛起!这8家核心公司,藏着通信与电力的未来密码

光纤黑马悄然崛起!这8家核心公司,藏着通信与电力的未来密码

Thurman在昆明
2026-05-13 02:27:26
火箭夺冠激励丁俊晖?中国1哥明年40,获元老赛资格,圆梦克堡?

火箭夺冠激励丁俊晖?中国1哥明年40,获元老赛资格,圆梦克堡?

刘姚尧的文字城堡
2026-05-13 07:22:32
长公主被家暴流产了

长公主被家暴流产了

毒舌扒姨太
2026-04-08 22:29:19
央视怒批,目不识丁、洋相百出,难怪两会上冯远征建议演员多学习

央视怒批,目不识丁、洋相百出,难怪两会上冯远征建议演员多学习

傲傲讲历史
2026-03-05 16:08:43
调查发现:起床后喜欢喝杯水的人,用不了多久,身体会有4个改变

调查发现:起床后喜欢喝杯水的人,用不了多久,身体会有4个改变

荷兰豆爱健康
2026-05-12 19:15:52
特斯拉:再次突破

特斯拉:再次突破

新浪财经
2026-05-11 10:29:59
苹果首款折叠屏iPhone曝光:仅售两款低调配色,定价或14999元起

苹果首款折叠屏iPhone曝光:仅售两款低调配色,定价或14999元起

驱动中国
2026-05-12 11:05:18
阿斯:皇马确信欧足联会介入内格雷拉案,本土赛事巴萨或被禁赛

阿斯:皇马确信欧足联会介入内格雷拉案,本土赛事巴萨或被禁赛

懂球帝
2026-05-14 01:13:14
18个巡查组进驻广东医院!直查账本与药库,百姓们点赞:早该如此

18个巡查组进驻广东医院!直查账本与药库,百姓们点赞:早该如此

王二哥老搞笑
2026-05-13 16:07:38
赛力斯电池包碰撞场景脱离专利获授权 可在碰撞时使电池包与车体分离

赛力斯电池包碰撞场景脱离专利获授权 可在碰撞时使电池包与车体分离

金融界
2026-05-12 12:09:20
日本到底哪来底气一再挑衅中国?因为它们认为中国有两个“软肋”

日本到底哪来底气一再挑衅中国?因为它们认为中国有两个“软肋”

阿胡
2026-04-20 16:12:27
真被马斯克说中,全球争抢的不是芯片,而是中国20万一台的变压器

真被马斯克说中,全球争抢的不是芯片,而是中国20万一台的变压器

说历史的老牢
2026-05-09 12:34:09
FIFA秘书长、温格一行到访中国足协,考察国家足球青训中心

FIFA秘书长、温格一行到访中国足协,考察国家足球青训中心

懂球帝
2026-05-13 15:11:36
交物业费别瞎交!一句内行话,拿捏物业,不花冤枉钱

交物业费别瞎交!一句内行话,拿捏物业,不花冤枉钱

老特有话说
2026-05-13 17:03:23
广西这83名人员被实名曝光

广西这83名人员被实名曝光

930老友记
2026-05-13 11:19:40
奥运冠军黄雅琼拟入职衢州职业技术学院,回应:仍从事羽毛球相关工作

奥运冠军黄雅琼拟入职衢州职业技术学院,回应:仍从事羽毛球相关工作

上游新闻
2026-05-13 17:35:15
闪充+630km!比亚迪“新颜王”:5月21日上市

闪充+630km!比亚迪“新颜王”:5月21日上市

高科技爱好者
2026-05-13 22:57:09
2026-05-14 02:43:00
moonfdd incentive-icons
moonfdd
福大大架构师每日一题
1225文章数 68关注度
往期回顾 全部

科技要闻

阿里年营收首破万亿,AI终于不再是画大饼

头条要闻

女子闪婚获千万房产99%份额闪离后起诉分割 法院判了

头条要闻

女子闪婚获千万房产99%份额闪离后起诉分割 法院判了

体育要闻

14年半,74万,何冰娇没选那条更安稳的路

娱乐要闻

白鹿掉20万粉,网友为李晨鸣不平

财经要闻

美国总统特朗普抵达北京

汽车要闻

C级纯电轿跑 吉利银河"TT"申报图来了

态度原创

教育
旅游
亲子
艺术
军事航空

教育要闻

中考这件事,许多家长都搞错了方向

旅游要闻

四大入口协同发力 让外国游客“丝滑”逛北京

亲子要闻

去最需要的地方!安慧霞远赴高原幼教帮扶:夜晚吸氧白天授课

艺术要闻

规划中的成都第三高楼,从396米降到250米以下?

军事要闻

沙特被指3月曾对伊朗发动多次“报复性”空袭

无障碍浏览 进入关怀版