山东
IT之家 4 月 14 日消息，YouTube 博主 Alex Ziskind 前天发布视频，使用 Tiny Corp 最近发布的开源驱动，将英伟达 RTX 5090 显卡与苹果 Mac mini M4 Pro 搭配使用，并在 macOS 上成功运行。
苹果多年前与英伟达闹掰，导致 macOS 系统失去后者的 GPU 驱动支持，也让 CUDA 生态在 macOS 几乎消亡，开发者只能被迫转向苹果自家的 Metal 架构。
据介绍，“Tiny GPU”开源定制驱动可以通过雷雳 5/USB4 接口连接外置显卡，让 RTX 5090 直接与苹果芯片 Mac 通信，完全不需要虚拟机等性能折损方案。
Alex Ziskind 在视频中成功将 RTX 5090 连接到 Mac mini，运行 Llama 3.1 8B 模型时性能约为 7.48 Token/s。
他在视频中强调，RTX 5090 并没有在 macOS 中跑出全部性能。主要是因为驱动当前依赖 Tiny Grad 编译器，未使用 Metal / CUDA 原生优化，性能相比 Metal 原生方案慢了 10 倍。不过 Blackwell 架构的优势也有体现，其首 Token 响应速度相比 Metal 方案快 3-4 倍。
因此，虽然这套方案目前还无法替代成熟的 Metal 开发环境，但它仍是苹果 Mac 平台近年来首个可用的外接显卡跑大模型方案。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
