48GB 的 M5 Max MacBook Pro,跑 DeepSeek 模型只跑到 33 token/s。这个数字来自用户小互(@imxiaohu)的自述,他第一反应是怀疑 DeepSeek harness 的实现方式拖慢了性能。
![]()
硬件和软件之间的协同瓶颈,在端侧模型部署里被这个数字摆到了台面上。同一台机器,配置不算低,速度却没达到他的预期。
他手上还有一台 36GB 的 M3 Max。同等负载下,这台旧机器的表现更稳定,风扇响声更小,甚至渲染视频的表现也更好。
对比下来,他对 M5 Max 的评价相当直接:感觉设计有问题。风扇噪音和视频渲染这两项,是他明确点出的短板。
不过他对端侧模型的未来仍然看好。他推测,明年可能出现能在笔记本上运行、能力相当于 Opus 5.5 的端侧模型。
这个期待和眼前的 33 token/s 形成了落差。本地大模型要真正跑在笔记本上,硬件演进和软件实现得同时跟上,缺一环,速度就卡在那里。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.