![]()
全球内存短缺不断加剧,AI对高带宽内存的巨大需求,把整个供应链都卡死了。
嗯,苹果也被卡脖子了
最近,苹果官网上多款高内存配置的Mac mini和Mac Studio已无法直接购买。32GB、64GB内存的Mac mini高配版本下架,Mac Studio的256GB内存M3 Ultra版也基本停供,仅剩96GB等低配选项,部分高端机型的预计发货时间甚至拉长至9-10周甚至更久。
![]()
所以,普通用户想买一台够用的本地AI机器都越来越难
更别说像Jeff Geerling这哥们,搞了4台M3 Ultra Mac Studio,塞进了一个小4柱机架里这么玩了。。。
不过这套装备总价差不多4万刀(大概28 万元人民币左右)
你看啊,两台大内存512GB+两台中等内存256GB的 Mac Studio
不过他自己也说买不下手。苹果借给他,DeskPi还送了一个迷你机架来装。
嗯?白嫖
![]()
他没有抱怨内存贵、买不到,而是直接把多台机器的内存池化
硬生生虚拟出了1.5TB统一内存的集群
这不就是高端局咯
Jeff用Thunderbolt 5把4台机器全互联,每个Mac要和其他所有Mac直连,形成全网状
然后用了一个小4柱机架把它们竖着堆叠起来,方便布线和散热
![]()
不过要实现集群这个效果,当然不是把四台电脑摆在一起插 Thunderbolt就完了
先要在 macOS 26.2 里启用 RDMA
RDMA是啥玩意?
简单说,macOS 26.2新增了RDMA(Remote Direct Memory Access)支持(需在恢复模式下运行rdma_ctl enable命令开启)。这让不同Mac之间可以直接访问对方内存,绕过CPU和内核,大幅降低延迟。
![]()
再配合开源AI集群工具Exo 1.0,就能把整个集群当作一台拥有巨量统一内存的超级电脑来用。
特别适合跑超大参数的本地大模型(LLM inference),比如几百B甚至上万亿参数的量化模型。
![]()
所以,这操作给内存短缺下的提供了一个曲线救国思路
买不到256GB/512GB?
那就买多台中高配,通过高速互联拼内存池
Apple Silicon的统一内存架构 + Thunderbolt 5的高带宽
怎么说,硬件短缺逼着普通人变成极客。。。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.