产品经理做大模型微调：Mac studio Ultra 512GB

因为模型训练需求，我们团队一直在省着钱去订购GPU了，而现在最引人瞩目的设备就是Mac studio ultra M5 的512GB了。

我们团队订购了几台，其中几乎都是要2个月之后，生怕他停产了。 AI的潜力，导致这台机器特别火，火的一塌糊涂。几乎都是靠抢来形容，再加上中美贸易战，现在这台机器也就没有被禁止。

这款机器可以说是性价比之王的GPU，对于中小模型团队

他不仅是苹果的电脑主机，同时拥有512GB的显存与内存机器，现在优惠下来之后大概在13万人民币，而最大的特点就是省点，这个对于机房的电力压力大大减小，而且还静音。

团队购买的还是1TB的，购买了之后就自己加固态硬盘了。

现在这个机器几乎成为了AI科研圈的香饽饽，同时从现在AI模型发展来看，CUDA的护城河正在降低，因为最新的Claude myth最强模型可以开始重写CUDA的相关软件与底层代码算法了。

我预计在明年苹果与AMD也能够马上兴起相关CUDA类似的生态或者直接逆向了，随着AI模型越来越强，只要是代码写的，护城河都可以消失。

但是用户体验与场景的最佳架构功能设计，这个不会消失。

这台机器之所以这么火排队2个月，还有极具性价比的显存，因为这个显存512GB可以说几乎可以容纳很多的模型，即使不去训练，也能够有很多推理。

比如现在英伟达的B300，因为就不准卖给中国，现在只有灰产溢价， 现在溢价已经到千万一台DGX B300GPU服务器，一张卡才288GB显存 。而现在mac studio的价格才13万，那就自然性价比就极高了。

你身边还有多少人没有充值付费的CHATGPT或者DEEPSEEK？就是他的增值

调用DEEPSEEK的tokens，现在你身边有多大的量呢？这个现在至少在科技圈还是不多，很多还是用免费的就够了。

同时各家平台都还在抢用户，所以商业化也没有那么激进，等那一天真的都养成习惯，形成平台第一了，这个时候用户就只用付费AI，那么GPU就更值钱了。

未来苹果的M6或者M7芯片会不会被禁止就不好说了，因为这个代表了和英伟达差不多的算力，512GB的内存，同时有对应的雷电带宽，可以完成中等模型的微调。

现在中等模型的能力在现在和顶级的大模型是有明显的差距的，但当中等模型都能够达到一个几乎全能通用的水平了，这个时候芯片就不分中等与顶级了，因为都能运行通用能力模型了。

现在苹果芯片也是未来预计可期的一种可能会存在阻碍的情况，如果美国禁止中国买苹果的芯片，那么接下来苹果的价值就会更加值钱了，因为现在可以说这是性价比最好的矩阵搭建GPU机房了。

有足够的显存，而Mac studio ultra M5可以说是最佳的选择，当然现在雷电5还是只有1.2GB的带宽作为瓶颈，未来可能会有雷电6会更加支持更高的带宽，会最近相关英伟达显卡的NVLINK。

未来GPU领先的3个阵营

有了类似和英伟达一样的CUDA生态再加上更高的瓶颈，未来GPU就只有三个卡，分别是显卡、苹果的芯片、以及AMD显卡，这些卡才是对应的未来芯片价值，美国是否会断供这就看这些显卡能够带来什么样的算力影响了。

现在如果你做产品经理大模型孵化与模型训练，可以说Mac studio ultra 512GB是最佳选择。

如果还没有自己部署过一个模型，还不说微调，那么基本就是非常OUT了，要学会用模型微调，甚至是模型来帮忙干预微调，都是AI产品经理的入门，要是现在自己还没有做过，那么恭喜你，几乎是OUT了。

今天的分享就到这里了。

找我交流与合作 空间计算与脑机接口系统开发

题图来自 Unsplash ，基于 CC0 协议， 如有侵权，请联系pmtalk123删除

“分享产品经理改变世界的点滴”

产品顾问｜ 产品咨询｜培训合作

请添加微信PMxiaowanzi

最近我的原创

不好意思，Axure仍然是我主流的原型工具

每日案例拆解库，AI等产品打卡群

我创建的产品设计打卡社群，加入后365天，每天体验一款APP。提升产品设计能力，同时有1300份体验报告帮助你找到竞品

在这里你可以随时查询到你想找的各类竞品行业APP，无须自己亲自下载就可以马上得到APP的一手产品优化、交互设计、功能描述信息。

从优化&建议、商业模式、运营、功能描述、交互设计、产品定位至少6个维度，体验一款应用。

平均1天1块钱，扫码购买即可加入

连续体验48款应用，通过后原路退回

报名后添加星球助理

PMTalk123