网易首页 > 网易号 > 正文 申请入驻

苹果做了台五万块的盒子,OpenAI的月费不好收了

0
分享至



苹果这周发了台新机器。Mac Studio,M5 Ultra 芯片,中国售价 46999 元起。

差不多五万块。能买台不错的二手车。但这台机器配了 512GB 统一内存,1.2TB/s 带宽,每个 GPU 核心塞了神经网络加速器,AI 计算性能比上代快 4.3 倍。这些参数合起来干的事就一件:在本地跑以前只在云端跑的大模型。

512GB 是什么概念。你手机大概 12GB 内存。顶级游戏显卡 RTX 4090 显存 24GB。NVIDIA 专跑 AI 的 H100 一张 80GB,想装下千亿参数模型得买八张绑一起,光卡就几十万。

苹果的办法是统一内存。M5 Ultra 的系统内存和显存不分家,512GB 一台机器全包。不用装机柜,插电就跑。机器本体只有 19.7 厘米见方、9.5 厘米高,搁桌上不占地方。

HN 这条新闻底下 408 条评论,点赞最高的一批全在聊本地跑模型的实测数据。Llama 70B 压缩后跑 30 到 45 token 每秒,Qwen 72B 跑 28 到 40,日常用够快了。有人把 DeepSeek 671B 压到 2-bit 塞进去了,虽然只跑 15 到 25 token 但确实能跑。

以前你花钱让云端帮你跑的活,这台机器搁家里能跑了。

那 OpenAI 的月费还交不交。

分人。

你偶尔用用 AI 写写邮件改改文案,ChatGPT Plus 一个月 20 美元,一年 240 美元。花几万块买台机器一周用三次,钱花得冤。

天天跑大模型的,或者小团队拿 AI 当生产力工具的,账就不是这么算了。HN 上有个做 AI agent 平台的创业者说了句话:他现在能跟客户说不用交 OpenAI 的 API 费了,这台机器一年回本。一个天天跑 agent 的团队,API 费一个月几百到几千美元。M5 Ultra 基础版 5499 美元,按每月 500 美元 API 费算,11 个月回本。按每月 2000 美元算,3 个月回本。机器买断能用三五年,月费用完就没了。配一台等效的 NVIDIA 工作站跑大模型,一块 H100 单卡几万,八卡服务器整机几十万还得自己组装维护。HN 那边有人算过,同样能跑满血大模型的设备,Mac Studio 比 NVIDIA 便宜 30% 到 50%。

但本地跑真正值钱的不是省钱。

你的数据不出门。律师所、医院、会计师事务所,这些行业有保密合规要求,客户数据不能往云端传。以前想用 AI 合规卡着不让用,现在本地跑没人管得着。飞机上、信号差的地方、对网络稳定性有要求的生产环境,云端 AI 断网就停。本地的不停。跑多少都不多收一分钱,不限速不限量,半夜想跑多少跑多少。macOS 去年 12 月更新还支持了分布式推理,多台 Mac 用雷雳 5 连一起共享内存。四台 Mac Studio 绑一起,AI 推理速度能到单台的三倍。苹果在这块生态上布局得很明显。

但别急着掏钱。

512GB 满血版 18299 美元,折合人民币十三万多,10 月才出货。基础版只有 96GB 内存,跑 Llama 70B 够用,想跑 DeepSeek 671B 这种巨无霸得加钱上大内存。苹果内存贵是出了名的,升级内存的钱在外面能买好几条同容量内存条。但统一内存架构就这样,你没法自己加,只能跟苹果买。今年 DRAM 涨价,苹果全线涨价,M5 Ultra 比 M3 Ultra 发售时贵了 200 美元。

软件这块,苹果自己的 MLX 框架跑得最快,但对普通用户门槛高。Ollama 一行命令拉模型就能跑,适合有点技术的。LM Studio 有图形界面,没用过命令行的人也能上手。三款工具今年都更新了 MLX 后端,速度比半年前快了不少。但跟云端比,本地配环境还是麻烦,这点别忽悠人。

HN 上有人聊到这个用法:你是个小公司的运营,每天要把销售数据整理成周报发给老板。以前导数据到 Excel,手动做透视表,写总结,发出去。现在让本地的 Qwen 72B 直接读你的 CSV 文件,生成表格加一段总结,十五分钟干完以前两小时的活。数据没出过公司,合规没问题,没花一分钱 token 费。天天这么干,一年省下的 API 费够买两台基础版 Mac Studio。

意大利有个写 Redis 的大佬 antirez,自己搞了个叫 DS4 的本地推理框架,跑 DeepSeek V4 Flash 量化版,跟 Claude Code 兼容。他那个项目 10 天拿了一万多颗星。大厂之外的人在往这条路上挤。苹果同一天还发了台 Mac mini,M6 芯片,2 纳米工艺,起价 899 美元。16GB 内存跑不动大模型,但买四台绑一起能组集群。Mac mini 试水本地推理入门,Mac Studio 守住高端 AI 计算。苹果一年内把整套本地 AI 工具链铺齐了。

这两年开源模型跑出来的速度比云端闭源的还快。DeepSeek 671B 量化版本地就能跑,Qwen 72B 已经追得上 GPT-4 多数任务,Llama 3.3 70B 在代码生成上比去年那版强了不止一档。本地能跑好用的模型越来越多,这是 Mac Studio 这种机器能成事的根本。要是开源模型还停在三年前的水平,硬件再好也没用。

到底该不该买。天天跑模型的,现在可以认真考虑了。数据不出门、不交月费、断网也能跑,对很多人来说值五万块。偶尔用用的,继续交月费,别跟风。

苹果在这件事上占了个便宜,它没跟 OpenAI 正面竞争,一个卖硬件买断,一个卖服务收月费。但硬件买断能覆盖大部分使用需求的时候,月费那边的账就不好算了。M5 Ultra 的宣传重点是 AI 计算、本地推理、开放权重模型,条条冲着云端 AI 服务的生意。

512GB 这条线过了,本地 AI 就算到站了。后面只会越来越便宜越来越快。买不买看你用量,但这个方向是定的。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
后续!千万打赏榜一大哥老底被扒,上过新闻联播,姐姐也是女强人

后续!千万打赏榜一大哥老底被扒,上过新闻联播,姐姐也是女强人

时间巡查
2026-08-25 18:06:37
李谷一不再隐瞒!揭露宋祖英走上高位的真相,难怪她丁克多年

李谷一不再隐瞒!揭露宋祖英走上高位的真相,难怪她丁克多年

遁走的两轮
2026-07-08 22:06:29
他是江青的前夫,曾担任首任天津市委书记,儿子后来官至正国级

他是江青的前夫,曾担任首任天津市委书记,儿子后来官至正国级

史辨人生
2026-08-23 07:25:14
尼泊尔严重山洪致157死484失踪,波及西藏口岸造成重大伤亡

尼泊尔严重山洪致157死484失踪,波及西藏口岸造成重大伤亡

iWeekly周末画报
2026-08-27 09:32:22
胡歌:本以为和黄曦宁生下一女一男就够幸福,没想到幸福又升级了

胡歌:本以为和黄曦宁生下一女一男就够幸福,没想到幸福又升级了

娱圈办事处
2026-08-27 16:23:03
申花新帅高情商,赞泰山队攻防均衡,丢7个球点谁呢?李松益难首发

申花新帅高情商,赞泰山队攻防均衡,丢7个球点谁呢?李松益难首发

替补席看球
2026-08-27 16:17:40
巴特勒斥责前女友躺平不工作!现在又同居,颜值高,每月支付6万

巴特勒斥责前女友躺平不工作!现在又同居,颜值高,每月支付6万

你的篮球频道
2026-08-27 09:18:11
立秋后黄瓜冬瓜靠边站,多吃这3样应季菜,一通便二护眼三养肺

立秋后黄瓜冬瓜靠边站,多吃这3样应季菜,一通便二护眼三养肺

江江食研社
2026-08-23 21:30:09
伤亡惨重!美军20个基地被炸,1300名美军全泄密,美媒羡慕中国

伤亡惨重!美军20个基地被炸,1300名美军全泄密,美媒羡慕中国

兵鉴史
2026-08-21 18:31:18
给Claude和ChatGPT接上实时足球数据:用MCP服务器包装足球API

给Claude和ChatGPT接上实时足球数据:用MCP服务器包装足球API

灰度测试中
2026-08-26 12:06:43
十年前就在研制,十年后仍未露面,轰20设计方案极可能经过了大改

十年前就在研制,十年后仍未露面,轰20设计方案极可能经过了大改

军武吐槽君
2026-08-26 16:09:35
《重器》12位美女颜值排名,胡杏儿第10,张佳宁第3,第1很惊艳

《重器》12位美女颜值排名,胡杏儿第10,张佳宁第3,第1很惊艳

娱君坠星河
2026-08-27 15:23:02
站中国还是站美国?80对19结果一出,东盟分成两大阵营,舆论炸锅

站中国还是站美国?80对19结果一出,东盟分成两大阵营,舆论炸锅

时尚的弄潮
2026-08-26 09:14:41
CCTV5直播,中国女篮VS马里女篮,张子宇成胜负手,能赢下不?

CCTV5直播,中国女篮VS马里女篮,张子宇成胜负手,能赢下不?

体坛小快灵
2026-08-27 09:12:16
遇人不淑输光半生!洪欣与张丹峰16年婚姻落幕,付出终成一场空

遇人不淑输光半生!洪欣与张丹峰16年婚姻落幕,付出终成一场空

梦醉为红颜一笑
2026-08-24 20:45:53
这碗“毒面条”养废了多少孩子?很多家长未察觉,还在不停地喂

这碗“毒面条”养废了多少孩子?很多家长未察觉,还在不停地喂

浩源的妈妈
2026-08-05 16:30:27
才提车就亏1万,网传理想车主拉横幅维权

才提车就亏1万,网传理想车主拉横幅维权

财通社
2026-08-26 15:58:24
白开水放多久就不能喝了?劝告:超过这个时间,别再喝了

白开水放多久就不能喝了?劝告:超过这个时间,别再喝了

鬼菜生活
2026-08-23 09:11:14
特朗普:穆杰塔巴还活着,如果他已经去世,伊朗政府还声称定期与他商议,那“这场戏算是演得相当不错”

特朗普:穆杰塔巴还活着,如果他已经去世,伊朗政府还声称定期与他商议,那“这场戏算是演得相当不错”

鲁中晨报
2026-08-27 10:58:04
巴沙尔为什么被赶下台?原来,叙利亚一直不承认,库尔德人的权利

巴沙尔为什么被赶下台?原来,叙利亚一直不承认,库尔德人的权利

掠影后有感
2026-08-24 10:39:57
2026-08-27 17:23:00
侃故事的阿庆
侃故事的阿庆
几分钟看完一部影视剧,诙谐幽默的娓娓道来
813文章数 9373关注度
往期回顾 全部

数码要闻

苹果公布秋季新品发布会邀请函:新CEO、折叠屏iPhone都要来了

头条要闻

重磅打"虎" 江西省委副书记、省长叶建春被查

头条要闻

重磅打"虎" 江西省委副书记、省长叶建春被查

体育要闻

因为这条规则,欧联冠军一个夏天散伙了

娱乐要闻

包贝尔幽会后陪老婆!曾炫耀谈7个女友

财经要闻

英伟达,营收翻倍大增,指引碾压预期

科技要闻

苹果邀请函:新CEO、折叠屏iPhone都要来了

汽车要闻

领克900:心之所向皆可抵达 | 潮汕篇

态度原创

健康
时尚
教育
本地
公开课

突发脑梗怎么救命?一定看这两条路

卧底「搭讪培训班」:偷拍、迷药、围猎女性

教育要闻

成都家长问“专注力机构哪家好”?深耕本土近30年的丹秋学习力值得关注

本地新闻

无印良品竟是桐乡造?这座小城藏着一个刀具帝国

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版