网易首页 > 网易号 > 正文 申请入驻

国行5090被砍到24G之后,普通人本地跑大模型还买啥

0
分享至

群里又有人甩链接:满血 5090,32G,街价三万四往上。底下立刻有人回,国行不是只要一万六吗?

我点进去一看,国行叫 5090D v2,显存写的是 24G。

同一句「5090」,容量差出 8G,价格差出将近一倍。我们这种普通人想本地跑大模型,最容易卡在「到底该砸多少钱、显存买多大」。

这篇按分析视角把 2026 年 9 月能买到的本地 LLM 硬件摊开——消费卡、专业卡、一体机、苹果整机都进表。只比显存/统一内存、带宽、官价与实际买价、适不适合本地跑。数字来自 NVIDIA / Apple 公开页和国内街价引用;公开页没写死的标「公开页没写死」,不编每秒多少 token。看完按一万五、两万五、五万以上对号入座就行。

先把名字说清楚

网上爱说「最新 A6000」。老 Ampere 那张叫RTX A6000,48G;Ada 叫RTX 6000 Ada,还是 48G;现在旗舰工作站卡正式名是NVIDIA RTX PRO 6000 Blackwell Workstation Edition,全球版96GB GDDR7。国行工业包装里常见PRO 6000D,挂牌多写约 84GB,带宽以公开页为准——ZOL 有数,我这边按「SKU 相关、公开页没写死」处理。

苹果这边也容易叫错。没有单独产品名「Mac Studio Ultra」。正确说法是Mac Studio,搭载 M5 Ultra(或以前的 M3 Ultra)。2026 年 8 月国行刷新:Mac mini 是 M6 / M5 Pro;Mac Studio 是 M5 Max / M5 Ultra。

5090 也得分清:全球满血32G / 1792 GB/s;国行当前是5090D v2:24G / 1344 GB/s,指导价¥16,499 起。早期还有过 32G 的 5090D,后来被 v2 替掉。别拿满血海报去对国行价签。

四类硬件,参数与买价1. 消费卡

RTX 4090 24G:带宽约1008 GB/s。街价引用大概¥17k–21k(含 4090D / 涡轮口径)。按显存粗看,很多 7B–14B 高量化、30B 左右 Q4–Q5 还能玩;70B 就紧。

4090 48G 魔改:不是 NVIDIA 官方产品,多数是单芯 + 双面显存改板,别跟「双芯」混为一谈;带宽大体还在母卡~1008 GB/s那一档。街价引用大约¥22.5k–28k。显存对本地部署很香,70B Q4 更有底气。

满血 RTX 5090 32G:带宽1792 GB/s,发射建议价常被引成$1,999。国内 FE 街价引用大约¥33,999–36,400。比国行 5090D v2 多 8G 显存、多一截带宽,本地塞更大模型更从容;代价是买价差不多翻一倍,电源也要跟上。预算够、就要 32G 这一档时,它和 D v2 是两条真实选项。

RTX 5090D v2:24G /1344 GB/s。指导价¥16,499 起,街价常见约 ¥17k–24k,看具体非公和涡轮。容量回到 4090 那一档,架构和带宽更新。图的是这个价位段的国行旗舰游戏卡,不是「买到满血 32G」。

2. 专业卡

RTX A6000:48G ECC,带宽768 GB/s。历史官价大约$4,650。国内现价公开页没写死,街价要看当时挂牌。要 48G ECC 时值得拿出来谈,别因为它「老」就从对比里删掉。

RTX 6000 Ada:48G ECC,带宽960 GB/s。国内有过约¥53,000的秒杀引用。比 Ampere A6000 带宽更高,仍是单卡 48G 档。

RTX PRO 6000 Blackwell:全球版96G GDDR7 / 1792 GB/s,美区标价曾涨到约$16,000。国行PRO 6000D挂牌约84G,ZOL 引用大约¥47,999起;带宽按 SKU,公开页没写死的我标未知。国内挂牌能见到。真要超大显存、长上下文、一台机器塞更大模型,看这条线。

3. 一体机(DGX)

DGX Spark:128GB 统一内存,带宽273 GB/s,Founders 价涨到约$4,699。NVIDIA 营销页写过大概能推到约 200B 推理、约 70B 微调——这是厂商说法,我不当独立跑分。软件栈是 Arm 侧,装机体验跟普通海景房独显不一样,参数和价仍进总表。

DGX Station:桌子边的大家伙,相干内存到几百 GB 量级(公开页口径约 252GB HBM3e + 496GB LPDDR5X 一类),HBM 带宽到7.2 TB/s量级。消费级公开价基本没有,伙伴报价常到数万美元。有预算时可以谈,不当「普通人默认第一张卡」。

4. 苹果统一内存

安静、开箱就能折腾。

  • Mac miniM6:最多32GB,带宽最高约170 GB/s¥6,999
  • Mac miniM5 Pro:最多64GB307 GB/s¥12,999
  • Mac StudioM5 Max:最多128GB,最高约614 GB/s¥19,999
  • Mac StudioM5 Ultra:最多512GB1.2 TB/s¥46,999起;512GB 配置大概要到 10 月下旬才陆续有货

CTO 加内存的精确人民币,公开新闻稿没写死,这篇不编。带宽比独显同价位通常低一截,但噪音低、不用配海景房电源,是它的本事。

附:企业卡二手价位(可选对照)

二手市场上能见到A100 80GH100。长三角指数引用大概 A100¥34k–38k,H100 高位曾到约¥82,000,形态和报价都乱。显存大,适合已经知道自己在买什么的人;不当本文默认 Top 推荐。

AMD 消费卡在国内本地 LLM 教程生态里仍偏折腾,这篇不当一线推荐。国产 NPU 小主机在冒头,可比的「显存等价 + 稳定街价」这轮没锁死,只当垂直方向提一句,不映射成模型尺寸。

一张总表(参数印在图上)







设备 × 显存/统一内存 × 带宽 × 参考价,见配图《普通人能买到的本地LLM硬件对照》。按消费卡 / 专业卡 / 一体机 / 苹果分组——表里都是能买到的选项。

我怎么打推荐星

没有全面第一。我按四个主观维打星:好不好买&贵不贵;性价比&速度感;能否真满足本地部署;本地买卡 vs 买网络 Token。细表见配图。

TOP1 · Mac mini M5 Pro(≤64GB)

整机开箱最省心。官价 12999 起,安静。中等本地模型友好。独显党会嫌带宽,可你要的是「今晚就能跑」,它经常赢。

TOP2 · RTX 5090D v2(24GB)

国行旗舰游戏卡。指导价 16499 起,盯街价。容量像 4090,算力带宽更新。预算卡在两万上下、认 NVIDIA 生态时,它最省事。

TOP3 · 满血 RTX 5090 32G

街价大约 3.4–3.6 万。多出来的 8G 和 1792 GB/s 带宽,本地大模型更从容。愿意比 D v2 多掏一倍左右买价、电源也跟得上时,这是明确的升级档。

另外值得打分的两条

  • 4090 48G 魔改:三万内显存很猛,街价大约 2.3–2.8 万,70B Q4 更现实;认改板就谈,不认就跳过。
  • PRO 6000D / A6000:要 48G+ ECC 或接近 84–96G 这一档时拿出来比。A6000 历史约 $4650、现价公开页没写死;PRO 6000D 引用约 4.8 万起。

预算到了、真要超大显存:看 PRO 6000 / PRO 6000D,或苹果 Studio Ultra 芯片那条线。DGX、二手 H100 留给预算和场景都对得上的人。

买卡,还是买 Token?

2026 年国内 API 已经很便宜。DeepSeek V4 Flash 峰值大致是输入未命中每百万¥3、输出¥9,闲时大约一半;Pro 更贵一档。通义 Qwen-Plus(≤128K)大约输入¥0.8/ 输出¥2。豆包 Seed-2.1 Turbo 大约输入¥3/ 输出¥15

一张¥17k–25k的卡,按 Flash 峰值粗算,能换非常非常多百万 token。可别急着跟人吵「几个月回本」——日活字数、要不要隐私、能不能接受限流,差一个人一个样。

本地赢在隐私、离线、延迟稳、不限流。API 赢在零买卡、跟最新闭源、没有机箱和电费。钱砸在显存上,买的是自主权;钱砸在 Token 上,买的是省心。公开数据撑不起「买卡一定更省钱」这句狠话。

按预算怎么选(普通人落地)

我们这种普通人本地跑大模型,别先盯型号名,先卡预算:

  • 大约一万五:优先Mac mini M5 Pro(官价 12999 起,≤64GB)。想独显、已有电源:看5090D v2街价能否压进两万内;再往下是 Mac mini M6 或二手 4090 24G 档。日常轻量需求,先把 API 用熟也完全合理。
  • 大约两万五:在5090D v24090 48G 魔改之间选——前者好上手,后者显存更大、70B Q4 更现实。整机路线可看 StudioM5 Max(19999 起,≤128GB)。
  • 五万以上:要 32G 满血就上5090 32G(街价约 3.4–3.6 万);要更大显存比PRO 6000D / PRO 6000A6000 / 6000 Ada,或苹果Studio M5 Ultra。一体机 DGX Spark/Station、二手 A100/H100 也是这个预算带才谈得上的选项。

街价会变。文中 tok/s 一个没有,只有显存够不够塞的粗判断。

你现在机器是啥配置?预算卡在一万五、两万五,还是五万以上?评论区报个号,我按你的预算帮你缩到两个选项。

#显卡#

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
五险一金负担太重?卢麒元:全取消,征房产直接税,经济才会正常

五险一金负担太重?卢麒元:全取消,征房产直接税,经济才会正常

明天见灌装冰块
2026-08-31 23:57:15
张一山《重案六组》被观众要求下架,理由出奇一致:毁了警察形象

张一山《重案六组》被观众要求下架,理由出奇一致:毁了警察形象

白面书誏
2026-09-01 13:46:48
“黑天鹅”突袭!刚刚,猛烈抛售!美股、黄金集体跳水

“黑天鹅”突袭!刚刚,猛烈抛售!美股、黄金集体跳水

证券时报
2026-09-01 19:37:04
体坛乱了!张军被查牵连两大名将,刘国梁被传下课,蔡振华成焦点

体坛乱了!张军被查牵连两大名将,刘国梁被传下课,蔡振华成焦点

蹲坑看世界
2026-09-02 04:24:48
莫迪已经做好准备,一旦特朗普对中国出手,印度将迎来泼天富贵?

莫迪已经做好准备,一旦特朗普对中国出手,印度将迎来泼天富贵?

小言爱历史
2026-09-01 13:31:24
跌下神坛的贵族水果,从百元一斤跌到几块钱,人们反倒不愿意买了

跌下神坛的贵族水果,从百元一斤跌到几块钱,人们反倒不愿意买了

铭记历史呀
2026-09-02 02:16:05
足协杯:国安3-1兰州!张玉宁、邓捷夫破门,兰州门将超巨失误

足协杯:国安3-1兰州!张玉宁、邓捷夫破门,兰州门将超巨失误

乒烧泳球
2026-09-01 21:36:47
父亲仍在坐牢!18岁小罗比尼奥加盟意甲保级队 曾遭内马尔当众掌掴

父亲仍在坐牢!18岁小罗比尼奥加盟意甲保级队 曾遭内马尔当众掌掴

风过乡
2026-09-02 08:04:01
上海东站不是给全上海建的,先想清楚谁省时间

上海东站不是给全上海建的,先想清楚谁省时间

糖逗在娱乐
2026-09-02 01:14:41
你这面相,大城市人都看不上!大三女生晒无友孤独日常,被骂活该

你这面相,大城市人都看不上!大三女生晒无友孤独日常,被骂活该

番外行
2026-08-29 10:11:12
闹大了!于东来力挺韩红不到24小时,难堪一幕出现,旧账全被扒

闹大了!于东来力挺韩红不到24小时,难堪一幕出现,旧账全被扒

翰飞观事
2026-09-01 19:27:05
女星演出 “衣不遮体” 遭官媒痛批:拿艺术当幌子,这和耍流氓有啥区别

女星演出 “衣不遮体” 遭官媒痛批:拿艺术当幌子,这和耍流氓有啥区别

乡野异闻录
2026-08-30 15:05:09
李春平身边23名员工联名写举报信!举报利益集团安排李春平假结婚

李春平身边23名员工联名写举报信!举报利益集团安排李春平假结婚

细品名人
2026-09-01 22:35:27
吴柳芳谈退役安置:刘翔起码还有“二选一”的选择,自己只有买断这一条路

吴柳芳谈退役安置:刘翔起码还有“二选一”的选择,自己只有买断这一条路

韩小娱
2026-09-01 07:18:43
男篮绝杀黎巴嫩后,日媒、美媒、韩媒各说各话!评价差距这么大?

男篮绝杀黎巴嫩后,日媒、美媒、韩媒各说各话!评价差距这么大?

kio鱼
2026-09-02 00:49:46
湖人5200万新援打疯了!两战轰39+13+10,三大特质完美适配东契奇

湖人5200万新援打疯了!两战轰39+13+10,三大特质完美适配东契奇

锅子篮球
2026-09-01 10:43:46
封神捡漏!阿森纳锁定 17 岁超新星!完美复刻萨卡 + 巴黎巨星

封神捡漏!阿森纳锁定 17 岁超新星!完美复刻萨卡 + 巴黎巨星

澜归序
2026-09-02 08:34:14
黄磊官宣退出《向往的生活》:该停就停别等人烦了再走!

黄磊官宣退出《向往的生活》:该停就停别等人烦了再走!

老蒋动画
2026-09-01 14:32:43
孙楠吃素7年瘦了22斤,一点肉都不吃,早餐坚持吃纳豆体脂率12.3%

孙楠吃素7年瘦了22斤,一点肉都不吃,早餐坚持吃纳豆体脂率12.3%

椰黄娱乐
2026-09-01 10:18:13
乌兹别克斯坦这波“截胡”真够快!8月30日,乌方公开本国飞行员驾驶中国歼-10CE战机回国的画面,正式成为该机型第二个海外买家

乌兹别克斯坦这波“截胡”真够快!8月30日,乌方公开本国飞行员驾驶中国歼-10CE战机回国的画面,正式成为该机型第二个海外买家

扶苏聊历史
2026-09-01 16:17:17
2026-09-02 09:40:49
辉哥说动漫
辉哥说动漫
感谢官方
507文章数 18165关注度
往期回顾 全部

数码要闻

配备摄像头的AirPods或将进一步提升空间音频头部追踪效果

头条要闻

3天内第2轮袭击 特朗普威胁伊朗终极打击蓄势待发

头条要闻

3天内第2轮袭击 特朗普威胁伊朗终极打击蓄势待发

体育要闻

大爹杨瀚森,让中国男篮有了容错空间

娱乐要闻

孙宇晨和景甜的瓜彻底反转了

财经要闻

全球粮价冲高,会影响国内市场吗

科技要闻

凌晨最强模型上新,Claude Fable 5.1发布

汽车要闻

山城试驾启源Q06 不光是智驾好用还有700km的续航

态度原创

家居
艺术
旅游
手机
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

273米,10亿!深圳最多“外号”的摩天楼,正式运营!

旅游要闻

朔州:敬德公园里的荷花

手机要闻

iPhone Ultra/iPhone 18 Pro Max机模开箱上手:外观彻底定了

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版