网易首页 > 网易号 > 正文 申请入驻

128GB的AMD输给64GB的英伟达,差距藏在日志里

0
分享至

一台是64GB内存的英伟达RTX Spark笔记本,一台是128GB的AMD Strix Halo平板。同样的模型、同样的文件、同样的设置,跑同一批本地AI任务,结果几乎每一项都是内存更小的那台赢。


但速度不是AMD该紧张的原因。真正的原因,写在日志里。

先交代两台机器。英伟达这边是联想Yoga 9n,搭载RTX Spark N1X和64GB内存,配置价3750美元;AMD这边是华硕ROG Flow Z13,锐龙AI Max+ 395加128GB,3300美元。两台都跑Windows 11,Smart App Control保持开启并强制执行——不会为了跑AI工具去关掉一个Windows安全功能。

测试条件统一:所有大模型任务走Ollama 0.40.8,模型文件完全相同,16K上下文,每项跑三次。Ollama自己选了CUDA和ROCm,也就是说两块芯片各跑各的原生GPU栈。图像生成用ComfyUI,FLUX.2 Klein 4B,文件、参数、种子一致。两台都开厂商最高性能模式。

能装下的任务,Spark全赢

本地AI的速度分两半:提示处理是模型读你给的材料有多快,token生成是它写回来有多快。测试方法是把《时间机器》前4万个字符(约9600个token)喂给三个模型,让它写摘要。

Spark读文档快2.1倍到3.5倍。这个差距是能感觉到的:Qwen3.8 27B在Spark上12秒开始回答,Z13上要31秒。领先最大的是gpt-oss 20B,每秒5616个token对1589个。

生成环节差距小一些,但仍是明确胜出:三个模型全部快1.4倍到1.6倍。Qwen3-Coder 30B在Spark上每秒写69.7个token,Z13上是50.7个。

图像生成的时间差最夸张。同样一张1024x1024、同样20步、同样种子,Spark用25.8秒,Z13用66.3秒,差2.6倍。每张图Z13多花40秒。

拔掉电源,差距更大

用电池时,Spark一点没降速,八次运行稳定在每秒71.4个token。Z13从插电成绩掉了17%,降到每秒42个token,部分原因是华硕在电池模式下锁掉了Turbo,只剩性能模式。联想保留了性能模式,于是Spark的领先从约1.4倍扩大到1.7倍。

功耗上Spark略高,墙插137W对126W,但它用一半时间写完每份摘要。折算下来每份摘要0.28Wh对0.52Wh,同样的活大约只用一半电。电池模式下两者分别约99W和71W,都能撑约一小时连续推理,但Spark靠更大的电池,一小时内能写完约两倍的摘要。

带宽解释不了差距,指向的是CUDA

这类芯片上,生成速度主要看内存带宽。英伟达的移植指南给RTX Spark标300GB/s,AMD给锐龙AI Max+ 395标256GB/s,英伟达纸面领先1.17倍。

但Spark的文本生成快了1.37倍到1.61倍,远超带宽差能预测的水平。纸面硬件解释不了这个差距,那就指向软件:一边是CUDA,一边是ROCm。300GB/s这个数可能还偏乐观——英伟达给自家DGX Spark里的GB10芯片标的是273GB/s,那样的话留给软件解释的空间更大。

连AMD自己的AI栈都得说CUDA

这才是AMD该紧张的地方。ROCm在Z13上是能用的:Ollama日志显示它跑在Radeon 8060S上,用的是自带的ROCm 7.1库。但在Z13上打开ComfyUI的系统信息,PyTorch的ROCm版本是这样描述这块GPU的:

  • PyTorch版本:2.12.0+rocm7.14.0
  • cuda:0 AMD Radeon(TM) 8060S Graphics : native (cuda)

这是设计使然。PyTorch文档写明,它的ROCm构建"有意复用现有的torch.cuda接口",所以为英伟达写的代码在AMD上几乎不用改就能跑。这是个聪明的变通,但AMD的AI栈是靠把自己伪装成英伟达来工作的。

AMD支持的Lemonade表现更差。安装包有签名,但它首次使用时下载的llama.cpp ROCm后端试图加载一个Windows无法验证的CPU库,被Smart App Control拦下,模型根本没加载。这跟测试用的是候选版本构建有关,但用winget或从Lemonade下载msi拿到的就是这个版本,所以值得指出。

另一边,Spark上的ComfyUI没被要求就自己开了DynamicVRAM内存管理和NVML监控——英伟达自家的管理库,同时把AMD后端报告为"PyTorch ROCm/HIP运行时不可用"。

Windows on Arm也让Spark付出代价

英伟达这边也不是全无摩擦。Windows on Arm版的ComfyUI还是beta,只支持英伟达GPU,跑的是每夜构建的PyTorch,而Z13拿到的是正式版。不过两边把模板跑起来都只花了约五分钟,没用什么变通手段。Arm更大的问题在别处,英伟达承诺所有应用都能跑,但没给时间表。

Strix Halo仍赢下一局,而且正是需要128GB的那局

Z13跑起了一个64GB的Spark连加载都做不到的120B模型。OpenAI的gpt-oss 120B在Ollama里需要约60GB内存,Z13把它整个放进GPU,每秒写31.7个token——对一台平板上的120B模型来说,这是真能用的速度。

Spark这边CUDA可用内存约46GB,没有机会。llama-server在启动时报内存不足:cudaMalloc失败,kv缓存缓冲区分配失败。这是64GB配置的限制,不是芯片的限制。两种GPU内存切分方式下CUDA都只看到约46GB,换个切分大概也救不回来。128GB的RTX Spark是存在的,但贵得多。

Z13用比Yoga低450美元的价格给了两倍内存。要在RTX Spark上追平128GB,得看6500美元的ProArt P14,接近翻倍,当然那也是更高一档的ProArt机器。

AMD的问题不在Strix Halo,在它周围的一切

两台都能跑的任务里,RTX Spark用掉的时间是Z13的40%到60%;唯一测了墙插功耗的那项,它用了约一半的电;图像生成快2.6倍。而生成速度的差距超出带宽规格能解释的范围,这总把人拉回软件。这是生态问题,不是芯片问题。

Strix Halo确实还有实打实的优势:Z13能跑64GB Spark跑不了的模型,价格更低,拿的是正式版构建,而Spark依赖beta和每夜版。但当PyTorch的ROCm构建自我介绍成cuda:0时,很难忽略大家到底在为谁的平台写代码。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
F1美国站正赛:安东内利PTW保留争冠悬念,乐扣、维斯塔潘分列二三

F1美国站正赛:安东内利PTW保留争冠悬念,乐扣、维斯塔潘分列二三

懂球帝
2026-10-26 05:49:04
全红婵不对劲,不是她以后不比赛了,而是她今年19岁了,居然开始了自己的精致路线

全红婵不对劲,不是她以后不比赛了,而是她今年19岁了,居然开始了自己的精致路线

LULU生活家
2026-09-30 20:32:43
毛主席一生中最大胆的一次豪赌!一旦失手,中国历史彻底改写

毛主席一生中最大胆的一次豪赌!一旦失手,中国历史彻底改写

杜榈手工制作
2026-10-25 10:12:45
印度中将称:宁愿打中国也不愿打巴铁,因解放军比巴军好对付得多

印度中将称:宁愿打中国也不愿打巴铁,因解放军比巴军好对付得多

海佑讲史
2026-10-22 19:20:09
巴西总统卢拉赢得连任

巴西总统卢拉赢得连任

新京报
2026-10-26 08:33:03
贺炜:曼联这一团乱麻是长久积累的结果,破局代价只能卡里克承担

贺炜:曼联这一团乱麻是长久积累的结果,破局代价只能卡里克承担

懂球帝
2026-10-26 09:19:26
俄罗斯令中国心寒?比西方围堵更恐怖的,是我们看轻了自己的实力

俄罗斯令中国心寒?比西方围堵更恐怖的,是我们看轻了自己的实力

梁濆爱玩车
2026-08-31 23:53:08
游泳运动员为何赛前必须“刮毛”?背后原因你知道吗?

游泳运动员为何赛前必须“刮毛”?背后原因你知道吗?

大运河时空
2026-10-25 17:15:05
发现一个奇怪的现象:凡是让老人独自生活,自己忙事业的子女,子女显轻松,老人也自在;选择与老人同住全心照顾的子女,常疲惫还被埋怨

发现一个奇怪的现象:凡是让老人独自生活,自己忙事业的子女,子女显轻松,老人也自在;选择与老人同住全心照顾的子女,常疲惫还被埋怨

品读时刻
2026-10-24 09:03:55
张本智和父亲:樊振东被挤走了,王楚钦跌出世界前四,男乒这回完蛋了?

张本智和父亲:樊振东被挤走了,王楚钦跌出世界前四,男乒这回完蛋了?

乒乓网国球汇
2026-10-21 00:49:12
女子佛州海边捡到“天价宝贝”,接连发现3块!没想到在美国,连私自持有都违法

女子佛州海边捡到“天价宝贝”,接连发现3块!没想到在美国,连私自持有都违法

华人生活网
2026-10-25 03:44:25
若恢复这一规定,中国结婚率或将大幅上涨,离婚率也会随之下降

若恢复这一规定,中国结婚率或将大幅上涨,离婚率也会随之下降

掉了颗大白兔糖
2026-10-24 06:47:36
卡拉格:卡里克故意不让B费登场,可能是想让他在球迷面前难堪

卡拉格:卡里克故意不让B费登场,可能是想让他在球迷面前难堪

懂球帝
2026-10-26 00:40:26
勒庞:若执政,将把法国打造成“和平之国”;外媒:法国骚乱后,勒庞成为唯一支持率明显上升候选人,第二轮支持率达70%,大幅领先梅朗雄

勒庞:若执政,将把法国打造成“和平之国”;外媒:法国骚乱后,勒庞成为唯一支持率明显上升候选人,第二轮支持率达70%,大幅领先梅朗雄

扬子晚报
2026-10-26 07:39:58
人一旦过了七十岁,就算身体没病没痛,也根本没有多少来日方长

人一旦过了七十岁,就算身体没病没痛,也根本没有多少来日方长

小虎新车推荐员
2026-10-20 03:23:02
锋线告急!切尔西锁定 4200 万欧冠神锋,阿隆索遭遇曼城抢人危机

锋线告急!切尔西锁定 4200 万欧冠神锋,阿隆索遭遇曼城抢人危机

澜归序
2026-10-26 09:17:57
不出意外的话,我国未来超50%的家庭用户都会选择HEV油混车

不出意外的话,我国未来超50%的家庭用户都会选择HEV油混车

浩渺青史
2026-10-24 00:50:02
全场灾难!巴萨头号核心彻底拉胯!一己之力葬送德比

全场灾难!巴萨头号核心彻底拉胯!一己之力葬送德比

澜归序
2026-10-26 08:25:23
卢拉逆转小博索纳罗,赢得巴西总统选举,将开启第四个总统任期

卢拉逆转小博索纳罗,赢得巴西总统选举,将开启第四个总统任期

文汇报
2026-10-26 08:28:10
父母的职业对孩子的耳濡目染效果绝了!简直就是缩小版的自己啊!

父母的职业对孩子的耳濡目染效果绝了!简直就是缩小版的自己啊!

另子维爱读史
2026-10-25 20:03:53
2026-10-26 10:08:49
野生运营
野生运营
懂点产品,懂点AI,正在努力给平淡日子搞点新花样。
161文章数 98关注度
往期回顾 全部

数码要闻

中国显示器Q3线上零售量303万台:小米前三 华为、三星被挤出前十

头条要闻

600亿公司59岁总裁被指父承子业 "圆通太子"发文澄清

头条要闻

600亿公司59岁总裁被指父承子业 "圆通太子"发文澄清

体育要闻

文班、约基奇和扬尼斯各自的处境

娱乐要闻

王佳佳近况:44岁导演老公露面

财经要闻

全球AI产业链迎“去杠杆”,何处是底?

科技要闻

苹果首款折叠屏没能养肥黄牛

汽车要闻

专业越野+华为乾崑智能 猛士X700限时焕新价20.98万起

态度原创

艺术
旅游
亲子
数码
军事航空

艺术要闻

家底丰厚的贵公子,最后散尽千金,留给民族无价珍宝

旅游要闻

海口挺丰村:羊山古厝 动漫入村

亲子要闻

小鸭鸭的嘴也太甜了,几句话就把妈妈哄得乐开了花

数码要闻

古尔曼:苹果正测试配备OLED屏幕的iMac和MacBook Air

军事要闻

高清大图!歼-15红蓝对抗训练最新画面

无障碍浏览 进入关怀版