网易首页 > 网易号 > 正文 申请入驻

雷神水冷迷你AI工作站评测:低温开跑120B本地大模型

0
分享至

在AI热潮推动下,近几年高性能迷你主机火得不行,但市面上大多数产品还在用风冷硬扛,小机箱一压满负载往往就降频、就吵。雷神这台水冷迷你AI工作站想解决的正好是这件事——它用上AMD锐龙AI Max+ 395算力领先的平台,再把一套定制水冷塞进正方体里,雷神目标很明确:让这台小机器能长时间满血跑AI,而不是过一会儿就降频。实际表现如何,一起看看。



本地部署大模型这两年突然成了很多人的刚需,原因无它,云端方案要传数据,不仅有隐私顾虑更关乎数据拥有主权,网络一抖就卡,会有延迟,token费还不停烧钱。把模型放在自己桌上跑,数据不出门,成本一次付清,响应还稳。但AI推理和训练往往是7×24小时连轴转,跟机房里的服务器差不多,对散热和稳定性是实打实的考验,这正是雷神水冷迷你AI工作站用上水冷的根本原因。

既然用上水冷,我们一起来看看雷神水冷迷你AI工作站的外观,它是个方方正正的立方体,长宽高都是199mm,体积差不多7.9升,放桌上不占地儿,也没整那些跑马灯和花哨装饰,跟大多数桌搭都能搭上。



外壳、顶盖、底座全铝,表面处理得细,四边做了圆角过渡,摸上去不刮手。机身稳定性方面,6.5kg摆在那,想随手挪一下得两只手抱,放桌上根本不用担心碰倒。



雷神水冷迷你AI工作站拆解很简单,拧下左右两侧一共8颗外露的六角螺丝,再取下前后两块铝合金挡板,就能看到机器内部了。机器顶部是一整面网状的圆角矩形散热开口,金属顶盖底下是密密麻麻的蜂窝状散热网,水冷系统就藏在机身内部上方。底座用了悬浮设计,视觉上更显轻薄,也更有科技味。



雷神水冷迷你AI工作站水冷系统由两部分组成,一是安装在CPU之上的“散热岛”,官方叫法是“岛式全覆盖”,这是块12000平方毫米的纯铜多岛冷板,当中冷热转换面积做到了1960平方厘米。散热岛通过热管把热量传递到顶部的散热冷排当中,最后通过大口径双滚珠轴承风扇把热量吹走。







按照官方说法,雷神水冷迷你AI工作站能跑出176W的瞬时峰值,并能长烤不掉速,而且在高负载跑AI下,核心温度大概76℃,比风冷方案温度更低。不过雷神水冷迷你AI工作站还得是AMD锐龙AI Max+ 395处理器,它基于Zen 5架构,Strix Halo平台,内置16核32线程,加速频率5.1GHz,80MB缓存,NPU算力50TOPS。更关键的是内存——板载128GB LPDDR5X 8000四通道统一内存,靠AMD的可变显存技术,最高能从这128GB里划出96GB当专用显存用。



桌面独立显卡显存最多32GB,这台小机器光能划出来当显存用的就有96GB,整整三倍。96GB显存能干什么?最常用的Q4_K_M量化下,200B以下的模型随便装,Qwen3.8 flash next、GPT-OSS-120B这种都能整包塞进去跑。100B以下级别的MoE模型更宽裕更高效,跑Q4_K_M还剩不少余量,上下文能开到260K,本地做AI数据集、文档检索都够。



换成INT8 / Q8_0量化精度,100B以下参数的大模型加上上下文缓存也能完整高效跑下来,本地能部署的模型尺寸又上了一个台阶。

图形方面是Radeon 8060S集显,RDNA 3.5架构、40个计算单元、频率2900MHz。很多人一听集显就觉得不行,其实它和桌面独显是同一个架构源头,驱动、图形接口都通用,日常修图剪片、轻度3D没问题,想玩游戏也顶得上,显示输出和视频编解码全归它管,不用额外插独显。

存储给的是2TB PCIe 4.0固态,机器里还留着2.5英寸硬盘仓和第二个M.2插槽,最多能塞三块高速固态,后面想加盘也方便。





在接口方面,雷神水冷迷你AI工作站也给得很足,前面板从左到右是方形电源键、USB2.0 Type-A、USB3.2 Type-C和3.5mm音频口。背部接口面板更密:2个USB2.0、DP 1.4、HDMI 2.1、2个USB-A 3.2、2个USB4、2.5G+10G双网口、3.5mm音频,还有2.5G、10G Wi-Fi天线接口和AC电源接口。双网口对组网和小服务器接入很友好,USB4也能外接高速设备和给设备供电。





电源上,这台小机器也有惊喜,内置了400W ATX12VO白金级电源,不用在桌上拖一个外置电源适配器,桌面上就一根电源线,干净。

性能测试

在硬件层面,雷神水冷迷你AI工作站在同类产品绝对是站在一流水平了,那实际性能表现呢,跑起来看看。

先看CPU,CineBench 2024是Maxon推出的CPU性能基准测试工具,基于Cinema 4D渲染引擎,用来衡量处理器的渲染计算能力。拿它测锐龙AI Max+ 395,单核多核各跑一遍,就想看这台小机器在稳定功耗下,渲染性能还剩多少。实测多核分数2016 pts,单核116 pts,MP Ratio达到17.31x,无论单核还是多核成绩得分都很高。



内存这块用AIDA64的Cache & Memory Benchmark来测。AIDA64是老牌的硬件检测与基准测试套件,这个子项专门测量内存子系统的读写、复制带宽和访问延迟。Strix Halo这种CPU和GPU共用一块内存的架构,最吃的就是这条带宽。实测读取120.17GB/s、写入214.25GB/s、复制144.63GB/s,延迟142.0ns——写入比读取还高,是四通道LPDDR5X分配了大内存后的正常表现。



雷神水冷迷你AI工作站使用的长江存储PCIe4.0的SSD,实测顺序读取7111.08MB/s、顺序写入6429.43MB/s;4K随机读取970020 IOPS,4K随机写入1081799 IOPS。



看过CPU、内存、SSD几大件的性能后,我们看看其AI性能表现。

测试软件是UL Procyon,UL Solutions(原Futuremark)出的专业套件,AI Inference系列直接调本地模型跑推理,文本生成、图像分类、超分这些任务的吞吐和延迟都能测。参数表写得再漂亮,不如让它跑一遍。

这次选了AI Text Generation和AI Computer Vision 2.0两项。Text Generation这里拿了Phi 3.5、Mistral 7B、Llama 3.1三个常见模型跑,总分1216、1035、783,折算成生成速度是58.45、38.05、31.67 tokens/s。



7B-8B这个量级的模型,本地跑起来和云端小模型对话没多大差别。70B的也能塞进去,但那个速度适合后台慢慢处理。

Computer Vision 2.0则分别跑了int8精度NPU和fp16精度GPU两种后端,得分1162和1196,说明NPU在量化视觉任务里已经和GPU浮点性能相当接近,做本地图像识别、超分、分割都有实用价值。





AI当然不能停留在跑分之上,我们还采用LM Studio部署了本地大模型进行测试。

我装了两档模型。轻量的是DeepSeek v4 Pro Qwen3.5 9B MTP,日常问题随手就能问:让它整理苹果手机的处理器型号,6.15秒答完;整理Windows系统版本号,2.32秒就答上来了。





想体验128GB内存的价值,还得靠GPT-OSS-120B这种大模型。我丢了一份218页的Word版2026年半年度报告进去,上下文开到131072,跑起来内存吃掉31.1GB,集成显卡那边又占70.2GB,加起来过100GB,结论照样很快给出来。这活要是换常规的消费级独立显卡,甚至低一点的计算卡,显存根本装不下。







除了对话之外,我们还测试了主机在LM Studio下的算力。单路推理下,DeepSeek-V4-Pro-Qwen3.5-9B-MTP在短输入、中长文生成、4K长上下文三种场景全都是40.0 tok/s,稳得像一条直线,首字延迟中位333ms。GPT-OSS-120B表现更好:短输入51.7 tok/s、中长文50.4 tok/s、4K长上下文49.4 tok/s,综合50.4 tok/s,首字延迟中位只有195ms。



并发也没放过,4路同时压:DeepSeek-V4-Pro-Qwen3.5-9B-MTP模型整体吞吐65.33 tok/s,摊到每路17.92 tok/s,最大首字延迟2526ms;GPT-OSS-120B整体吞吐反而冲到71.60 tok/s,单路17.94 tok/s,最大首字延迟2016ms比9B还低。多人同时用,120B不但没被拖垮,单路体验跟9B基本一个水平,这机器的算力和内存带宽是真的富裕。



雷神水冷迷你AI工作站的价值当然不止是人工智能应用,游戏、日常办公它也是能胜任的。先来一个大家熟悉的3DMark摸底,跑了Time Spy、Port Royal、Steel Nomad Light三项。Time Spy总分11447,显卡分11552、CPU分10888,预估2K Ultra画质下《战地V》能到110+ FPS;Port Royal光追专项5961分,显卡测试27.60FPS,说明Radeon 8060S应对光追压力还是比较吃力;Steel Nomad Light这种跨平台轻负载测试拿到11002分、81.50FPS,接近集显能稳定输出的上限。







游戏实测选了3A和网游各一款。先看《赛博朋克2077》,1080P、光追低、纹理高、FSR 2.1自动、关帧生成,平均86.36FPS,最低69.45FPS、最高115.45FPS。集显能在这套设定下跑八十多帧,已经非常流畅。



再看《界外狂潮》,1080P无边框、画质“优异”、FSR4平衡、渲染分辨率58、关光追、关帧生成,平均直接到210FPS,最高287FPS、最低163FPS。网游吃帧率,这成绩对玩家来说绰绰有余。



接着看整机日常办公和生产力表现,用PCMark 10来看。PCMark 10也是UL Solutions的基准,模拟网页浏览、视频会议、文档表格、图片视频编辑这些日常任务,看一台机器在真实生产力场景下到底什么水平。

在PCMARK 10中,雷神水冷迷你AI工作站是总分10877。常用基本功能11171——应用程序启动10065、视频会议9673、网页浏览14320,开浏览器、写文档、开会都顺手。生产力17447——电子表格21428、文档编写14206,Office那套活儿很能打。数位内容创作17918——照片编辑27875、渲染与视觉22299,PS修图、轻度3D都能顶;视频编辑9256,日常Vlog剪辑够用。这些才是桌上工作站天天要干的活儿。



最后我们看看这台迷你主机烤机下温度、噪音表现。

FurMark单烤的时候,CPU封装瞬时功耗冲到173.14W,GPU能到174.00W,都过了170W。



FurMark和AIDA64一起双烤,头9分钟功耗一直顶在154W,之后降到134W稳住。能在极限负载下坚持这么久不掉速,水冷这套确实压得住。这里要说明的是,AMD使用STAPM Limit/PPT Limit来管理其持续和短时功耗。在烤机开始时处于PPT Limit的fPPT阶段,此时锐龙AI Max + 395的功耗为174W,短时峰值得以确保处理器发挥最强性能。随后进入PPT Limit的sPPT阶段,此时功耗为154W,对于特定的复杂任务也能提供充分的保障。最后进入STAPM Limit 134W的稳定状态。



在温度方面,9分钟时AIDA64检测CPU二极管温度94℃,机器顶部出风口通过红外测温仪检测,最高为47℃。



噪音也在双烤维持154W期间测了,距离0.5米实测38.3dBA,白天放桌上基本听不见噪音。



结语

把一套能压住176W的定制水冷、128GB统一内存和96GB可分配显存、还有内置400W电源全塞进7.9升的立方体里,雷神这台水冷迷你AI工作站走的不是堆料炫技的路子,而是真把“本地跑大模型”这件麻烦事做成了桌上的一件普通“家具”。对开发者和小团队来说,数据不出内网、一次投入长期可用,它解决的是实打实的痛点。



当然,叠加国补后到手26499不算便宜,但这套AMD锐龙AI Max+ 395把CPU、大内存和集显都揉进一颗芯片里,再加上水冷换来的安静和低温,值不值这个价,前面那些测试已经摆出来了。如果你正需要一台能年复一年蹲在桌角跑模型的机器,它确实非常值得选择。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
主动投案 浙江省金华市原副市长郑余良接受审查调查

主动投案 浙江省金华市原副市长郑余良接受审查调查

新京报
2026-09-20 18:13:10
曝西贝已起诉罗永浩,即将开庭

曝西贝已起诉罗永浩,即将开庭

超角度
2026-09-20 14:09:09
崩牙驹被爆是妙瓦底园区后台老板,他坚决否认!一组照片出卖了他

崩牙驹被爆是妙瓦底园区后台老板,他坚决否认!一组照片出卖了他

BenSir本色说
2025-01-08 22:32:35
中国男篮无缘铜牌!全队16次失误不敌伊朗 最终排名第四队史第二差

中国男篮无缘铜牌!全队16次失误不敌伊朗 最终排名第四队史第二差

追球者
2026-09-20 17:29:27
美国为何没有贪官?不是没有,是因为美国从制度上消灭了贪官,就连贪污都是合法的

美国为何没有贪官?不是没有,是因为美国从制度上消灭了贪官,就连贪污都是合法的

扶苏聊历史
2026-09-12 17:43:57
蓝芩喉糖“蓝芩含量为0”引争议:企业称蓝芩是商标,律师称关键看广告话术

蓝芩喉糖“蓝芩含量为0”引争议:企业称蓝芩是商标,律师称关键看广告话术

红星资本局
2026-09-17 18:48:07
2岁男童坠亡后续,爷爷送别表情反常,3大疑点曝光,邻居曝更多

2岁男童坠亡后续,爷爷送别表情反常,3大疑点曝光,邻居曝更多

社会日日鲜
2026-09-19 11:06:12
口角变群架!昆山电子厂群殴事件:线长带3名亲属参战,5人全部被开除无补偿

口角变群架!昆山电子厂群殴事件:线长带3名亲属参战,5人全部被开除无补偿

火山詩话
2026-09-20 05:47:12
发现一个规则,顶层的家庭里,绝对不会让孩子去碰这三件事……

发现一个规则,顶层的家庭里,绝对不会让孩子去碰这三件事……

新东方家庭教育
2026-09-20 10:19:36
41岁男子因好奇一口气吃了20只!短短2小时内重度全身性过敏、多器官受损

41岁男子因好奇一口气吃了20只!短短2小时内重度全身性过敏、多器官受损

齐鲁壹点
2026-09-19 06:29:26
银行存款利息,2026年09月20日,各大银行储蓄定存最新利息

银行存款利息,2026年09月20日,各大银行储蓄定存最新利息

陈博世财经
2026-09-20 12:12:46
油价大降超2.1元/升,今年“大跌5次”的油价,已涨12次,9月汽柴油或再“涨超610元/吨”!

油价大降超2.1元/升,今年“大跌5次”的油价,已涨12次,9月汽柴油或再“涨超610元/吨”!

油价早知道
2026-09-19 04:43:26
京东将为张雪机车提供专属配送服务,“在京东下单张雪机车,送装一体,带一公升汽油上门”;张雪称摩托车行业引入京东对全行业是正向增量

京东将为张雪机车提供专属配送服务,“在京东下单张雪机车,送装一体,带一公升汽油上门”;张雪称摩托车行业引入京东对全行业是正向增量

鲁中晨报
2026-09-19 16:19:05
A股:紧急提醒2.5亿股民!从明天9月21日起,A股可能再次历史重演?

A股:紧急提醒2.5亿股民!从明天9月21日起,A股可能再次历史重演?

趋势清风侠
2026-09-20 12:46:14
李昊苦笑!国足22岁中卫又失误:头球顶向自家球门,漏人险被绝杀

李昊苦笑!国足22岁中卫又失误:头球顶向自家球门,漏人险被绝杀

球场没跑道
2026-09-20 16:13:08
莫斯科最大炼油厂被袭击,莫斯科市长:首都发生史上最大规模无人机袭击

莫斯科最大炼油厂被袭击,莫斯科市长:首都发生史上最大规模无人机袭击

桂系007
2026-09-20 16:18:41
货车压坏20余棵白菜被索赔1万元!保险公司评估损失约三四百元 司机最后赔偿1300元了事

货车压坏20余棵白菜被索赔1万元!保险公司评估损失约三四百元 司机最后赔偿1300元了事

闪电新闻
2026-09-19 06:38:40
底层打工人戾气越来越重了,昆山电子厂多名员工因口角大打出手,最终都被开除!

底层打工人戾气越来越重了,昆山电子厂多名员工因口角大打出手,最终都被开除!

黯泉
2026-09-20 17:47:01
环球时报快评:当美联社说“美国应当感谢中国”

环球时报快评:当美联社说“美国应当感谢中国”

环球网资讯
2026-09-19 19:55:07
全面复盘“四渡赤水”:不是蒋介石不会打仗,实在是毛主席太厉害

全面复盘“四渡赤水”:不是蒋介石不会打仗,实在是毛主席太厉害

纪史行者
2026-09-20 06:50:14
2026-09-20 18:43:00
热点科技 incentive-icons
热点科技
科技新媒体
26540文章数 161085关注度
往期回顾 全部

科技要闻

谷歌承认:AI模型“黑”进3家公司

头条要闻

中国男篮铜牌战不敌伊朗男篮 创下12年来最差亚运战绩

头条要闻

中国男篮铜牌战不敌伊朗男篮 创下12年来最差亚运战绩

体育要闻

2026亚运会开幕式 胡明轩吴愉担任旗手

娱乐要闻

许嵩刚官宣结婚,冯禧黑历史就被扒

财经要闻

民企土地 被政府"无偿收储"后转手卖7亿

汽车要闻

FREELANDER神行者8开启交付 首批新车正式交付用户

态度原创

本地
数码
房产
家居
公开课

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

数码要闻

OPPO Watch S2手表搭载ColorOS Watch 17,支持心率投屏到手机

房产要闻

补偿方案曝光!三亚海润悦府,即将登场!

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版