“本地大模型”是近两年AI领域的热词,特别是随着DeepSeek-R1开源模型的出现,在端侧本地部署大模型成为AI行业的发展趋势。如今,随着端侧算力芯片走向成熟,尤其是在AMD锐龙AI Max+ 395处理器的引领下,越来越多AI开发者、设计创作者、一人公司创业者以及有私有化部署需求的中小企业开始关注能够在本地部署大模型的智能体主机。在这样的背景下,众多厂商纷纷推出搭载AMD锐龙AI Max+ 395处理器的智能体主机,雷神就在不久前推出了旗下首款采用水冷散热的迷你AI工作站。它的表现怎么样呢?
![]()
产品参数
操作系统:Windows 11家庭中文版(64位)
处理器:AMD锐龙AI Max+ 395(16核心32线程、最高频率5.1 GHz)
内存:128 GB LPDDR5X 8000四通道
硬盘:2 TB PCIe 4.0 SSD
GPU:AMD Radeon 8060S(2900 MHz、40组计算单元)
前置接口:3.5 mm音频接口×1、USB-A 2.0接口×1、USB-C 3.2接口×1
后置接口:USB-A 2.0接口×2、DP1.4接口×1、HDMI 2.1×1、USB4接口×2、USB-A 3.2接口×2、2.5G RJ-45×1、10G RJ-45×1、3.5 mm音频接口×1
尺寸:199 mm(长)×199 mm(宽)×199 mm(高)
重量:约6.5 kg
参考价格:26999元
不占空间的立方块
雷神水冷迷你AI工作站的外形尺寸是199 mm×199 mm×199 mm,机身做成了非常规整的立方体形态,计算下来内部容积约7.9 L。从桌面占地来看,它比传统的塔式主机收敛得多。雷神官方给出的整机重量约为6.5 kg,这是什么概念呢?很多玩家手里的ITX小钢炮,塞进一张大显卡之后整机就差不多是这个重量。雷神水冷迷你AI工作站没有独立显卡,光靠金属外壳和那套水冷就做到6.5 kg的重量,掂在手里第一感觉是“有分量、很沉稳”,不像多数塑料感十足的迷你主机那样轻飘。这也表明雷神水冷迷你AI工作站的用料扎实,稳定性和可靠性会更有保障。
![]()
事实上确实如此,雷神水冷迷你AI工作站的机身外壳、顶盖以及底座外壳都采用100%全铝材质,内部框架则是一圈1 mm厚的SGCC镀锌钢板,同时机身内部的PCB还采用12层设计,能够进一步提升系统稳定性和可靠性。值得一提的是,这台机器还采用14相供电设计,电流分配和负载更加均衡,这为整机强大的性能释放提供了坚实基础。
![]()
雷神水冷迷你AI工作站的定位更接近“能上桌的工作站”而非“藏在显示器背后的小盒子”,雷神在设计上没走那种极简隐形路线,而是把散热相关的结构都大方地亮了出来:顶面是冷排的出风区域,背部则是大面积的散热开孔。开机时,你能感到顶部有持续、稳定的风往外排。
这台机器采用雷神定制的AI水冷散热设计,其内部采用岛式整体结构+冷板全覆盖设计,12000 mm2岛式散热全覆盖冷板能够精准包裹核心发热部件,让其维持高负载下的强大性能释放水平,而高达1960 cm2的冷热转换面积则能大幅提升导热效率,再加上工业级的双滚珠轴承风扇,能够进一步强化整机的散热能力。
![]()
做工细节上,全铝外壳的接缝处理得相当干净,边角没有毛刺,顶盖和底座与本体扣合后的间隙控制得很好。值得一提的是,这台机器的脚垫用了相对厚实的橡胶垫,放在桌面上不会滑动,也隔绝了部分震动。此外,整机没有多余的灯效,外观设计很是克制,符合桌面超算该有的沉稳气质。对于一台要长期开机动辄连续推理好几天的机器来说,这种低调反而更耐看。
![]()
雷神水冷迷你AI工作站的接口丰富,前置面板配备一个3.5 mm音频接口、一个 USB-A 2.0和一个USB-C 3.2接口,日常插个耳机、接个U盘或者临时传文件都十分顺手。
![]()
后置面板的接口才是这台机器的重头戏。它的后置面板配备两个USB-A 2.0接口、一个DP 1.4接口、一个HDMI 2.1接口、两个USB4接口、两个USB-A 3.2接口,再加上一个2.5G规格的网口和一个10G规格的网口(双网口设计),以及一个3.5 mm音频接口。在无线网络方面,这台机器支持Wi-Fi 7和蓝牙5.4,甚至包装盒还赠送了Wi-Fi天线,用户将其接在机箱背后即可。
雷神水冷迷你AI工作站的这套接口配置能够满足大多数AI开发者的需求,双DP 1.4加双 USB4接口极大地扩展了它外接多台显示器的能力,便于用户在跑本地模型时一边看日志一边看结果;而双网口设计,特别是10G网口的设计则提供了多机互联做算力集群的可能性。
搭载锐龙AI Max+ 395处理器
堆料到顶的硬件底子
聊完外观,再看里子。雷神水冷迷你AI工作站搭载AMD锐龙AI Max+ 395处理器,这颗处理器基于Zen 5架构打造,采用4 nm生产工艺,拥有16核心32线程。配备64 MB L3缓存和16 MB L2缓存,总缓存容量高达80 MB,最高加速频率达到5.1 GHz。
![]()
锐龙AI Max+ 395处理器的默认TDP为55 W,它的可配置功耗范围在45 W~120 W之间,OEM能够根据不同设备需求进行灵活配置。在400 W 12VO内置电源、定制10 Pin接口方案、14相PCB供电以及雷神定制多岛式全覆盖液冷散热系统的加成下,雷神水冷迷你AI工作站拥有足够激进的整机性能释放能力——最高性能释放水平高达176 W。
![]()
我们对这台机器进行烤机测试,在烤机30分钟期间,这台机器的处理器可以短时间维持176 W的性能释放,长时间可维持133 W左右的性能释放。这里要说明的是,AMD使用STAPM Limit/PPT Limit来管理其持续和短时功耗。在烤机开始时处于PPT Limit的fPPT阶段,此时锐龙AI Max + 395的功耗为176W,短时峰值得以确保处理器发挥最强性能。随后进入PPT Limit的sPPT阶段,对于特定的复杂任务也能提供充分的保障。最后进入STAPM Limit 133W的稳定状态,即使这样也比cTDP 120W高出不少,性能释放尤为充裕。整体来看,这台机器的整机性能释放最高可达到官方宣传的176 W,表现相当出色,这也说明水冷的加持提升了它的性能释放上限。
![]()
雷神水冷迷你AI工作站采用锐龙AI Max+ 395处理器,该处理器集成基于RDNA 3.5架构的Radeon 8060S集显,其最大的特点是配备高达40组计算单元,总计2560个流处理器。借助统一内存架构和AMD可变显存技术,Radeon 8060S集显可以动态调用最高96 GB LPDDR5X内存作为专用显存。
另外,锐龙AI Max+ 395处理器还集成基于XDNA 2架构的新一代NPU。它的AI算力高达50 TOPS,完全超过微软Windows 11 AI+ PC的严苛要求,因此雷神水冷迷你AI工作站能提供强大的AI赋能体验。特别是在CPU+GPU+NPU三大AI算力引擎的协同下,无论是本地部署大语言模型还是多模态生成,它都能提供强劲的算力支撑。
![]()
雷神水冷迷你AI工作站配备128 GB LPDDR5X 8000四通道大容量内存,这一配置在迷你PC市场中属于顶配。大容量高带宽内存不仅能提升系统的流畅性,为整机综合性能提供支持,它对用户部署本地大模型也有帮助。在AIDA64内存测试中,这台机器的内存读取速度达到119.88 GB/s,写入速度达到172.2 GB/s,表现出色。
![]()
锐龙AI Max+ 395平台支持统一内存架构,CPU和GPU存储一体化,RAM和VRAM不用通过传统的PCIe接口访问,能够大幅降低延迟和提升数据传输速度。再加上AMD可变显存技术,用户可以在雷神水冷迷你AI工作站上自由分配内存和显存的容量,最高可将96 GB的内存容量分配为专用GPU显存使用。这意义重大,我们知道部署大模型时需要很大容量的显存,而在这台机器上,显存可以达到最高96 GB(四张24 GB RTX 5090 Laptop显卡的水平),现在你能将120B级别的大模型完整装进GPU显存。
锐龙AI Max+ 395处理器还内置一颗50 TOPS算力的NPU,它主要负责驱动那些常驻型的轻任务,比如实时语音转写、本地OCR以及常开的智能助手响应等任务。这些活儿交给NPU,功耗低、不占CPU资源,能够让机器整体始终“有空”去处理其他的重活儿。
![]()
雷神水冷迷你AI工作站还配备2 TB PCIe 4.0 SSD,从实际测试成绩来看,它的顺序读取速度高达7117.69 MB/s,顺序写入速度高达6456.79 MB/s,表现出色。由于AI开发者、AI爱好者来说,模型文件本体、量化版本、RAG知识库、素材缓存、中间结果、图片生成输出以及视频工程等都需要大量的存储空间,所以雷神水冷迷你AI工作站直接从2 TB起步,一步到位随心存储。
本地大模型部署与AI体验
畅跑120B大模型
如果只看硬件配置,雷神水冷迷你AI工作站已经达到发烧友的级别。那么这么高的硬件规格在本地跑大模型的表现如何呢?我们实际上手测一测。在测试之前,先介绍一下雷神水冷迷你AI工作站,也就是锐龙AI Max+ 395平台在跑大模型方面所具备的独特优势。
雷神水冷迷你AI工作站搭载锐龙AI Max+ 395处理器,这款处理器的CPU性能强大、集显性能强大,还板载128 GB统一内存。该平台还支持AMD可变显存技术,它能把128 GB总内存里最高96 GB动态划给集显当专属显存。96 GB显存也就相当于四张24 GB的RTX 5090笔记本电脑GPU的显存加在一起。另外,我们知道想要本地模型推理速度快,就需要把本地模型“装在”显存里,如果显存容量不足以放下本地模型,那么整个平台的推理速度就很慢。
![]()
为了便于大家理解,我们汇总了目前主流开源模型的文件体积。可以看到,在Q4量化下,Qwen3.5-9B的体积为6.55 GB,这基本上8 GB显存的独显和集显都能流畅运行。而当模型的参数规模来到26B以上时,比如Gemma-4-26B-A4B-QAT的体积达到15.63 GB,接近16 GB的显存占用已经不是普通显卡能应对的。如果要流畅运行最近口碑颇好的Qwen3.6-35B-A3B,至少需要22 GB的显存。换成GPT-OSS-120B的话,则至少需要63 GB显存。
以上只是针对用显存加载大模型的推断,在实际使用过程中,还要考虑到上下文的大小、系统占用等多方面因素,总之平台的显存和内存容量越大越好。显然,在应对类似120B以上规模的大模型时,已不再是普通游戏本和台式机能玩的“游戏”,而是需要专业的设备——雷神水冷迷你AI工作站最高可设置96 GB显存,它天生适合干这事儿。
我们在64 GB内存+64 GB显存的设置下,来看看雷神水冷迷你AI工作站的实际表现。
![]()
在UL Procyon的本地大模型推理测试中,这台机器运行小模型非常轻松,它在Phi-3.5B中的推理速度高达70.02 Tokens/s,在Mistral-7B中的速度达到43.97 Tokens/s,在Llama-3.1-8B中的速度达到37.11 Tokens/s。以上只是理论测试成绩,而且测试中没有目前主流的模型。所以接下来,我们用LM Studio在本地部署几个模型,来看看这台机器的实际表现。
![]()
目前,以Qwen3.6-35B-A3B为代表的MoE模型已经成为AI开发圈的热门模型,也是开发者的日常主力。在LM Studio中,这台机器的推理速度高达58.25 Tokens/s,实际感受是反应迅速,拿来当常驻工作模型毫无压力。
![]()
对于Qwen3.6-27B这样的热门模型,雷神水冷迷你AI工作站也能轻松应对,它的推理速度达到11.91 Tokens/s。在使用过程中,AI的吐字速度很快,我们不用等待太长时间。
![]()
再往上,我们看看雷神水冷迷你AI工作站能否应对120B级别的MoE超大模型,对绝大多数个人和团队来说是相当夸张的体量。实际上,这台机器完全不负众望,它在GPT-OSS-120B中的推理速度高达49.51 Tokens/s,这让人印象深刻。因为在120B模型的加成下,很多一人公司创业者和AI开发者甚至能用这台机器打造出能够真正落地的商业化AI应用。
经过以上测试,我们可以直观地看到雷神水冷迷你AI工作站在本地大模型部署方面的独特优势。普通游戏本、迷你主机和桌面PC受硬件规格、显存容量和GPU性能的三重限制,几乎很难流畅运行诸如120B这样的MoE模型。而搭载锐龙AI Max+ 395处理器的雷神水冷迷你AI工作站却具备独显方案和其他小主机都给不了的独特硬件优势。
![]()
雷神水冷迷你AI工作站具备强大的本地大模型部署优势,对用户来讲,使用本地大模型不仅不用担心隐私和Token费用问题,还能由此衍生出更多AI应用方面的扩展。比如在64 GB显存的设置下,这台机器可以同时部署一个Qwen3.6-35B-A3B模型、一个Qwen3.5-9B模型和一个Qwen3.6-27B模型,它们一共占用大约60 GB显存。这对AI开发者而言大有裨益,因为在开发的过程中不仅需要不断Debug,还可能需要不断切换各种大模型甚至是进行对照测试,如果换成其他平台,非但无法部署规模超大的模型,就算勉强部署,硬件空间也不够,需要不断加载和卸载模型,非常麻烦,效率也会受到极大影响。
另外,对于AI开发团队、初创公司来讲,也可以将大模型部署在雷神水冷迷你AI工作站上,然后共享本机API给团队内的其他人员使用。这样一来,雷神水冷迷你AI工作站就化身为实打实的本地AI算力中心。
![]()
在实际应用层面,我们通过腾讯Marvis、WorkBuddy和QClaw等流行的AI智能体工具来简单体验雷神水冷迷你AI工作站作为本地AI算力中心所带来的魅力。腾讯Marvis内置端云协同的双模型架构,主打“开箱即用”且本地文件零上传。它提供两大工作模式:隐私模式(纯本地大模型),断网也能使用。采用阿里通义千问端侧版本作为本地模型,所有文档、图片的检索和解析都在端侧完成,最大程度保护隐私。借助雷神水冷迷你AI工作站强大的本地大模型部署能力,我们可以在这台机器上安装Marvis,然后启动“本地模式”,Marvis会自动下载一个Qwen模型部署在本地作为日常使用。
![]()
在腾讯Marvis中,我们用它的本地模式跑了一个“2026世界杯预测”的技能,它给出阿根廷夺冠概率达到25.3%的结论。这种使用本地模型跑任务的好处是没有Token费用,当然这个技能在查询数据的过程中是联网的。
![]()
在WorkBuddy场景中,我们先在LM Studio中部署Qwen3.6-35B-A3B模型,并将上下文设置到最大,然后将这个本地模型接入WorkBuddy。
![]()
之后,借助本地的Qwen3.6-35B-A3B模型,我们成功搭配WorkBuddy通过“高级开发工程师”智能体在本地开发出一个俄罗斯方块游戏。在这个过程中,WorkBuddy使用的同样是本地模型,没有Token费用,而且全程都可以在断网环境进行,这意味着开发者在工作中可以通过雷神水冷迷你AI工作站部署的大模型来辅助写代码。
![]()
腾讯旗下的QClaw作为本土“龙虾”,不仅支持云端大模型,也支持接入本地模型。在本地模式,QClaw会根据设备的硬件规格自动推荐合适的模型,这里系统推荐使用Qwen3.6-35B-A3B模型。
![]()
通过本地的Qwen3.6-35B-A3B模型,我们可以在QClaw中通过“高考志愿填报专家”智能体完成高考志愿填报指导的任务。这对学生群体、教师群体以及家长群体很有帮助,而且整个过程使用的依然是本地模型的Token,不用为Token额外付费。
![]()
另外,用这台机器来生成图片也十分流畅。它在UL Procyon的Stable Diffusion 1.5中平均生成一张512×512分辨率的图片只需要7.5秒。这个速度放在本地创作场景里很实用,尤其适合做海报草图、封面概念图、视频分镜预设和社媒配图方案。对个人创作者、工作室、品牌内容团队来说,本地生图的优势在于工作流不出本地,内容安全,反复修改时不依赖外部服务。
不止会跑AI
传统性能也够强
除了出色的本地AI表现,雷神水冷迷你AI工作站在传统的CPU、图形、创作和游戏这些项目上的表现同样出色。
![]()
先看处理器成绩。这台机器在CINEBENCH R23中的多线程成绩达到42038 pts,单线程成绩为2103 pts。这样的成绩相当出色,对比酷睿Ultra 9 275HX游戏本,这台机器只是在单线程上略微落后,而在多线程性能上,这台机器取得大约11%的领先优势。
![]()
在7-Zip 24.08压缩解压缩测试中,这台机器取得215.957 GIPS的总分,领先酷睿Ultra 9 275HX游戏本大约26%。
![]()
另外,我们用雷神水冷迷你AI工作站在Blender 4.2中通过处理器加速渲染一个汽车模型的图片,这台机器仅耗时56秒就完成了任务,而我们之前测试的酷睿Ultra 9 275HX游戏本需要69秒才能完成任务。由此可见,在锐龙AI Max+ 395处理器、水冷散热以及高达176 W的性能释放下,雷神水冷迷你AI工作站的处理器性能相当强悍。
![]()
图形方面也是如此。这台机器在3DMark Time Spy中的显卡成绩达到11797分,而140 W满功耗版本的RTX 4060笔记本电脑GPU的显卡成绩一般在10500分左右,相比之下,这台机器搭载的Radeon 8060S集显领先大约12%。
我们再找两个游戏来测试。在游戏测试中,我们均设置为高画质、FSR平衡并开启帧生成。实测显示,雷神水冷迷你AI工作站在1080p分辨率下能够畅玩《赛博朋克2077》《黑神话:悟空》(光追关闭)这样的3A大作,它在以上两款游戏中的平均帧率分别达到110.19 fps和134 fps。
![]()
即便将分辨率升级到2560×1440,在高画质、FSR平衡、帧生成开启的设置下,雷神水冷迷你AI工作站同样能够流畅运行这两个3A大作。它在《赛博朋克2077》《黑神话:悟空》(光追关闭)中的平均帧率分别达到70.68 fps和110 fps。
![]()
在创作性能方面,雷神水冷迷你AI工作站在UL Procyon的视频编辑测试中(开启GPU硬件加速)取得22294的总分,这表明它借助强大的Radeon 8060S集显,能够高效地完成视频剪辑任务。
整体来看,雷神水冷迷你AI工作站有清晰的产品定位和明确的目标人群。它的核心优势在于,锐龙AI Max+ 395处理器+128 GB统一内存+最高96 GB可分配显存的组合带来了极其强大的本地大模型部署能力;水冷散热设计使性能释放到176 W,让用户不再有性能上的焦虑;双USB4和双网口的接口设计进一步增强了它作为算力集群的硬件底子,而且它在传统性能上的表现也十分出色。可以说,雷神水冷迷你AI工作站能够应对本地AI、游戏、渲染和剪辑等不同的场景,非常全能。如果你想在本地跑模型,在意隐私,需要一个长期在线的AI节点,或者你本来就是AI开发者、创作者以及工作室负责人,那么雷神水冷迷你AI工作站是一台真的能帮到你的产品,值得推荐。
友情提示
MCer请注意,由于微信公众号调整了推荐机制,如果你发现最近很难刷到Microcomputer(微型计算机)公众账号推送的文章,但是又不想错过微机的精彩评测内容,可以动动小手指把Microcomputer设置成星标公众账号哦!
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.