黑龙江
小米最近爆料，要推出一款硬件设备，叫小米 AI CUbe，外观设计是典型的桌面小主机，和Mac Mini类似。
说是可以本地部署120B级别大模型，这个还是很强的。要知道5万元的显卡，满血版32G的RTX5090，都部署不了120B模型。
小米AI Cube到底是什么？
小米目前公布的信息如下：
项目
已公布信息
产品形态
AI迷你主机、个人AI计算终端
核心芯片
玄戒O3＋玄戒O100＋玄戒D100
内存
80GB统一内存
支持模型
120B大模型＋3B端侧模型
持续性能释放
150W
机身
航空铝一体成型
不过，AI Cube目前只是一台工程原型机，售价、上市时间、操作系统都没公布。
比较值得关注的是：80GB统一内存，这和苹果的mac电脑类似，英伟达之前发布的RTX Spark，也是统一内存。
统一内存的特点就是，内存就是显存，相当于直接有了80G的显卡，3张5090D V2显卡的显存容量。这对于本地部署大模型来说，是一个不错的优势，显存(内存）大，就可以部署参数更大的模型，有更多的上下文空间。
统一内存有优势，也有劣势，优势是容量大，劣势是输出速度慢，统一内存设备，因为内存带宽，不如独立显卡的显存带宽，所以输出速度会慢很多。
下面对比下，和其他设备的区别。
和显卡电脑、Mac、DGX、RTX Spark、AMD AI MAX+395有啥区别？
硬件方案
典型内存/显存
系统软件生态
核心优缺点
RTX显卡电脑
消费卡常见16GB—32GB；专业卡可达96GB；还能多卡扩展
Windows、Linux，完整CUDA生态
推理速度快，AI绘图、视频、训练工具最全；缺点是大显存太贵，功耗也高
高内存Mac
最高128GB统一内存
Mac Studio最高512GB
MacOS
安静、内存大、能效高；缺少CUDA，部分AI绘图、视频和训练工具需要绕路
英伟达 DGX
最高128GB统一内存
Linux、完整CUDA和英伟达AI开发栈
更像放在桌上的AI开发服务器，环境成熟；价格高，不能日常办公和游戏
英伟达 RTX Spark
最高128GB统一内存
Windows、原生CUDA
AI、创作、游戏全都能干；属于新一代ARM Windows平台。
AMD Ryzen AI Max+ 395
最高128GB统一内存
Windows、Linux、ROCm
x86软件兼容好，容量大，整机选择多；ROCm生态进步很快，但工具覆盖仍赶不上CUDA
小米AI Cube
80GB统一内存，最高160GB
尚未公布
三芯协同很有想法，体积和功耗也漂亮；目前还是原型机，价格、速度和第三方模型生态未知
对比来讲，小米的AI Cube的硬件参数，完全够用，而且据说是用的LPDDR6内存，内存带宽表现会更好一些。不过硬件只是第一关，软件生态才是关键，具体还要看是什么系统。
最后
小米过去一直是价格屠夫的存在，从手机开始、家电、汽车。打下来过不少产品的价格，希望小米这次，能把AI大模型硬件的价格，也打下来！目前本地AI硬件太贵了。
小米如果能让120B本地大模型主机，价格降到普通消费者，也可以接受的范围，笔者认为，它真有机会成为“年轻人的第一台AI工作站”。
以上，希望对你有帮助。
如果想了解AI大模型本地部署，可以关注我，我会分享各种模型的部署方法和教程。
有问题评论区见。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
