“芯硬件”美国旧金山现场报道——
不管AI时代如何变幻,强大的硬件算力永远是基础中的基础,GPU AI加速器的算力和效率都必须不断提高。
在这方面,NVIDIA无疑是执牛耳者,但是AMD一直在不断发起强有力的竞争和冲击,无论是硬件实力还是软件生态都在大踏步前进,隐隐已有并驾齐驱之势,并赢得了越来越多客户和用户的信赖。
Advancing AI 2026大会上,AMD新一代Instinct MI400系列加速器隆重登场!
首发和本次重点介绍的是主流型号MI455X,以及基于它和六代EPYC处理器的机架解决方案Helios,同时简单预告了一下MI430X,后续还会有一款MI440X。
![]()
![]()
![]()
![]()
![]()
AI算力需求正在悄然转变。
一方面,大模型规模持续膨胀,带动训练算力从2020年起,一直保持着每年5倍的增长速度。
另一方面,推理占比持续提升,2026年预计达到60%,从而超过训练成为AI主流负载。
Token调用规模则在迅猛暴涨,过去2年全球每月消耗量增长了恐怖的158倍。
![]()
AMD Instinct GPU产品一直坚持三大核心战略:性能与TCO成本领先、客户迁移门槛足够低、全栈开放标准。
经过多年持续迭代和积累,Instinct GPU已经取得了突出的市场成果,部署场景覆盖了训练、推理、新兴智能体等全类AI负载,生态广泛覆盖云厂商、算力服务商、OEM/ODM整机、主权AI、政府组织、科研机构、高校等全场景,从而逐渐得到了广泛的行业认可。
软实力方面,AMD ROCm正蓬勃发展,开发能力不断增强,支持广泛的模型、开源项目和负载应用,Hugging Face上已有 300多万个模型开箱即用,开源社区贡献量同比提升10倍。
![]()
![]()
首发的Instinct MI455X,和同步登场的六代EPYC一样采用了台积电N2 2nm级工艺(核心计算模块),集成多达3200亿个晶体管。
相比之下,NVIDIA Rubin还是台积电N3P 3nm级工艺,消耗了3360亿个晶体管。
架构上升级为最新的CDNA 5(没有改叫UDNA),重点增强计算能力、升级缓存内存体系、提升运行能效,并支持包括FP4/6/8在内的所有数据格式。
搭配最新的HBM4高带宽内存,最大容量达432GB(MI355X 288GB HBM3E),带宽达23.3TB/s。
![]()
MI455X对比上代MI355X,HBM容量达到1.5倍,峰值带宽达到2.9倍。
更关键的是低精度算力猛增,OCP MXFP8/FP8、MXFP6、MXFP4性能分别为20.13 PFlops(每秒2.013亿亿次)、20.13 PFlops(每秒2.013亿亿次)、40.26 PFlops(每秒4.026亿亿次),分别达到上代的2倍、2倍、4倍,其中MXFP4也适配大模型的预训练。
另外,Matrix FP16/BF16 5.03 PFlops(每秒5030万亿次),Vector FP16、Matrix/Vector FP32均为315 TFlops(每秒315万亿次),都是上代的2倍。
关于低精度格式,FP8/6/4又称裸FP8/6/4,纯基础浮点格式。
MXFP8/6/4属于OCP开放通用标准,各个厂家包括国产GPU都可以兼容。
NVFP4则是NVIDIA专属格式,仅有Blackwell架构支持,精度更高。
![]()
![]()
![]()
实际业务表现上,以DeepSeek V4 Flash FP4推理场景为例,MI455X对比MI355X Token吞吐量最高可提升34倍之多,单个Token的成本则降低了最多18倍(严格来说是降至1/18)。
![]()
MI455X当然也是chiplets芯粒设计,可分为四大部分:
XCD加速计算模块,N2 2nm工艺,一共八个,每个之中包括32个激活的WGP处理器,总计256个。
FCD互连架构与缓存模块, N3P 3nm工艺,一共两个,集成192MB全局二级缓存,并提供192个HBM4内存通道。
IOD输入输出模块,N3P 3nm工艺,一共两个,支持两组PCIe 6.0通道,或者通过UALink支持三个AMD AI NIC网卡,还有256GB/s双向带宽的Infinity Fabric高速互连通道、3.6TB/s双向带宽的72个UALoE通道。
HBM4内存,一共12颗,单颗容量36GB,总容量432GB,总带宽23.3TB/s。
![]()
封装技术上进行了四大创新:
一是Chiplets芯粒拆分架构,计算、内存、缓存、I/O各自独立优化,从而兼顾性能、功耗与良率。
二是3D混合键合XCD,通过高密度的D2D互联垂直堆叠核心计算模块,提升算力密度与每瓦性能。
三是深度集成HBM4,多达12组,从而让大模型、KV缓存、激活数据可以全量驻留在本地内存中。
四是CoWoS-L先进封装,实现芯粒间的高带宽片上通信,支撑KV缓存并行、张量并行、流水线并行。
![]()
MI455X GPU架构组织图。
特别注意,每个XCD模块中除了32个激活的WGP,还有两个作为备份的冗余WGP(灰色),目的自然是为了提高良品率。
之下是依次是全局二级缓存、Infinity Fabric片内互联、36组x2 UALoE机架互联、HBM4内存。
![]()
计算单元层面的主要革新可以分为四个方面:
一是更高的IPC性能,支持原生Wave32执行,每个时钟周期内可以执行32个宽度的向量计算,从而降低指令延迟与分支开销,适配低延迟推理。
二是先进、完整AI数据类型,MXFP8/6/4 全支持,尤其是降低了FP4训练的量化误差。
三是增强超越函数引擎,新增tanh指令,可加速Softmax、激活函数、注意力计算流水线。
四是更多计算资源,256 WGP架构,单个WGP的吞吐量也得到了提升。
![]()
![]()
整个缓存和内存层级都进行了全方位的优化。
尤其是二级缓存改为全局设计,容量从4MB猛增至96MB,而且分层更精细,同时带宽提升至27TB/s,是上代的1.5倍,配合广播仲裁最高可实现4倍的带宽放大。
值得提一提的是,随着二级缓存大幅增强,原有的256MB Infinity Cache缓存就失去了意义,因此取消了。
![]()
Instinct MI430X将在2027年上半年出货,和MI455X一样搭配432GB HBM4内存、带宽23.3TB/s。
它最大的亮点就是原生支持FP64双精度的HPC高性能计算,算力高达288 TFlops,也就是每秒288万亿次计算,相当于NVIDIA Vera Rubin的多达8.7倍。
对于需要极高精确度的科学计算而言,这一点尤为关键。
![]()
MI430X已经确定了两套超算系统:
一是美国旗舰级的“Discovery”(发现),将于2028年部署在美国橡树岭国家实验室。
二是欧洲顶级的“Alice Recoque”(爱丽丝·勒科克),由法国国家大型高性能计算设备署(GENCI)、法国原子能与替代能源委员会(CEA)联合打造。
![]()
![]()
此外,AMD还宣布了Instinct MI350P,采用PCIe扩展卡样式,可以轻松加入现有数据中心。
这也是四年来,AMD的第一款PCIe GPU加速器。
它本质上就是MI350X的砍半版本,同样的CDNA4架构,配备四颗XCD计算模块(台积电3nm)和一颗IOD输入输出模块(台积电6nm),共有730亿个晶体管、128个计算核心、512个矩阵核心、128MB Infinity Cache缓存,搭配144GB HBM3E内存,带宽4TB/s。
热设计功耗450-600W,系统风冷即可搞定,双插槽厚度。
性能方面,原生支持MXFP6、MXFP4等低精度格式,此时算力均为4.6 PFlops(每秒4600万亿次),号称可以在FP4精度下运行最高260B参数的大模型。
对比NVIDIA RTX PRO 6000,不同规模的模型上Token输出效率领先最多达5.1倍,单位成本的Token输出效率也领先最多达4.2倍。
对比NVIDIA RTX PRO 6000,不同规模的模型上Token输出效率领先最多达5.1倍,单位成本的Token输出效率也领先最多达4.2倍。
![]()
![]()
MI350P实物展示。
![]()
![]()
AMD ROCm开放软件开发平台也迎来了史诗级更新。
全新一代ROCm.AI首次成为AI驱动的开发者平台,自带各种AI Skills,可以利用AI辅助编程、优化,实现端到端的全流程AI工作流优化。
对比ROCm v7版本,DeepSeek、Kimi、GLM、Qwen等模型的推理性能平均提升3.3倍,训练性能平均提升2.4倍。
ROCm.AI还做好了第一时间支持MI400系列的准备,PyTorch、Hugging Face、vLLM、SGL都已经成功运行于MI455X,表现良好。
![]()
![]()
现场演示让ROCm.AI运行DeepSeek V4模型、写作诗歌。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.