7月24日,Advancing AI大会上,AMD宣布推出机架级系统Helios和Venice CPU,展示了MI455X GPU并公布了产品迭代路线。
据AMD CEO苏姿丰介绍,MI455X采用2nm和3nm制程,结合了432G HBM4(高带宽内存)。MI455X之后,MI500系列预计明年发布,采用新一代HBM4e,引入新的铜和光互连技术,MI500的推理吞吐量是4年前推出的MI300X的2000倍以上。MI600系列则计划2028年发布。苏姿丰称,AMD已经在与客户讨论MI450系列之后的MI500和MI600系列。
CPU产品中,此次发布的第六代EPYC服务器CPU Venice采用2nm制程,运行前沿模型时每秒产生的token量相比前一代产品增加了80%,目前已进入量产阶段。在此之后,第七代产品Florence和第八代产品Ravenna分别计划于2028年和2030年出货。
机架级系统中,Helios包含AMD最新的MI455X GPU和第六代Venice CPU。Helios 500计划明年推出,包含MI500系列GPU。Helios 600计划2028年推出,包含MI600系列GPU。
AMD重点介绍了系统级机架的重要性,称token月消耗量在两年时间内增长了158倍,计算需求自2020年以来每年增长5倍,AI需要新的基础设施,AMD将计算所需的功能集成为一个系统。苏姿丰称,每台Helios都能为大模型提供更好的性能、更长的上下文,并支持扩展至成千上万的机架。
AMD表示,与英伟达(NVDA.US)Vera Rubin NVL72机架相比,Helios的AI计算能力(FP4精度)增加了15%以上,HBM容量和带宽增加了50%以上。运行Kimi2 Thinking时采用32K输入和8K输出,在中度交互场景下,基于Helios的GPU吞吐量比Vera Rubin NVL72多了15%。相比Vera Rubin NVL72,Helios每美元可多生产最多30%的token(词元)。
Helios的主要客户包括Anthropic、OpenAI、Meta(META.US)、微软(MSFT.US)和甲骨文(ORCL.US)。苏姿丰表示,Helios机架级系统已经全面量产,将于第三季度末开始发货,来自客户的需求非常强劲。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.