英伟达在超级计算大会(SC26)上给出了一个数字:针对架构做软件优化后,Vera CPU在部分计算密集型负载上性能可提升近39%。同一颗芯片,跑同一类任务,差距来自软件是否为新架构调过。
![]()
Vera是英伟达面向数据中心的CPU,既能单独出货,也作为Vera Rubin NVL72服务器的宿主处理器。相比上一代Grace,它的每核执行资源明显更多。但英伟达承认,现有软件并不总能吃满这些资源,需要针对架构做适配。
两代芯片的底子不一样。Grace用的是Arm的现成核心Neoverse V2,Vera换成了英伟达自研的Olympus核心,设计目标就是拉高单核性能,同时保证整体吞吐。为此Olympus配了宽前端:10宽解码器、神经分支预测器、深乱序执行引擎、6个向量执行单元、4条加载流水线、2条存储流水线,背后还有大容量私有缓存和预取机制。
英伟达没有走堆核路线,而是选了88个高性能通用核心,支持自研的空间多线程技术,共176个线程。负责Vera CPU营销的Hannah Coutand在接受Tom's Hardware采访时说:“CPU设计就是一场权衡的游戏。你可以为很多核心做最大化,但当你把芯片面积最大化给大量核心时,实际上就没有空间去最大化IPC,也就是每时钟指令数。”
测试用的是OpenBLAS里一段汇编内核跑双精度通用矩阵乘法(DGEMM),配合128×128矩阵乘法的miniKernelGEMM基准,问题规模能装进两颗芯片的L1缓存。OpenBLAS有专门为Neoverse V2写的内核,却没有为Olympus写的。
- Grace配Neoverse V2内核:4.51IPC,每周期次FP64运算
- Vera跑同一份代码:5.43IPC,每周期次FP64运算,提升约20%
- Vera换用Olympus专用内核:7.53IPC,每周期次FP64运算,单核单时钟口径下领先上代近67%
硬件规格上,Neoverse V2有4条128位SIMD流水线,每周期最多16次FP64运算;Olympus有6条,最多24次,高出50%。但那段为Neoverse V2优化的内核用掉了Grace峰值FP64吞吐的81.4%,放到Vera上只用到约66.5%。英伟达研究人员调整了矩阵分块组织、寄存器分配和指令调度,把利用率拉到90.6%。
这组结果说明两件事。为现有Arm数据中心处理器写的软件,不专门优化也能从Olympus核心上拿到好处;但要吃满执行资源,至少一部分应用得针对新微架构做微调。矩阵乘法之外的其他负载能靠Olympus专用优化拿到多少性能,还有待观察。
Coutand对Vera的定位说得很直接:“我们在Vera的战略和定位上非常清楚,它不是通用CPU。如果你要给云数据中心配一台Web服务器,可能有比Vera更合适的选择。”她表示Vera面向的是需要高单核速度、高内存带宽、低延迟的负载,“只要这些负载看重Vera擅长的地方,它对很多工作负载都有很好的通用性。”
Olympus最初的设想其实是数据处理类应用,后来英伟达发现高单核性能、高内存带宽、低内存访问延迟这几个特性,恰好也是智能体AI负载需要的,于是Vera的主要定位转向了智能体AI及其他AI相关负载。
英伟达正从“数据中心GPU的搭档CPU”往独立服务器CPU市场走。性能关键型软件能否用上处理器的架构特性,是这条路绕不开的一环,英特尔和AMD在这件事上已经做了几十年。英伟达在CUDA生态和合作伙伴开发上有长期积累,随着Vera铺开,这套经验或许能用来推动软件侧针对这些CPU的优化。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.