IT时代网10月3日消息,AI云服务商CoreWeave宣布,英伟达Vera Rubin NVL72系统已在其云平台正式投入生产,AI软件公司Cognition成为首个在该平台运行生产工作负载的客户。
Cognition在Vera Rubin NVL72上运行SWE-2推理任务,实测总Token吞吐量较GB200 NVL72提升最高4.8倍;在强化学习场景中,每GPU输出Token吞吐量达到GB200 NVL72的3.8倍。这意味着同一硬件可承载更多并发会话,多步推理流程也能显著加速。
能效指标同步大幅跃升。在DeepSeek-R1推理基准测试中,Vera Rubin NVL72每兆瓦Token吞吐量达到GB200 NVL72的10倍,同等电力消耗下可产出更多有效算力输出。
硬件规格方面,NVL72系统由36颗Vera CPU和72颗Rubin GPU构成,采用全液冷设计,无缆线模块化托盘把单托盘安装时间从两小时压缩至五分钟。CoreWeave还将Vera CPU作为独立计算层提供,单机架部署128颗Vera CPU、总计11264核,可支持超过11000个并发隔离环境,智能体沙箱启动速度比x86 CPU快3倍以上。
英伟达超大规模与高性能计算副总裁Ian Buck表示,CoreWeave的V100 GPU至今仍在运行客户工作负载,而Vera Rubin NVL72已进入生产,这体现了英伟达平台跨代持续创造价值的长期可靠性。
![]()
注:本文中包含AI辅助创作的内容。
编辑:林一舟
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.