![]()
过去几年,AI基础设施竞争的核心是“谁拥有更多GPU”。但随着大模型进入智能体时代,行业关注点正在发生变化:未来AI竞争不仅取决于模型参数规模,更取决于持续推理、强化学习和后训练环节的成本。
英伟达正在通过下一代AI平台Vera Rubin回应这一趋势。该平台预计成为继Hopper、Blackwell之后的新一代AI计算架构,其核心目标是降低大型模型训练、推理以及强化学习循环中的单位计算成本。
AI算力需求正在从预训练转向持续后训练
过去的大模型开发主要依赖“预训练+一次性微调”的模式。预训练负责让模型掌握语言能力,而后训练则进一步提升模型在代码生成、复杂推理、工具调用等任务中的表现。
但随着AI Agent快速发展,模型需要不断通过真实环境反馈进行强化学习。未来AI系统可能需要持续经历“执行任务—获得反馈—优化模型”的循环。
这意味着,算力需求正在从一次性的超大规模训练,转向长期、高频率的智能优化过程。英伟达认为,未来AI基础设施必须针对这一变化重新设计,而不是简单增加GPU数量。
七芯片架构:突破六芯片系统的局限
Vera Rubin平台最初在CES 2026以六芯片系统亮相,随后在2026年3月的GTC大会上增加了第七个芯片——专为智能体解码阶段设计的低延迟推理加速器NVIDIA Groq 3 LPX。完整的七芯片堆栈包括Vera CPU、Rubin GPU、NVLink 6交换机、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6以太网交换机和Groq 3 LPX。
在三星、SK海力士和美光获得HBM4供应认证后,Vera Rubin于2026年6月进入全面生产阶段。CoreWeave成为首家在2026年6月1日验证完整NVL72机架的AI云服务提供商。
内存子系统是性能突破的核心。每个Rubin GPU集成高达288 GB HBM4,聚合带宽22 TB/s,直接解决了制约长上下文Transformer和MoE模型推理的“内存墙”问题。在机架级别,单个Vera Rubin NVL72配置整合了72个GPU和36个CPU,拥有220万亿个晶体管、20.7 TB HBM4内存和1.6 PB/s累计内存带宽,相比Blackwell GB200 NVL72分别增加1.5倍和2.8倍。
互连Fabric同样关键。NVLink 6使NVL72机架内所有GPU共享一致内存;ConnectX-9 SuperNIC处理扩展连接;BlueField-4 DPU管理数据与安全;Spectrum-6以太网交换机利用硅光子技术,能效和正常运行时间据称提升5倍。Vera CPU提供1.2 TB/s带宽支持KV缓存管理,消除了曾迫使客户过度配置GPU的数据移动瓶颈。
基准测试方面,Phoronix在2026年5月的评论中指出,Vera CPU在Linux工作负载上与Intel Xeon和AMD EPYC具有竞争力。后训练基础设施公司Prime Intellect发现,在RL沙盒工作负载上,Vera CPU平均每CPU吞吐量比替代x86架构高出30%。
Dynamo 1.0:解耦预填充与解码的关键
硬件增益需配合软件层才能释放全部效率。NVIDIA Dynamo 1.0于2026年3月在GTC正式商用,其核心在于将LLM推理的两个阶段解耦。
预填充阶段计算密集,可并行化处理;解码阶段内存密集,受限于权重加载速度。Dynamo将这两个阶段分离到专用工作池,并通过NIXL KV缓存传输层在池间移动键值张量。这使得每个池能独立调整大小和优化,对于长上下文智能体工作负载,可直接减少冗余计算。
Dynamo 1.0充当AI工厂的分布式操作系统,路由工作、管理KV缓存并应用智能调度。在Blackwell GPU上运行DeepSeek R1的基准测试显示,与非解耦服务相比,Dynamo将推理性能提高了多达7倍。配合NeMo开源库,英伟达将后训练从定制研究代码转变为可重复的基础设施。
AI竞争从“每令牌成本”到“每美元智能”时代
英伟达引入了“每美元智能”这一新指标,位于“每令牌成本”之上。前者衡量构建并保持模型在服务环境中具备价值的成本,后者衡量运营产出。降低每令牌成本的基础设施,同时也降低了通过RL后训练构建模型智能点的成本,从而提高每个令牌的价值。
以Nemotron 3 Ultra为例,这款5500亿参数的开放MoE模型在SWE-bench Verified上得分71.9%,在Artificial Analysis Intelligence Index上得分为48分,是美国制造开放权重模型中的最高分。生产部署方面,Perplexity的RL后训练堆栈可在两秒内同步万亿参数模型权重,决定了持续后训练循环的经济可行性。Together AI也已在其平台上提供后训练即服务,并计划集成Vera Rubin。
英伟达面临AMD、谷歌等竞争压力
竞争对手并未忽视英伟达的协同设计策略。AMD的Instinct MI400系列采用Helios机架策略,将MI400 GPU与EPYC Venice CPU和Pensando Vulcano NIC集成。MI400每GPU携带432 GB HBM4和19.6 TB/s带宽,内存容量高于Vera Rubin,但带宽较低。行业分析表明,AMD MI400大规模生产可能推迟至2027年第二季度,为Vera Rubin在2026年下半年留下了竞争窗口。
Google的Ironwood TPU v7于2026年4月商用,专为推理优化,适合JAX原生工作负载。Amazon Trainium和Microsoft Maia也在占据更多份额,预计2026年定制ASIC出货量年增长率约为44%。英伟达的护城河在于,要重现Vera Rubin的效率增益,竞争对手需匹配完整的七芯片集成,否则将面临结构性效率差距。
部署时间表:谁现在拥有,谁需等待
GTC新闻稿确认,AWS、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructure以及CoreWeave、Lambda等合作伙伴将在2026年下半年部署基于Vera Rubin的实例。微软计划在其Fairwater AI超级工厂站点部署Vera Rubin NVL72机架级系统。
对于大多数组织而言,广泛访问Vera Rubin实例 realistically 是2027年的事件。对于在现有Blackwell或Hopper容量上运行低于700亿参数模型的团队,等待Rubin接入的干扰可能不值得。Vera Rubin NVL72博客提供了具体的带宽、GPU缩减比率和基准分数,使得外部验证成为可能。这些数字能否在独立的生产规模测试中保持坚挺,将最终决定英伟达后训练经济声明的持久性。
AI算力进入效率革命
如果说过去十年的AI竞争是“拥有更多算力”,那么下一阶段的竞争将是“用更低成本创造更多智能”。
Vera Rubin代表了英伟达对于未来AI计算方向的判断:模型不会停止增长,但算力成本必须下降。
随着AI Agent、强化学习和企业级AI应用快速发展,决定行业格局的,可能不再是谁拥有最大的模型,而是谁能够以最低成本持续提升模型能力。
【星途科讯 图文丨小林 首发于ZAKER科技,转载请注明出处】
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.