英伟达高管：可插拔光模块不会消亡，将与CPO同步发展

英伟达光子交换机已经向部分合作客户出货，今年下半年将进一步扩大产能。

近日，英伟达网络业务高级副总裁Gilad Shainer接受采访时表示，公司正在构建面向大规模AI工厂部署所需的核心网络架构与光互连技术。AI工厂最大的变革在于，计算单元不再是单台服务器，而是整个数据中心；英伟达宣布共封装光学（CPO）交换机已进入量产阶段，这标志着光通信行业与AI网络市场迎来新一轮升级。

问：未来几年，CPO与可插拔光模块将如何共存？

答： 英伟达光子交换机已经向部分合作客户出货，今年下半年将进一步扩大产能。可插拔光模块会消失吗？当然不会。在长距离传输、前端网络、现有存量部署场景，以及CPO尚不具备最佳成本效益的场景中，可插拔方案仍会继续使用。两类技术都会持续发展。

问：近封装光学（NPO）与CPO，在英伟达下一代光互连架构中将分别扮演什么角色？

答： NPO只是众多封装方案之一，目标是让光器件在物理层面更贴近交换机芯片。而我们架构的发展方向是CPO，将硅光引擎集成在交换机封装内部。理由很简单：光引擎置于封装内，就无需将电信号穿过交换机传输到外部模块，大幅降低功耗损耗与信号损耗，同时还能减少器件数量。器件更少，故障点就更少，数据中心不仅效率更高，可靠性也得到提升。

各技术组件是协同配合，而非相互竞争。Spectrum‑X SuperNIC负责端点侧处理；Spectrum‑X交换机承担交换网络的功能；光器件解决物理传输与功耗问题；软件则把整套硬件与业务负载打通。单独优化其中任意一环，都会影响整体系统性能，这正是我们坚持协同设计的根本原因。

功耗压力最先出现在机柜之间的横向扩展层，这一层的端口与光收发器数量会急剧膨胀，因此集成化技术会率先落地于此，而目前这一落地进程已经开启。机柜内部我的选择有所不同，能用铜缆就优先使用铜缆。铜缆的功耗几乎可以忽略不计，因此机柜内部尽可能采用铜缆，只有距离条件受限时，才改用光传输。

问：NVLink Fusion是否代表英伟达生态走向更加开放？在今年台北电脑展（COMPUTEX）上，英伟达推出NVLink Fusion，允许第三方加速器、CPU与定制芯片接入NVLink生态。这是否意味着英伟达正在从一家GPU厂商，转型为更综合的AI基础设施平台提供商？你如何看待未来几年异构计算的演进？

答： 我认为这体现的是英伟达已经完成的转型。我们不是设计出一款芯片，再寄希望于别人围绕它搭建系统；我们设计的是整套数据中心。每一年，我们都会推出新GPU、新CPU、新交换机、新SuperNIC、新DPU，以及深度协同设计的全新基础设施。

NVLink Fusion开放了这套基础设施的纵向扩展层，合作伙伴可以把自家的加速器、CPU接入进来。客户选择这套方案的诉求十分现实：搭建一套顶尖的纵向加速交换网络难度极高，在此基础上完成整机柜搭建更是难上加难。没有人希望整套数据中心的项目进度，被两年前的某一项芯片选型决策绑定。NVLink Fusion就把这些决策解耦开来。

谈及异构计算，它会顺着业务负载的需求自然演进。智能体式推理已经拆分为多个阶段，各阶段诉求各不相同。一旦拥有带宽充足的统一交换网络与通用软件栈，在不同阶段混用各类计算引擎就不再是猎奇方案，而会成为工程层面的常规选择。

问：你曾将上下文内存（Context Memory）定义为AI工厂全新的基础设施层级。随着长上下文模型与智能体AI持续发展，BlueField、DOCA、Dynamo、上下文内存等技术，将如何重塑推理架构？未来AI系统中，上下文内存能否拥有与高带宽内存（HBM）同等的战略地位？

答： 我们可以想一想长上下文模型的实际工作流程：它计算键‑值缓存、输出回答，而后往往直接丢弃这部分计算结果，下一轮对话又要重新计算。同一批Token被重复计算两次；而在智能体场景下，会被反复计算多次。这并非算法能力问题，而是基础设施层面的痛点。

解决方案是构建多级内存体系，而非一味追求更大的单一内存池。HBM依旧是速度最高的层级，没有技术可以替代它。往下依次是系统内存、本地闪存、网络存储。过去缺失的，是集群（pod）层级一套可供所有GPU快速访问的中间共享内存层。它有一个很好的特性：键‑值缓存随时可以重新计算，因此这一层不需要传统存储那样严苛的数据持久化机制，只需要充足带宽与近距离访问能力。

BlueField与DOCA让这套设想具备落地可行性。DPU在存储端充当控制器，在GPU侧充当客户端，数据经由Spectrum‑X网络通过远程直接内存访问（RDMA）完成流转。软件层对接推理服务栈，请求会直接路由到已存在对应上下文的节点，不用重复计算。

它能否拥有和HBM同等的战略地位？换一个角度看：它的重要性取决于它所优化的核心指标 —— 首Token生成时延、每秒输出Token数、单Token处理成本。它不会和HBM形成竞争，而是放大HBM的使用效益。在吉瓦级算力规模下，有无这套能力，直接决定长上下文智能体业务能否实现经济化部署。

*声明：本文系原作者创作。文章内容系其个人观点，我方转载仅为分享与讨论，不代表我方赞成或认同，如有异议，请联系后台。