1、OCS产业动态与优劣势分析
1)8月中旬谷歌完成从3D TARS到6D TARS的技术升级,显著带动光模块、OCS相关端口数提升;
2)OpenAI新推出的GPT专用ASIC芯片,在机柜互联的2层网络中采用OCS方案,是除谷歌外首个在该场景落地OCS应用的主流厂商;
3)产业调研确认英伟达已向头部OCS厂商下达小批量订单,此前市场普遍认为英伟达的NVLink、网络集群拓扑结构极度不适合OCS连接,该进展大幅超出市场预期。
2、OCS核心应用优势
以OpenAI 16机柜共2048张ASIC卡的集群为例,对应64*64端口的OCS配置需求为16台,ASIC与OCS配置比为1:1。OCS的核心应用优势主要分为两类:
1)成本与性能优势:OCS无需经过电芯片处理、无需进行光电转换,功耗、时延明显更低,且OCS连接段无需配置光模块,可显著降低通信环节总拥有成本(TCO),未来向1.6T、3.2T光模块迭代的场景下,成本下降效应将更为突出;
2)长期适配优势:OCS仅识别光信号,不限制传输速率,可适配800G、1.6T、3.2T全速率光传输,无需随XPU/ASIC/GPU芯片每年迭代更换,仅在端口数需要扩容时才需调整,设备复用性更高,长期投入成本更低。
OCS应用短板:OCS目前存在的核心短板为切换延迟问题,这也是其此前难以大规模替换电交换机网络的核心制约因素。
3、各厂商OCS方案与用量测算
OpenAI OCS用量测算:OCS本身的切换延迟为微秒级,而电交换机要求延迟为纳秒级,二者存在数量级差距,导致OCS很难在大规模集群中大量替换电交换机,此前业内普遍认为OCS需走光波导路线降低延迟,实现集群运行时的动态切换。
OpenAI放弃了光波导路线,采用全新组网逻辑:不修改上层OCS的光路设置,而是通过leaf层电交换机完成端口动态切换,例如A机柜1号芯片要向B机柜3号芯片传输数据时,无需调整OCS的原A1-B1链路,直接通过leaf层电交换机将A1的数据包转到A3端口,利用A3与B3的固有OCS链路完成传输,绕开了OCS不适合动态切换的缺陷。该方案下ASIC芯片与OCS端口比例为1:1,2048卡集群需配套16台64×64端口OCS。
英伟达OCS应用方案:英伟达现有Scale-out采用三层胖树架构(Leaf层、Spine层、C spine层),全交换模式下所有卡与上层端口为full mesh互联,直接替换某层为OCS的难度极高。参考OpenAI的方案,未来英伟达可将最上层C spine层全部替换为OCS,通过下一层Spine层的电交换机完成端口动态调整,该场景下GPU与OCS端口比例为1:1。在LPU场景方面,英伟达收购Groq后,未来Vera Rubin将与LPU30配套,Rubin负责PREVIEW和DECODE环节的ATTENTION部分,LPU负责DECODE环节的FFN部分。LPU与TPU师出同源,网络为静态确定结构,可提前通过编程确定每张卡的传输路径,且LPU对延迟确定性要求更高,延迟波动易导致推理集群崩溃,而OCS无电芯片、无服务开销,延迟更低更确定,适配性极强,因此LPU互联大概率采用OCS。当前公开数据显示,Rubin机柜与LPU机柜配比为16:10,LPU卡共有96个100G端口,其中60个用于PCB互联、30个用铜缆、4个用于柜间光互联,该场景下GPU与OCS端口比例为1.8:1,对应单GPU配0.56个OCS端口。
·谷歌OCS用量增量:谷歌原有3D Taurus架构为4个机柜、16张卡分别成环,配套的TPU V8的ICI端口为6个,单端口速率1.6T,TPU与OCS端口比例为1:1.5。升级为6D Taurus后,组网逻辑调整:先实现单机柜64卡在X、Y、Z轴成环,再与其余63个机柜组成4×4×4六面体的大3D Taurus环,配套的TPU V9的ICI端口翻倍到12个,其中原6个端口全部用于机柜内部全互联,新增6个端口用于相邻6个机柜的手拉手互联,单端口速率降到1.2T。不同光模块速率下OCS用量增幅不同:如果6D架构采用1.2T光模块,TPU与OCS端口比例升级为1:6,用量较3D架构翻4倍;如果采用2.4T光模块,TPU与OCS端口比例升级为1:3,用量较3D架构翻1倍,两种方案下OCS用量均有显著提升。
行业整体用量增幅:当前OCS的应用场景覆盖四大类,分别为英伟达Scale-out互联、英伟达LPU柜间互联、OpenAI柜间互联、谷歌Taurus集群互联。此前市场预期OCS用量主要集中在谷歌方案中,新增英伟达、OpenAI的用量后,仅新增部分对应的OCS端口与芯片比例合计达2.56:1,已接近原有预期的整体用量;叠加谷歌自身从3D Taurus升级到6D Taurus的用量提升,当前OCS整体用量较此前市场预期翻3-4倍,行业需求增量空间十分可观。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.