近日,益企研究院携手CDCC进行了主题为“深度拆解光模块技术核心和选型避坑”的直播,CDCC专家技术组委员、中国移动通信集团设计院有限公司咨询设计总监封铎、Aginode安捷诺亚太及中东地区产品总监王君原、新华三集团数据中心交换机架构师覃耿、福禄克业务发展经理李淑洁参与了此次直播。各位专家围绕光模块技术的现状、技术迭代、路线之争、落地选型、应用态势、未来趋势等话题展开了深入的交流,本文为此次直播中的相关精彩观点整理。
由于内容较多,分为两期刊登。本部分内容为第二期。
要了解此次直播全貌,请访问益企研究院视频号,点击8月20日直播回放,即可观看。
![]()
话题6:光模块选择液冷,还是风冷?
封铎:光模块在数据中心属于易损件,我们从实际项目出发,当然要选择耐久性较好的品类。据统计,光模块约 90% 的故障是由激光器引起的。原因在于:当前大带宽、高速率光模块的发热量已经相当可观(400G 光模块已经达到十几瓦),密闭空间内的散热是有极限的;温度一旦上升,激光器寿命就会受到影响。
这自然会引出光模块选用风冷还是液冷的问题。风冷散热的极限已经显现,如果速率再上升,比如说到3.2T,那么也许就只能采用液冷。采用液冷,对于延长光模块寿命确实有明显的好处。
只是工程上仍然会面临几个现实问题需要克服,比如说光模块安装非常分散,无法像GPU/CPU/ 内存那样单独配冷板;此外,为每个光模块单独供液冷会显著增加漏液风险。
因此,虽然液冷是必然方向,但是目前我们对液冷光模块持有谨慎乐观的态度。
覃耿:根据新华三的测试数据,1.6T 液冷光模块,其单模块功耗可以做到约 32W。未来 3.2T 甚至 1.6T的 ZR(极长距离)模块,功耗可能会高达 40~45W;如果 3.2T 光模块采用 ZR 路线,那甚至可能飙到 60W。在这一瓦数区间下,风冷就已经无法解决散热需求,液冷就是必选项。
话题7:高速光模块端面,清洁需求如何应对?
李淑洁:从相关规范的角度来说,模块端面清洁度,本质上由 "速率 — 反射敏感度 — 清洁度"三者构成强关联。速率越高,对反射 / 回波损耗的要求越严,端面清洁度的标准也随之提升 。
例如反射指标要求到 -45dB 甚至更高时,灰尘的影响就必须更严格地控制;反过来,速率较低、反射敏感度不高时,规范对端面轻微污染的容忍度也会放宽。
在日常安装或者运维环节,更关键的是养成如下几个工作习惯:
第一,启用光模块前先用显微镜检查端面是否干净,尤其是 MPO 这类 8 芯 / 12 芯 / 更多芯的接口,盲目用清洁笔捅一下反而可能把灰尘进一步带到端面,造成二次污染。国际标准当前也明确强调,先观察,确认需要时再清洁;清洁后,必须复核已清洁再使用。流程上看起来复杂,实际每个动作也就几秒钟即可完成。
第二,防尘盖一定要盖好。在数据中心的现场,经常可以看到防尘盖被随意扔着,这非常不合适。它对链路质量的影响非常大。其原因就是单模纤芯直径只有约 9微米,要知道头发丝直径是几十微米的量级,因此任何一点灰尘都可能挡住端面,引入反射、提高误码率。
因此,前面提及的光模块易损这个话题,其实是有关联的。光纤链路的故障、误码率升高,表面看是链路问题,根因上很多都落到激光器:要么是发热量高导致激光器寿命缩短,要么是反射强、灰尘污染造成激光器损伤。这也是光模块易损的核心机理。
封铎:智算大带宽光模块/连接主要部署在后端网络,即RoCE网络,它对通信传输的要求极高。在实际工程中,曾经遇到过一个典型案例。由于项目赶工,操作团队对端面防尘重视度不足,防尘措施不到位,现场环境也不够理想,这导致项目上线之后很快暴露了问题:初期出现大量链路不通、速率偏低、误码率偏高等问题,在处理完一批后仍会偶发故障,再经过一段时间的维护之后才逐步稳定。
简单复盘之后发现,偶发故障的根本原因是端面清洁不到位,留有微米级颗粒残留,而在通信过程中光器件发热之后,残留微颗粒在热激发下被扰动、挡住端面,这就形成了 "清洁不彻底 → 后续通信异常" 的机理。
这类问题事前其实能预见到,但以当前的建设节奏,确实很难完全避免。
李淑洁:的确,在数据中心投运的最初阶段,往往是误码率最高发的时期。原因主要来自施工期的灰尘污染,毕竟现场的安装工人没有充裕时间对每个环节都仔细检查,开通前就容易积累下大量隐患。
以最近服务的某数据中心为例,该数据中心已完成超节点设备装机,但是相邻机房仍在施工,外部环境非常糟糕,灰尘极大,即便外部有帘子做隔离,仍然有很大的灰尘量。众所周知,在智算领域,工期普遍要求紧张,很多项目甚至在机房尚不具备完整条件时,机器就已经进场并开始布线,这种情况下,线缆端头被污染的概率就非常大。
将投运初期的这一波误码率问题,集中处理掉之后,后续只会有零散问题。
同时,机房环境在使用一段时间后会明显优于初装期,污染概率也会随之下降。
王君原:在数据中心的现场,其实还有一类比较冷门但很典型的情况。一般来说,端面清洁的专业做法是用清洁笔插入的方式进行清洁。但在现场,很多工人会采用更简单的方式,好一点的方式是用酒精,更多人是用纯水或其它溶剂就进行擦拭。
即便使用酒精擦拭端面,插拔一段时间后也可能引起细微的衰减变化,其原因在于,用酒精擦拭后,端面连接处会残留微量水汽,而水汽挥发后会留下极小的间隙,这个间隙就会引入额外衰减。
此外,现场除了灰尘,还有很多类似的细微问题。在400G/800G 敏感传输场景下,很多问题正陆续暴露,而这些问题在 100G 时代根本不会遇到的。
另外还有一点就是,光模块在运行中会释放热量,导致模块温度升高,在温度上升后,激光器的发射波长会发生轻微偏移,这种波长漂移也会对传输性能产生影响。
话题8:光模块的颜色,有什么玄机?
王君原:APC 这个话题在 400G 之前其实不存在。因为此前,单模 MPO 默认就是 APC,多模 MPO 默认就是 PC;以颜色来区分就是,单模光模块为绿色、多模光模块为水蓝色,这是约定俗成的事情。
在速率达到 400G 以上、特别是800G 之后,多模 APC 光模块产品逐渐出现。以前的布线标准对端面只提 PC 和 APC 两类,背景是"单模 APC、多模 PC" 这种默认组合,业界并不需要做强区分。但 400G 以后单模保持 APC,多模这边则分化为 PC / APC 两派共存。
在两年前的ISO国际会议上,我们就提出:400G 以上多模布 MPO 必须考虑APC。
但随之而来的问题是,如何进行区分?
早期业界仍然按 "单 / 多模"进行区分:比如 OM3 用水绿色缆、OM4 国内也普遍用水绿色,MPO 头沿用蓝色,用颜色来进行区分单模/多模。
从目前的趋势看,业界正在形成新的共识:用绿色来统一标识 APC(即 "端面类型" 和"单 / 多模" 两套颜色规则合并)。这一做法目前在标准上尚未明确定义,但趋同化的方向是清晰的。
我个人在几次 ISO 标准会期间也提出,ISO 应当和连接器厂商一起,将此前未定义的事项在标准中补齐。对于光模块来说,未来可能的形态会这样:即使是一根多模 MPO 跳线,外皮仍可能为 OM3 水绿色或 OM4 玫红色,但端面是绿色的。即接以颜色标识它是 APC。
个人认为,这一做法会在近期逐步被更多厂商接受。
封铎:同意以颜色进行区分,否则会增加实施现场的复杂度。颜色一旦统一,那么就能够进行直观判断,降低风险。
话题9:选用单模、多模光纤的距离分界线在哪里?
封铎:从工程角度讲,单模、多模光纤的应用距离,其实并没有一条严格的界限。
以常见光模块距离规格为例:FR4 是2km、LR4 是 10km,SR8 / SR4 采用多模 OM4 大致为 100m。但需要特别强调的是,距离并不是固定不变的,用了 2km 的光模块,并不代表工程上一定能传 2km。
它取决于两个变量,整条链路的光纤质量和链路中间成端、对接的次数。
比如说,光模块标称 2km,但中间只要经过一次 ODF 成端(增加一次成端损耗 + 一次对接损耗),链路实际无法传到 2km。光模块本身有一定富裕度,如果需求不那么精细, 即便经过一次ODF 成端,链路也能够勉强实现 2km传输距离。但这并非常态,常态下能保证 2km 的前提是,一芯到底,不存在中间成端 / 对接。
因此,需要强调的是:使用光模块传长距离时,必须对 "中间对接了多少次" 和 "链路整体质量" 这两个变量有清晰概念。
话题10:NPO,还是CPO,应该如何选择?
封铎:所谓NPO,就是近封装光学(Near Package Optics),顾名思义,把光模块部署到交换芯片的"周边",缩短电路径,出交换芯片后尽快转成光,以减小 SerDes 距离;所谓CPO,就是共封装光学(Co-Packaged Optics),它更进一步,把光模块与交换芯片直接放在同一PCB基板上。两者都在缩短电路径,但 CPO 走得更彻底。
前段时间的消息,英伟达发布消息说CPO已经实现量产,也有很多设备厂商高度关注CPO。业界对NPO\CPO的认知也在日益加深。
覃耿:如下所示,要讨论光模块,有几个概念需要同步:
FRO(Fully Retimed Optics,全重定时光模块),即带 DSP 的常规光模块;
LPO(Linear-drive Pluggable Optics,线性驱动可插拔光模块),即形态与常规光模块一致,但模块内去掉了 DSP,因此叫 "Linear";
CPO(Co-Packaged Optics,共封装光学),这是把光引擎(optical engine)与交换机芯片 die 合封在同一封装内,故称 "Co-Packaged"。
在物理结构上,常规交换芯片旁边直接出电信号、再经光模块转光。CPO 形态下,芯片旁边直接出光,光纤就从这个位置出。这一差异在 112G / 224G 单 SerDes 高速链路上意义重大 ,CPO 内部光引擎与芯片的主 die 之间的距离极短,电连接损耗也极低。
但是业界的未来发展趋势也不见得一定要迈向CPO / NPO。以新华三 1.6T 224G 交换机为例,它采用了 Flyover Cable(飞线 / 跨接电缆技术)和纯 PCB 两种方案,并没有采用 CPO。原因在于,近两年 PCB 叠层与板材有显著进步,Megtron 8 / Megtron 9 这类高速板材已能承载 224G的速率。尽管承载 448G 确实存在挑战,但我相信未来会有解决办法。
整体而言,CPO / NPO 与可插拔光模块的 1.6T / 3.2T 路线是并行关系,不是替代关系。两类形态面对的客户诉求并不相同。
对于机房小、机柜短的客户(典型如日本客户),他们倾向选 CPO / NPO 这类高密、直接出光的方案;
对于国内客户,机柜深度可以采用 900mm、860mm的方案,那么对可插拔光模块的诉求更强。
此外,可维修性也是重要的分水岭。采用CPO方案时,如果光引擎损坏,意味着需要更换整芯片 / 整交换机,部分客户无法接受。在NPO 方案,OIF 早期定义的是焊接形态(直接焊到PCB板上),后来改成了 socket 形态(可插拔可更换)。但即便 socket 形式,在灰尘较大的现场也无法当场更换,需要返无尘间处理。因此,如果客户不接受这种模式,就只能选可插拔光模块。
因此,高速高带宽的路径非常多,未来 NPO、CPO 与传统可插拔方式,将会是齐头并进的几条路线:
虽然可插拔光模块在 448G / 单模块 3.2T 上仍存在不少困难,但行业都希望继续推进;
NPO 可能在超节点场景找到用武之地;
CPO 则更适合超节点内部、与 GPU直连这种相对固定的场景。
另有一个新技术 ——XPO(eXtra-dense Pluggable Optics,超高密度可插拔光模块)也受到了关注,它具备 12.8T 封装,体积约为当前 1.6T 的一倍,带宽是 1.6T 的八倍,未来也可能有自己的市场。
封铎:我最早关注 NPO 和 CPO,是从两个角度切入的。
第一个角度是节能。NPO/CPO 缩短了电信号的传输距离 —— 电信号虽然在PCB上传输距离很短,但在 112G/224G 这种高速率下发热量并不低,所以最初业界讨论 NPO/CPO 的起点之一就是节能。
第二个角度是 SerDes 高速传输在PCB 主板上的挑战。从 56G 到 112G 到 224G,后续 448G 也在研发进程中,PCB 上的高速同步传输对距离极为敏感,毕竟差分信号在长距离上干扰很大,需要解决和克服的困难非常多。从这个角度讲,引入 NPO/CPO 是有真实技术诉求的。
但在实际工程中,我从最初全心拥抱新技术,后来逐步把关注点放到了落地性上。毕竟,我一直认为,维护上的问题往往会决定一项技术能否真正铺展开来。
举一个简单的例子,易损件的特性决定了它的工程形态,比如说风扇、硬盘、电源模块(电源一般与风扇合在一起)、光模块等,这些部件都是现场可带电插拔的,因为它们就是易损件。易损件的核心要求是,损坏时能快速更换,且不影响整体组网。
反观 NPO/CPO 形态的光模块产品,一旦光引擎损坏,要么整机替换,要么返无尘车间维修。这已经不是 "现场级" 问题了,而是返厂级问题。对工程化运维来说,这会极大阻碍它的大面积铺开应用。
这一点是我目前对 NPO/CPO 的核心顾虑,如果易用性、易维护性问题解决不好,那么其前景就值得谨慎怀疑。我不否认技术先进性,也不否认它在某些场景下的适用性,但如果做不到易用性、易维护性,前景会受限。
以 AOC(Active Optical Cable,有源光缆)来做一个类比。在早年间,英伟达交换机大量使用 AOC,但国内实际使用极少。原因就是它把两端光模块和定长缆锁死,部署中如果出现损伤,必须整根(含两端光模块)更换,定长规格、维修周期都是工程上难以接受的。
覃耿:现在, CPO 在可维护性上已经做了一定优化。其中关键的一点是,在硅光 CPO 方案中,光源(激光器)不在封装内部,封装内只保留 driver(Laser Driver IC,激光器驱动芯片)/ TIA(Transimpedance Amplifier,跨阻放大器)这类电芯片、电器件;光源从外部拉入,形态和可插拔光模块里的激光器基本一致。
这意味着 CPO 方案里最易损坏的激光器是 "可插拔的",因此这表明CPO 整体的易损程度和可插拔光模块其实是两个量级。光模块故障大多数来自激光器,但激光器外置之后,CPO 内部剩下的都是 CMOS / 电工艺器件,本身不易损。
不过,采用VCSEL(Vertical-Cavity Surface-Emitting Laser,垂直腔面发射激光器)方案的CPO,它采用的依然是内置光源,该方案功耗更低,但是缺点在于如果它损坏了,影响面会更大。
王君原:CPO 集成性与可插拔性,归根到底是同一个话题,即产品演进与现场施工 / 后期运维之间,始终是矛盾的。一般来说,技术越先进、越复杂,对运维、安装、测试的要求也越高。
几年前第一次接触CPO 概念时,第一反应并不是 "它技术多先进",而是 "坏了,怎么换"。
拿早期的产品来做类比,大家就能更好的理解我的担忧。LC(Lucent Connector,朗讯连接器)是 2 芯(一收一发),MPO(Multi-fiber Push On,多芯推入式光纤连接器)则是 4 芯 / 8 芯 / 12 芯等多芯形态。在早期的布线行业,几乎所有厂商都能做 LC,但不是所有厂商都能做好 MPO,其核心差异就在集成度。MPO 一磨就是 12 芯,与 LC 一磨 2 芯的工艺难度完全不同。
从概率角度讲,即便假设 LC 和MPO 的 "单芯合格率" 相同,那么LC 坏一芯,影响的只是一根光纤;但在 MPO 方案中,MPO 头整体不合格率可能直接飙到 10%–20%,集成度越高,缺陷被放大的影响面就越大。
CPO 也是如此,它在技术上(散热、功耗)确实先进,但现场环境往往不允许这么精细的操作。MPO 线缆到现场必须测试,这是很多人都知道的规则。但如果现场真的部署了一万根 MPO 缆,需要做逐根现场测试,能做到的客户有多少?
同样的道理,CPO 这种精密设备到了现场之后,要保证它完全不受灰尘、衰减的影响,这是极小概率。
李淑洁:从我接触到的数据中心现场看,施工其实非常粗犷,基本上不可能做到要求的无尘环境,测试这一步很可能是被直接跳过的。
这和一线执行人员的技术理解有关。真正到现场去做操作的人,对相关技术细节往往并不了解 ,在数据中心现场经常可以看到光纤 / 光模块的防尘帽被拔开后随手一扔,污染非常严重,前期施工阶段链路污染问题是普遍存在的。
如前面所提到的,对于高速率设备而言,这种前期污染带来的问题,会在开通时集中爆发。
封铎: 一项技术,无论它是否先进,它的易用性和适用性才是最重要的,决定它成败的一个最重要的点。
李淑洁 :不管是光模块,还是光条线,使用之前用显微镜查看端面是否清洁干净。这只要花费一秒钟,但是运维的麻烦会减少90%。高速链路中,尤其如此。
王君原: 光模块与布线齐头并进。光模块在实现更高速率,企业同样需要性能更好、等级更高、传输更稳定的布线作为保障
覃耿:中国的光模块一定会更高、更快、更强,即更高的密度、更快的速率,中国的光模块产业也会更强。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.