网易首页 > 网易号 > 正文 申请入驻

中国电信李俊杰:光互连支撑AI超节点可持续演进

0
分享至

C114讯 1月22日消息(水易)大模型快速推陈出新,智能化程度不断提升,整体来看依然遵循Scaling Law法则持续演进,参数的规模、多模态的复杂度以及推理的负载不断提升,对算力的需求也呈现长期确定性的增长态势,并推动网络架构、互连技术和系统工程能力的同步演进。


这一过程中,超节点脱颖而出,成为业界关注的焦点。1月22日,在CIOE中国光博会联合C114举办的“2026中国光通信高质量发展论坛”第一场——“AI超节点互连架构演进”线上研讨会上,中国电信研究院副院长李俊杰表示,随着AI逐渐成为生产力,超节点在推理中的重要性和必要性将进一步凸显。

光互连破局AI超节点“三堵墙”

李俊杰指出,面向大模型训练、迭代调优及推理云服务能力场景需求,AI超节点可充分发挥高带宽、低时延、强协同、高效率等特点,但电互连方案或将面临内存墙、功耗墙与I/O墙“三堵墙”等问题。

内存墙方面,GPU计算能力和模型参数规模的增长速度已经明显快于HBM容量和带宽的提升,数据供给不足成为制约系统效率的关键因素。功耗墙方面,电互连能耗随速率提升急剧上升,逐渐逼近散热和能效极限。I/O墙方面,芯片引脚密度和PCB走线密度限制电I/O数量。

光互连技术有望在速率、功耗和容量三个层面解决目前超节点面临的可持续发展瓶颈。速率方面,通过LPO/LRO/CPO等新型封装模式,推动互连带宽向3.2T以及更高速率演进。功耗层面,通过以片上互连为代表的光电集成工艺创新,可显著降低单位比特能耗。容量方面,依托全光交换等新型组网架构,支持向P比特级超大规模光交换扩展。

当前,光互连技术在AI超节点中的应用场景包括:AI服务器内场景、Scale-up场景和Scale-out场景。AI服务器内部光互连主要在带宽和信号完整性受限时,补充电互连瓶颈。Scale-up场景下,光互连可以代替铜线互连、电交换机或光电协同,实现更高带宽、更低时延的节点内互连。Scale-out场景下,光互连进一步承担跨服务器、跨机柜乃至跨POD互连。

“整体来看,光互连技术正在从局部的性能补偿,发展演进成为支撑AI超节点规模化、灵活化、高可靠运行的关键技术能力。”李俊杰强调。

目前,市面上有两个典型的AI超节点应用。英伟达NVL 576采用基于CPO的Spectrum-X以太网交换机,实现512×200Gbps端口=102.4Tbps交换容量,含32个1.6T硅光的光引擎,以及可拆卸的光纤结构,用于Scale-out与Scale-across场景。

华为CloudMatrix 384超节点采用全对等互连架构,通过3168根光纤和6912个400G LPO模块构建高速互连总线,将384颗NPU、192个CPU以及存储、内存等资源全部互连和池化。

李俊杰表示,结合英伟达和华为的应用,AI超节点中,光互连技术目前主要用于Scale-out与Scale-across场景。对于单机柜内,依旧以铜线为主,在互连可靠性以及链路功耗方面仍有明显优势,但业界逐步开始将光技术下沉至GPU侧,开启早期探索。

新型光互连技术支撑可持续演进

当然,光互连技术在超节点中应用需要一系列关键技术,李俊杰将其总结为大带宽器件、系统架构以及互连介质等三个方面。

大带宽器件方面,超高速率光模块支持GPU-交换机-存储单元-HBM互连,需创新底层光电材料,使能更大带宽的光互连。磷化铟(InP)、硅光(SiP),薄膜铌酸锂(TF-LN)各有优劣,难以通过单一材料体系实现高带宽下的波段扩展,混合集成仍是重点发展方向。因此,在解决器件大带宽(>200GHz)的问题上,可以考虑引入新材料。

同时,需要通过制造工艺和先进封装,使光电芯片处于最佳工作状态,支持从异质集成向单片集成演进,但3D封装下的芯片散热问题需要关注,重点考虑采用散热材料、热电协同优化与散热基板等。

此外,随着GPU单卡/HBM带宽逐渐提升,LPO/LRO通过创新模块的封装方式与架构设计,将光模块的DSP移至设备侧的电交换芯片中,减少电光转换与电信号处理的损失,提升互连速率,降低系统整体的时延、成本与功耗。

面向3.2T及更高速率演进方向,CPO通过先进的光电共封装技术将光芯片、电交换芯片、DSP芯片等异构元件集成在一个封装体内,提升集成度,实现片上光互连,减少交换电芯片与光引擎的物理距离,降低信号的衰减程度,实现功耗的降低与速率的提升。

值得一提的是,在AI超节点的训练和推理场景中,模块的可靠性水平将直接决定整体算力系统的可用性和任务的连续性。在实际生产环境中,光模块可能面临着温度波动、湿度变化、粉尘硫化污染等多重挑战,一旦发生失效,会引发链路中断,甚至AI任务的回退,因此有必要引入电信级可靠的设计理念。IPEC Plugfest工作组已正式成立电信级光模块可靠性标准,标准获得14家IPEC成员支持。

系统架构方面,OCS可用于AI超节点内的灵活组网,通过端口级颗粒度实现GPU、存储单元等资源的灵活分配,支持动态可重构组网,最大化AI超节点的使用效率,满足多任务需求,目前谷歌已在数据中心网络中得到验证。

OCS的实现方案有多种,主流的OCS材料体系包含MEMS、SiP、Piezo等,在插损、灵敏度、端口数规模、切换时间等方面各有专长,可根据不同场景,在性能、规模、可靠性等因素之间选择合适方案。

另外,面向AI超节点的可靠性需求,基于数字孪生数据模型统一处理采集网管各种告警数据,利用孪生拓扑等基础模型和告警关联分析、故障定位等功能模型,进行故障溯源。通过这一闭环,可压缩故障定位时间,减少误判,显著提升AI超节点运行可靠性和运维效率。

同时,光模块拥有丰富的寄存器用来存储关键参数,关键信息透明对于AI超节点的管理和维护具有重要意义。基于精确感知数据,进行多维参数分析,预测AI超节点健康度,进行主动运维。

互连介质方面,空芯光纤以空气为媒介进行传输,具有低时延、低非线性、低色散的特性,可进一步下沉至超节点内部的GPU-交换机-存储单元-HBM互连,进一步降低跨芯片、跨板卡互连的同步时延,从而提升大规模AI系统的整体效率和收益。

最后,李俊杰表示,面向未来,中国电信依托在ITU-T牵头的TR.ION-aiDC技术项目,联合业界一道推动AIDC的光互连技术创新发展与实际应用。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
特朗普警告欧洲:若抛售美国资产,将面临大规模报复;格陵兰岛协议将赋予美方“全面军事进入权”,且不会支付费用

特朗普警告欧洲:若抛售美国资产,将面临大规模报复;格陵兰岛协议将赋予美方“全面军事进入权”,且不会支付费用

每日经济新闻
2026-01-23 00:03:02
库里38分勇士不敌独行侠2连败,马绍尔30分7板9助弗拉格21分11板

库里38分勇士不敌独行侠2连败,马绍尔30分7板9助弗拉格21分11板

湖人崛起
2026-01-23 11:11:50
原子弹炸后百年内寸草不生,今广岛却住满了人,看看专家怎么说?

原子弹炸后百年内寸草不生,今广岛却住满了人,看看专家怎么说?

浩渺青史
2026-01-23 05:38:56
马斯克创造历史,身家即将突破55000亿

马斯克创造历史,身家即将突破55000亿

新行情
2026-01-22 14:10:00
官媒亲宣,25岁王欣瑜再破天花板,让郑钦文和整个网球界沉默了

官媒亲宣,25岁王欣瑜再破天花板,让郑钦文和整个网球界沉默了

丁丁鲤史纪
2026-01-23 11:24:55
马克龙达沃斯论坛戴墨镜成“带货明星”,眼镜公司:接到大量“求同款”订单

马克龙达沃斯论坛戴墨镜成“带货明星”,眼镜公司:接到大量“求同款”订单

红星新闻
2026-01-23 12:26:32
知道不好骗了,索性开始硬抢了!

知道不好骗了,索性开始硬抢了!

胖胖说他不胖
2026-01-22 16:47:14
爱老婆真的会发达!男子连续15年为妻女买黄金,共买了28件金条金饰,预估收益超100万元!

爱老婆真的会发达!男子连续15年为妻女买黄金,共买了28件金条金饰,预估收益超100万元!

佛山电视台小强热线
2026-01-22 20:00:29
金店遭抢劫,店主称被按地上殴打!警方通报

金店遭抢劫,店主称被按地上殴打!警方通报

南方都市报
2026-01-23 11:42:59
如此忽悠群众有意思吗?

如此忽悠群众有意思吗?

笔杆论道
2026-01-23 06:33:00
还没上映就翻车?吴京新电影遭全网抵制,这是怎么了

还没上映就翻车?吴京新电影遭全网抵制,这是怎么了

查尔菲的笔记
2026-01-22 17:06:23
文班26+13+5帽马刺大胜爵士 福克斯31+5+5弩机17+11+14

文班26+13+5帽马刺大胜爵士 福克斯31+5+5弩机17+11+14

醉卧浮生
2026-01-23 12:27:47
关键时刻,人民日报评论靠谱过吗?

关键时刻,人民日报评论靠谱过吗?

黔有虎
2026-01-23 00:34:42
永远不可能被抹杀的历史:四野部队里的那三万日籍士兵

永远不可能被抹杀的历史:四野部队里的那三万日籍士兵

深度报
2026-01-21 21:25:16
炸裂!50岁网红自称"性商教母",教狐系媚术浴室玩法,狂敛2400万

炸裂!50岁网红自称"性商教母",教狐系媚术浴室玩法,狂敛2400万

派大星纪录片
2026-01-22 14:56:51
从斩杀线上升到“强迫器官捐献”——拆解惊悚谣言与美国医疗真相

从斩杀线上升到“强迫器官捐献”——拆解惊悚谣言与美国医疗真相

美国华人杂谈
2026-01-23 01:30:58
快船近17战14胜!哈登:很清楚自己的位置 赢下这些比赛很有趣

快船近17战14胜!哈登:很清楚自己的位置 赢下这些比赛很有趣

Emily说个球
2026-01-23 13:49:30
1936 钱壮飞乌江失踪成谜,寻 50 年 1986 金沙县考证结局唏嘘

1936 钱壮飞乌江失踪成谜,寻 50 年 1986 金沙县考证结局唏嘘

磊子讲史
2026-01-08 15:47:38
战胜湖人笑傲洛杉矶德比,快船官媒赛后连发190个“赢啦”

战胜湖人笑傲洛杉矶德比,快船官媒赛后连发190个“赢啦”

懂球帝
2026-01-23 14:02:18
“女硕士患精神疾病走失十余年被找回”案:两人涉嫌强奸罪被起诉

“女硕士患精神疾病走失十余年被找回”案:两人涉嫌强奸罪被起诉

大风新闻
2026-01-22 22:16:16
2026-01-23 14:16:49
元爸体育
元爸体育
日常美食分享,懒人必备
203文章数 13180关注度
往期回顾 全部

科技要闻

TikTok守住了算法"灵魂" 更握紧了"钱袋子"

头条要闻

媒体:特朗普达沃斯论坛上犯了三种错 两个涉及中国

头条要闻

媒体:特朗普达沃斯论坛上犯了三种错 两个涉及中国

体育要闻

跑个步而已,他们在燃什么?

娱乐要闻

刘大锤曝料 将王星越的“体面”撕粉碎

财经要闻

茂名首富,这次糟了

汽车要闻

“四十不惑”的吉利 信力不信命

态度原创

手机
房产
游戏
公开课
军事航空

手机要闻

vivo V70 FE手机曝光:额定6870mAh电池、55W充电、IP68防水

房产要闻

正式官宣!三亚又一所名校要来了!

《轮回之兽》已开发六年 非开放世界、时长40小时

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军首艘“高超导弹战舰”出海测试

无障碍浏览 进入关怀版