网易首页 > 网易号 > 正文 申请入驻

超级AIDC该如何Scale?

0
分享至



当需求在指数级增长,互联正在成为算力的第一瓶颈。

国家数据局的一组数据显示:2024年到2026年,中国日均Token调用量两年间增长了1400倍。推理已经取代训练,成为算力消耗的主战场;在Agentic(智能体)推理中,解码环节占到全部工作量的75%到97%。头部云厂商已经把一句口号写进基础设施的设计目标:Token量增长100倍、每Token成本下降10倍。

需求侧的爆炸式增长,把整个行业推到了同一个问题面前:超级AIDC到底该如何Scale?过去两年,外界的注意力几乎全部压在GPU卡数、HBM容量、机柜功率这些指标上。但一个越来越清晰的判断是——决定这台“Token机器”能不能被真正用起来的,不是单点算力,而是把这些算力连起来的那套互联体系。

1.三把剪刀差:为什么Scale这么难

需求侧的爆炸式增长,把三组结构性矛盾同时推到了台前——它们被业内称为“三把剪刀差”。

第一把剪刀差,是算力与互联。GPU算力每两年增长3.3倍,而网络互联与存储带宽的增速只有约1.4倍,差距还在越拉越大。直接后果是:当前在万卡集群里,跨节点的“计算等待”占到训练时间的30%以上,换言之,在并行策略、数据集、网络架构不做同步优化的前提下,单卡算力越强,集群越容易陷入等待数据传输的瓶颈。业界正在积极寻求互联技术创新实现瓶颈突围,新一代光互联方案可以有效压缩计算等待时间占比,这也是当前CPO/OIO概念兴起的深层逻辑。

第二把剪刀差,是网络与内存。带宽方面,以太网端口带宽8年增长16倍(从100G到1.6T),DRAM带宽却只增长3到4倍。容量方面,Agentic会话上下文已经从单步1万Token膨胀到226步、50万Token的长链路推理,仅KV Cache一项,每请求就要约5GB,按最少64路并发计算就是约300GB,而单机可用显存只有约50GB。巨大的内存带宽和容量缺口,“网络换内存” 是当下一条核心解决思路,业界正在通过各种内存池化方案践行这一理念。

第三把剪刀差,是功耗与电力。以超节点为代表的产品形态将机柜内的算力和互联密度推向极致,单机柜功率也随之水涨船高。单机柜功率密度从传统IDC的4到8kW,跃升到100到500kW,预计2029年起将逼近1000kW, 这种趋势对数据中心基础设施提出了严峻的挑战,特别是电力供应。据统计,在800G互联速率下,电互连功耗已经占到机架总功耗的40%以上,从电互联转向光互联不仅能达到直接降低功耗的目的,还能通过“分布式机架”的创新架构降低对高功率密度机架的依赖。

三把剪刀差指向同一个结论:互联已经成为AIDC Scale突围的第一变量。基于这一共识,政策层面同样给出了明确的行动信号:2026年9月,工信部和国家发改委联合印发的《电子信息制造业发展“十五五”规划》,把分布式计算、高带宽内存池、CLink计算总线等互联相关技术逐项点名,AI Infra的评价标准将从"一柜能放多少卡",转向"架构能否兼容多元芯片、接口是否符合开放标准"。


图1:Token工业化浪潮下,AI升格为产业“根基”


2.多尺度Scale:AIDC的分层突围


AIDC如何维系当前持续Scale的叙事?当前行业给出的答案是按场景分层突围:按物理尺度把互联拆成不同的层级,针对每一层“病症”开出最合适的“药方”,而非寄希望于一剂“万能解药”,决定这一趋势的不仅仅是技术,还有技术背后一整套生态迭代演进的商业逻辑。在众多的Scale层级中,Scale In、Up、Out、Across四个场景是行业关注的焦点:

Scale-In,芯片级、晶圆级。这是最靠近算力的一层,追求极高带宽、极低延迟与极致功耗,竞争发生在封装内部、片上网络和I/O密度上。

Scale-Up,板级、机架级。这是当前行业竞争最激烈的一层,追求高带宽、低延迟,以及“原生内存语义”,目标是让“数以百计、千计张卡怎么像一张卡一样干活”。

Scale-Out,机房级。面向超大规模集群,追求RDMA语义、负载均衡和故障域隔离,关注点是“数十万张卡怎么同时干活”。

Scale-Across,城域、广域。面向跨数据中心的算力互联,关注带宽利用率、长距稳定性与时延,是正在打开的新战场。

四个尺度遇到的问题和所面临的技术约束完全不同,而且会随着模型架构和应用场景的迭代快速变化,未来还会延伸出面向太空算力的Scale Above,以及面向边缘算力的Scale Edge。一个合理的判断是:随着模型架构和应用场景的快速迭代,“没有技术银弹”,互联已经进入场景精细化运营阶段,每一种尺度,都有自己的最优解。


图2:互联进入场景精细化运营阶段


3.超节点:互联生态的主战场


在四个Scale里,Scale-Up是过去两年最卷的一层,其对应的硬件形态就是“超节点”,被誉为Token生产效率的核心载体。

简单回顾时间线:超节点1.0(2024—2025)单柜32卡,产品规模落地、技术方案百花齐放;超节点2.0(2025—2026)单柜64卡;超节点3.0(2026—2027)单柜128卡。外界看到的是卡数在往上叠,但卡数只是表象。

卡数之外,真正比拼的是互联生态的闭环能力——CPU、GPU、DPU/NIC与存储之间的每一次数据搬运,都要在互联体系内找到一条低成本、高性能的通路。谁能把这条通路做短、做宽、做省电,谁才真正握住了超节点的“Token生产效率”。

也正因如此,一个反共识的判断在业内形成:互联技术本身不应当成为超节点产品形态创新的障碍,任何试图用一套私有互联技术锁死超节点产品的定义权和评价体系的努力注定失败。

更进一步,从开放互联标准的角度来看,超节点互联标准体系的重心,不应急于另起炉灶、追求颠覆性创新,而应适时摒弃“王侯将相宁有种乎”的零和博弈思维,将关注点放在“已有标准与生态的应用推广、产品能力测评”上。先把已经跑通的东西用扎实,比另造一套轮子更有产业价值。


图3:互联生态闭环能力,成为超节点的核心竞争力


4.光进铜退与封装革命:从Scale-Up到Scale-In的技术台阶


要让Scale-Up继续往上走,必须翻过另一道坎——“光”与“铜”的边界,以及封装形态的重构。

业界已经形成一个共识:224G/lane是可插拔架构的分水岭。在此之下,柜内3米以内铜缆仍可胜任;而到了448G/Lane及以上,柜内与跨机柜互连,“光互联是必然选择”。

速率节奏上,800G是当前出货主力,1.6T自2026年起放量,3.2T预计2028年小批量出货。目前InP、薄膜铌酸锂(TFLN)、硅光、有机物四条技术平台并行推进,其中TFLN已经在今年深圳光博会现场实现448G@112GHz演示,业界预计2028年进入400G/lane时代。

但比速率迭代更具产业含义的,是封装形态的重构。当前技术演进路径可以概括为四阶段:可插拔(前面板、可维护)→ LPO/LRO(能耗约降50%、亚纳秒延迟)→ NPO(2026年最强共识)→ CPO/XPO(1U实现204.8T)。

用功耗算一笔账:224G下可插拔OSFP约为15pJ/bit,6.4T NPO约为6pJ/bit,功耗下降约60%,密度提升4倍,单位面积容量提升11.4倍。可插拔、NPO、CPO不会简单相互替代,将基于场景、成本与运维诉求长期共存、分阶段迭代。

速率迭代是量变,光电转换位置的重构才是质变,而封装之争的本质是产业链责任与利益的再分配。


图4:光进铜退与封装革命,带来产业新机遇


5.开放化从外层向内层倒逼


把当前四个Scale尺度盘一遍,一个规律浮现出来:开放化正在从外层向内层倒逼。

在Scale-Out层,开放生态已经完成对封闭体系的替代。约70%的新建AI部署选择了以太网,高阶RDMA方案(MRC、veROCE、oROCE、MetaROCE)竞相补位:端网协同吞吐提升88%,负载均衡精度99%,网卡单向利用率达97.6%。网络设计目标也已切换为TTFT/TPOT级SLO,多租户QoS、故障域隔离、秒级自愈成为标配。

在Scale-Up层,核心特征是“内存语义、开放双轨”。主战区规模64到128卡,下一站是256到1152卡的光互联AI POD。私有总线(NVLink)与开放标准(UALink 2.0、ESUN 1.0)形成竞合格局,在网计算(INC)则越过了技术质疑期,正在成为Scale Up互联的关键技术特性。

在Scale-In层,核心特征是“光电一体、封装即互连”。CPO共封装光学把光引擎推进到封装内部:微环调制器量产、3D堆叠硅光引擎落地,光子引擎功耗降至约五分之一;光计算互联(OCI-MSA):目标能效~14pJ/bit,优先面向机架内短距(典型 5–10m),MSA 联盟已成立,规范最远支持 500m;混合键合I/O正向每平方毫米1万至100万个互连、低于0.05pJ/bit演进。

在Scale-Across这个新兴战场,需求已经明确但技术路线仍有分歧。百公里800G现网训练已实现98%以上的等效算力,超百T的GSE-DCI路由器试点落地;空芯光纤把时延降低31%(3.3μs/km以内)、损耗低至0.05dB/km,相干与轻相干方案正向1.6T演进。不过具体的技术路线上不同厂商和用户之间尚有分歧:长距稳定性是否必须依赖 Deep Buffer 交换架构,还是通过端侧算法优化适配,目前尚无定论。

沿着这条“片上→板级→集群→跨域”的竞争路线,产业价值重心的迁移越来越明显:Phase 1是GPU供应,Phase 2是HBM供应,Phase 3是先进封装产能,Phase 4是电力与散热,Phase 5是网络与光连接,Phase 6是物理数据中心容量。AI机架的物料清单早已不止GPU——CPU、HBM、网络、电源架、母排、BBU、CDU、歧管、固件、机架管理,真正的问题变成“每家供应商能控制多少机架级BOM”,一个趋势已然成型:第二代赢家,都不造GPU。高功率测试设备、高速连接器、热交换器、多芯光纤、BMC管理芯片,才是价值创造的下一层。

从开放生态的角度而言,行业应该重新思考Fungible(可互换性)的意义和实现路径,并将其作为开放互联标准的终极目标。


图5:开放互联生态进展,四个维度同步推进


6.谁在给这道题交答案?


技术讲完,最后收一句产业侧的注脚。在这场围绕互联展开的系统级竞争里,中兴通讯的选择很有代表性——它没有去卷GPU本身,而是把筹码压在“系统底座”上:

一是OEX正交超节点方案,以正交直连替代传统背板走线,把高速信号路径做短、做直,同时缓解高密度机柜内的信号完整性与串扰、改善散热风道、降低装配与维护复杂度,并与具体GPU芯片解耦,成为适配多样化国产算力的公共平台底座;

二是自研珠峰200 CPU,行业首款面向智算中心场景的RISC-V CPU,完整支持RVA23 Profile、RVV1.0与Vector Crypto,让整机得以在CPU、加速器、交换与互连之间做协同设计;

三是在OCP、ODCC、CLink计算总线等开放计算社区、标准组织长期参与,围绕服务器硬件形态、网络操作系统与互连接口贡献规范建议和代码——硬件可解耦、软件可替换、接口可互认。

结语

回到最初的问题:超级AIDC该如何Scale?

从三把剪刀差的现实压力,到多尺度Scale的分层突围,再到超节点与封装革命的技术台阶,最后到开放化从外层向内层倒逼的产业格局——一条完整的逻辑链是:竞争的尺度从芯片切换为系统,竞争的焦点从性能切换为Token成本,竞争的胜负手从单一产品切换为开放生态。

对开放互联标准化工作而言,第一问不是“哪种技术最强”,而是“界定需求、达成共识、给出指引”;对国内产业而言,这意味着谁参与定义接口,谁就参与定义下一代算力的成本结构。

(封面图来源:摄图网)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
3岁女童被生父女友捂死案将于18日宣判

3岁女童被生父女友捂死案将于18日宣判

黄河新闻网吕梁
2026-11-17 08:48:18
抵达深圳参加APEC 墨西哥总统这个动作有何深意

抵达深圳参加APEC 墨西哥总统这个动作有何深意

看看新闻Knews
2026-11-16 19:06:01
大开眼界!谁能想到,中国石油正式员工每月公积金数额如此惊人!

大开眼界!谁能想到,中国石油正式员工每月公积金数额如此惊人!

補懂事的孩紙
2026-11-17 17:37:38
中央统战部部长李干杰,在211大学

中央统战部部长李干杰,在211大学

双一流高校
2026-11-17 01:12:28
折腾!带队冲超后却遭下课,升班马现离谱操作,明年或是降级大热

折腾!带队冲超后却遭下课,升班马现离谱操作,明年或是降级大热

蜡笔小新爱体育
2026-11-17 17:53:24
今年的退休金还涨不涨?我打了12333问过,实际情况原来是这样

今年的退休金还涨不涨?我打了12333问过,实际情况原来是这样

笑熬浆糊111
2026-10-28 06:00:28
一个家庭有钱没钱,一看便知:没钱的家庭,大都有三个穷习惯

一个家庭有钱没钱,一看便知:没钱的家庭,大都有三个穷习惯

顾一宸
2026-11-14 20:02:21
他原本要出任省委书记,老首长洪学智大笔一挥:还是来总后报到吧

他原本要出任省委书记,老首长洪学智大笔一挥:还是来总后报到吧

漫步史书
2026-11-17 17:47:07
拉夫罗夫曾言:莫斯科将把所有历史上的俄罗斯土地归还其合法家园

拉夫罗夫曾言:莫斯科将把所有历史上的俄罗斯土地归还其合法家园

影孖看世界
2026-10-13 23:32:38
中式武器立大功!20架沙特战机被击落,13架来自中国战机抗下伤害

中式武器立大功!20架沙特战机被击落,13架来自中国战机抗下伤害

铁锤简科
2026-11-15 14:32:31
原来人真的会有预感。刘欢在离开前,突然对妻子卢璐交代了一件事,叮嘱她无论如何都要办好,只有这样,他才能走的体面一点。

原来人真的会有预感。刘欢在离开前,突然对妻子卢璐交代了一件事,叮嘱她无论如何都要办好,只有这样,他才能走的体面一点。

设计最前沿
2026-11-17 17:33:39
局势彻底反转!中美建交47年,还没有任何一个在任美国总统敢落地台湾。特朗普要是破了这个例,那就是明火执仗地踩红线。掀起舆论广泛热议

局势彻底反转!中美建交47年,还没有任何一个在任美国总统敢落地台湾。特朗普要是破了这个例,那就是明火执仗地踩红线。掀起舆论广泛热议

唠叨说历史
2026-11-17 14:28:56
黄仁勋女儿,没戏了

黄仁勋女儿,没戏了

小鱼爱鱼乐
2026-11-17 18:11:53
中央政法委下死命令!严厉查处这些行为,一起都不放过!

中央政法委下死命令!严厉查处这些行为,一起都不放过!

职场资深秘书
2026-11-13 19:21:02
铁饭碗要打破了!事业单位开始搞全员竞聘上岗!

铁饭碗要打破了!事业单位开始搞全员竞聘上岗!

职场资深秘书
2026-11-17 17:11:15
1981年陈伯达保外就医却无处可去,打给上海重庆南京的电话都被回绝,三儿一女里唯有次子陈晓农从石家庄赶回北京:接父是子

1981年陈伯达保外就医却无处可去,打给上海重庆南京的电话都被回绝,三儿一女里唯有次子陈晓农从石家庄赶回北京:接父是子

唠叨说历史
2026-11-17 18:41:08
129万一针降到28.86万,医保报销自付有望10万内。2年生存率69.3%

129万一针降到28.86万,医保报销自付有望10万内。2年生存率69.3%

仙味少女心
2026-11-16 17:38:13
8人凌晨3点潜入军工厂纵火,这个国家却要关闭对俄口岸!俄罗斯:这是“恐俄症”发作

8人凌晨3点潜入军工厂纵火,这个国家却要关闭对俄口岸!俄罗斯:这是“恐俄症”发作

扬子晚报
2026-11-17 10:52:02
电动车可能被取代?多地开始大批量投放!新型代步车已经正式登场

电动车可能被取代?多地开始大批量投放!新型代步车已经正式登场

史之铭
2026-11-17 03:45:50
高中我背男同学上了2年厕所,17年后他成集团总裁,我面试低头不敢认,他却喊:你以为我不记得你了吗?

高中我背男同学上了2年厕所,17年后他成集团总裁,我面试低头不敢认,他却喊:你以为我不记得你了吗?

小秋情感说
2026-11-17 10:56:32
2026-11-17 21:07:00
甲子光年
甲子光年
中国科技产业化前沿智库
3684文章数 9297关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

媒体:高市将来华参加APEC会议 中方已把话说得很清楚

头条要闻

媒体:高市将来华参加APEC会议 中方已把话说得很清楚

体育要闻

我们三兄弟,都是意大利国脚

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

家居
房产
旅游
艺术
手机

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

5381亩之后,三亚绿谷,等一个500强!

旅游要闻

期待值拉满!北京将上新这些博物馆

艺术要闻

21层!库迪咖啡全球总部启用,楼下设超级体验店

手机要闻

花粉狂喜!华为星芒阔直板即将发布,国补后有望5000以内拿下

无障碍浏览 进入关怀版