网易首页 > 网易号 > 正文 申请入驻

不加一块GPU,多榨出15%算力:大模型圈开始对网络“动刀”

0
分享至

《科创板日报》5月22日讯(记者 李明明)过去两年,整个行业在算力军备竞赛中的标准动作只有一个:买更多GPU,建更大集群,堆更高算力。

但现在,这条路径正在被重新审视。

近日,智谱首次公开了一项在生产集群中验证过的架构创新——ZCube组网架构。其中一组数据是:GPU一张没加,服务器一台没换,连应用代码都一行没动,集群推理吞吐直接提升了15%,TTFT(首Token响应时间)P99尾延迟下降了40.6%。这些数字是在真实生产流量中跑出来的,不是实验室的仿真推演。

对一家服务上百万开发者的大模型API平台来说,这意味着同一套硬件基础设施,每秒能多扛15%的并发请求,流量洪峰下的排队等待时间大幅缩短。而P99尾延迟的40%降幅,直接决定了终端用户感知到的“卡顿感”能减少多少。

更让行业内部关注的,是成本结构的变化。据智谱披露,ZCube架构所需的交换机和光模块数量比原有方案少了三分之一。规模越大,这笔节省的绝对值就越可观。在推理需求持续高增长、算力供给整体偏紧的市场里,这种“不动硬件、只动组网”的效率挖潜,等于是对存量算力资产进行了一次极低成本效率重估。

不是只有智谱一家在抠算力

智谱这次公开的技术细节有限,但核心逻辑已经足够清晰:当集群里数千甚至数万张GPU同时处理推理请求,每一次KV Cache的跨卡传输、每一次数据同步,都要穿越GPU之间的互联网络。这个网络的效率上限,直接决定了GPU本身能发挥出多少真实算力。ZCube的思路,就是从拓扑设计上重新规划这张“路网”,从根源上消除拥塞——而不是等堵了再去疏导。

几乎在同一时间窗口,另一件事让这个方向的判断有了更重的分量。

OpenAI联合NVIDIA、AMD、Intel、Microsoft、Broadcom五大巨头,正式发布了MRC(多路径可靠连接)网络协议。这是一套面向超大规模AI集群的开放网络协议,目前已经部署在OpenAI所有最大规模超算集群中,包括位于德克萨斯州Abilene的Oracle超算和微软Fairwater超算,用于训练ChatGPT等前沿模型。

两件事放在一起看,指向的判断是一致的:当GPU集群从万卡级向十万卡级跃进,网络早已不是那个被动的“连接件”,而是制约整体效率的核心变量。

但它们的技术路径截然不同。MRC在协议层优化“交通规则”;ZCube则在架构层重构“路网”——从拓扑设计上消除拥塞产生的结构性根源。一软一硬,殊途同归。

如果把视野拉开,会发现“不堆硬件、从基础设施和系统架构里挖效率”这件事,正在逐渐成为行业的微妙转向。

从硬件侧看,NVIDIA最新一代Blackwell Ultra架构,通过NVFP4精度格式和注意力层加速,在DeepSeek-R1推理任务上吞吐量达到基础版GB200的约数倍。Google推出的第七代TPU Ironwood,单芯片训练推理性能比前代Trillium提升超4倍。

从芯片创业公司看,一批专门为推理设计的非GPU架构也在加速渗透。主攻超低延迟的Groq,其LPU在Llama 2 70B上跑出了每秒300个token的速度,比H100集群快10倍。晶圆级芯片公司Cerebras则声称,其推理速度在多项测试中超越了NVIDIA Blackwell。

从模型架构本身看,通义千问的Qwen3-Next通过混合注意力机制和高稀疏MoE设计,将训练成本压缩到此前的十分之一以下,推理上下文吞吐量提升超10倍。DeepSeek推出的稀疏注意力技术,使得新版模型长文本推理速度比前代快2到3倍,API调用成本几乎砍半。

这些探索有一个共同特征:它们都不再依赖“买更多卡”这个唯一的杠杆,而是在现有算力存量和有限新增投入中寻找更大的产出倍数。

当“买卡”不再是唯一答案

这场从“堆硬件”向“挖效率”的转向,正在对上游供应链产生实质影响。

最直接的变量来自网络设备端。ZCube方案实现交换机与光模块用量减少三分之一,MRC协议推动两层交换机组网替代传统三到四层架构——两者叠加,意味着AI集群的采购逻辑将发生结构性调整:对高端交换机的需求将从“更多层级”转向“更少层级、更大端口密度”,光模块则加速向800G及以上速率集中。

事实上,市场数据已经在验证这个趋势。据LightCounting统计,2025年800G光模块出货量同比翻倍,1.6T光模块开始出货;预计2026年800G出货量将继续翻倍,1.6T将从2025年的小基数跃升至数千万端口量级。

从资本市场的视角看,AI网络基础设施正在从万卡集群的“配套工程”升级为产业链的核心价值环节。有机构预测,2026年数据中心交换机总销售额将同比增长86%。谷歌、亚马逊、微软和Meta四大云厂商2026年合计资本支出计划高达数千亿美元。叠加MRC协议推动以太网在超算集群中加速替代InfiniBand的长期趋势,800G/1.6T光模块产业链、高密度以太网交换机及相关芯片、连接器环节,正在进入一个需求结构重塑的窗口期。

北京计算机学会 AI 专委会秘书长、北京大学特聘研究员张有鱼告诉《科创板日报》记者,把时间轴拉长来看,智谱这次公开的ZCube实践,放在行业大背景中有两层含义。

第一层是技术层面的,它用真实生产数据验证了一件事——在千卡乃至万卡集群中,网络架构本身可以成为一个独立的效率杠杆,且边际改造成本极低。当全行业都在GPU采购上烧钱时,这种“四两拨千斤”的效率挖潜,显然比再下一笔芯片订单更具性价比。

第二层是商业层面的,对于手握大量GPU存量的平台型公司,硬件折旧是固定成本,谁能从既有资产中榨出更多Token产出,谁就能在API价格持续下探的市场里拉大成本优势。智谱的15%吞吐提升和三分之一的网络硬件节省,放在百万级并发请求的规模下,对应的是一笔相当可观的运营成本优化。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

扶苏聊历史
2026-11-18 15:55:59
全球95%的人都携带的病毒,竟可能是100%红斑狼疮的根源!

全球95%的人都携带的病毒,竟可能是100%红斑狼疮的根源!

徐德文科学频道
2026-11-20 15:21:42
年会中了四十万的奔驰E300L,直接提车还是税后折现三十五万,这道题摆在普通中年夫妻面前,往往会吵出两种委屈

年会中了四十万的奔驰E300L,直接提车还是税后折现三十五万,这道题摆在普通中年夫妻面前,往往会吵出两种委屈

可读
2026-11-21 00:13:14
中国股市失控信号亮起:这次可能真的不是玩笑

中国股市失控信号亮起:这次可能真的不是玩笑

星语者056
2026-11-20 08:56:23
CBA杯赛小组赛最终排名!山东北京等8队晋级,淘汰赛对阵时间出炉,辽篮再遇老对手

CBA杯赛小组赛最终排名!山东北京等8队晋级,淘汰赛对阵时间出炉,辽篮再遇老对手

老吴说体育
2026-11-20 23:31:30
中国最大饺子店,要上市了!

中国最大饺子店,要上市了!

先锋新闻
2026-11-21 06:54:25
广东半场落后香港金牛3分!徐杰轰5+5+4,焦泊乔7分,周鹏3分

广东半场落后香港金牛3分!徐杰轰5+5+4,焦泊乔7分,周鹏3分

多特体育说
2026-11-21 21:01:17
浙江啤酒消亡史:曾经有上百个地方品牌,如今只剩一棵独苗!

浙江啤酒消亡史:曾经有上百个地方品牌,如今只剩一棵独苗!

云霄纪史观
2026-11-21 03:57:38
日本发布了最新中日关系民意调研结果!出乎人意料

日本发布了最新中日关系民意调研结果!出乎人意料

荆楚寰宇文枢
2026-11-20 22:39:50
王石再次预言楼市!2026年12月之后,中国房价或迎来4大转变

王石再次预言楼市!2026年12月之后,中国房价或迎来4大转变

巢客HOME
2026-11-19 11:00:09
不敌nbl球队,上海男篮下半场全华班出战,偰李永炜21+8,拉塞尔仍未找到状态

不敌nbl球队,上海男篮下半场全华班出战,偰李永炜21+8,拉塞尔仍未找到状态

替补席看球
2026-11-21 21:59:38
“AI检出率”致作者陷自证困局:论文改到“学生作文水平”才达标,却没了学术性

“AI检出率”致作者陷自证困局:论文改到“学生作文水平”才达标,却没了学术性

澎湃新闻
2026-11-21 09:32:42
紧身短裤,是跑步最尴尬的装备

紧身短裤,是跑步最尴尬的装备

跑者排球视角
2026-11-20 06:59:54
为啥有时候大便之前的体重和大便之后的体重一样?难道排泄物没重量吗?

为啥有时候大便之前的体重和大便之后的体重一样?难道排泄物没重量吗?

向航说
2026-11-20 22:10:04
最新曝光!特朗普,买入英伟达、SpaceX

最新曝光!特朗普,买入英伟达、SpaceX

证券时报
2026-11-21 16:16:08
凌空抽射扳平比分,安德森对阵富勒姆收获曼城生涯英超首球

凌空抽射扳平比分,安德森对阵富勒姆收获曼城生涯英超首球

懂球帝
2026-11-21 22:08:12
央视本周继续停播西甲!皇马主席:印度球迷可免费观看皇马的比赛

央视本周继续停播西甲!皇马主席:印度球迷可免费观看皇马的比赛

风过乡
2026-11-21 21:57:47
CCTV5直播中沙男篮世预赛,周琦是赢球关键,郭士强算盘打得很好

CCTV5直播中沙男篮世预赛,周琦是赢球关键,郭士强算盘打得很好

体育大学僧
2026-11-21 11:40:50
红果热播榜杀疯了!《持械入宋》跌至第4,第一名8958万登顶榜首

红果热播榜杀疯了!《持械入宋》跌至第4,第一名8958万登顶榜首

可乐谈情感
2026-11-21 09:09:38
别被《瓦尔特保卫萨拉热窝》忽悠:南斯拉夫游击队真实战力复盘

别被《瓦尔特保卫萨拉热窝》忽悠:南斯拉夫游击队真实战力复盘

民宿体验志
2026-11-20 18:37:19
2026-11-21 22:43:00
财联社 incentive-icons
财联社
以“准确、快速、权威、专业”为新闻准则,为投资者提供专业的投资资讯。
784630文章数 1023221关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

于东来:胖东来保洁工资6千元 保安每天只需工作8小时

头条要闻

于东来:胖东来保洁工资6千元 保安每天只需工作8小时

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

李连杰回应抛妻弃女传闻,透露四个女儿关系

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

手机
数码
本地
游戏
公开课

手机要闻

华为星芒品牌总经理回应定价争议:先把产品做好一点

数码要闻

荣耀林林展示超级快充双口充电器GaN Max 120W,11月23日发布

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

曝R星下一作不是大镖客?《黑色洛城2》传闻再起

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版