网易首页 > 网易号 > 正文 申请入驻

韦乐平:国内的智算中心遍地开花,但GPU平均利用率不到30%

0
分享至

通信世界网消息(CWW)近日,在2025中国光网络研讨会期间,中国光网络研讨会大会主席,原中国电信科技委主任韦乐平先生表示,大模型时代将开启新一波的“光进铜退”;此外,国内的智算中心遍地开花,但GPU利用率很不均衡。

大模型训练导致高速率、高密度、高成本必然遇到一系列困境。因为随着基础传输速率攀升至每通道100/200G以上,由于趋肤效应、PCB材料高频损耗、串音干扰等导致PCB板铜箔的损耗和功耗快速上升,减小影响的唯一举措就是减小器件间传输距离,直至完全消除铜连线。随着传输速率持续提升,光模块的成本也在持续上升。在400G速率,交换机光器件成本的占比已超过50%。在更高速率下,其占比将更高。

韦乐平指出,为了应对大模型带来的暴力计算所导致的巨大能耗和成本,“光进铜退”必将从接入网延伸至驻地网和数据中心乃至服务器及龙片光互连直至基本消除电连接。当然,这一进程不会一蹴而就,随着电光两者各自的技术进展,博弈将波折前行,但全光化将是大势所趋。

除此之外,行业目前最热的智算中心网要算其中之一。按照韦乐平的理解,智算网是适应大模型需要的,以GPU为主体的网络,由智算中心及其互联组成(对应DCN和DCI),但是关于它的定义和边界目前没有共识。“智算网有的人给它夸大到几十、几百公里,甚至几千公里,我不太相信,但不管怎么说稍微虚点,比较实在的还是智算中心网——AIDC。”韦乐平直言,AIDC与传统的DCN范围相当,包括芯片间、服务器间、单体乃至园区。但他也提到,当前,国内的智算中心遍地开花,总数超280个,但GPU利用率很不均衡,“个别饱的撑死,多数饿的饿死”,平均利用率不到30%。此外,机内总线带宽与机间网络带宽不匹配,机间网络带宽太窄,算效不高。机内总线架构开放性、兼容性、扩展性不理想。当前,行业盈利情况却不容乐观,呈现出极为不均衡的态势。在众多参与企业中,仅有从事硬件制造的英伟达实现盈利,成为行业内的“一枝独秀”。与之形成鲜明对比的是,其他企业均深陷亏损泥潭,即便是行业内顶尖的AIDC,亏损额也高达50亿,并且亏损趋势还在不断扩大,预计今年的亏损规模将超过去年。韦乐平直言,找到可盈利的商业模式迫在眉睫。

关于智算中心网络的流量特征,首先是丢包,零丢包已经成为刚性需求,0.1%丢包将导致网络吞吐损失50%,1%丢包将导致有效计算时间减小到5%,完全不能用。其次,对时延和抖动高度敏感,网络的长尾时延决定了大模型训练完成时间的长短和性能,要严格控制,包括同一训推任务内的不同流量要尽量保持同步。最后,链路间流量不均衡。大模型的参数规模和GPU超高并发处理能力使得流量主要集中在少数GPU之间,因而不同交换链路间的流量难以均衡化,必须采取措施,否则网络浪费太多。

目前,光学技术已占据GPU的IB和以太网高速连接中的75%,未来随着GPU连接逐渐向更高速率和更短互联领域拓展,“光进铜退”趋势将持续推进直至电连接的极限距离。基本光化,但是未必能够全光。

韦乐平称,按照Gartner2024年智算中心连接的技术趋势,2026年CPO可能出现了,但不成规模,是重要的光化;2029年小芯片与硅光集成将成为很重要的趋势;2030年Optics实现纯光化。

韦乐平详细介绍了小芯片技术的发展机遇,随着速率不断攀升,连接交换机ASIC芯片和光模块的铜连线成为功耗也大幅攀升的主要因素,缩短铜连线距离成为主要选择。产业界可利用该技术,将硅光和逻辑芯片电路集成在同一个衬底上,这样可以有效缩短ASIC电芯片与硅光模块间距离,达到降低功耗、减小时延的目的。产业联盟发布的通用芯片互联快线标准规范了小芯片互联的接口、可管理系统架构、支持3D封装、材料兼容性等,韦乐平相信这个标准的出现必将加速集成硅光技术的小芯片应用。

“小芯片与硅光集成用才会有前途。”韦乐平说道。Gartner预测,2029年,超50%的先进芯片将会利用小芯片技术集成硅光技术,为硅光技术提供新发展机遇。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1小时34分鏖战!超燃逆转!蒯曼在1-3落后、第五局救回两个赛点的绝境下,最终以4-3逆转佐藤瞳,晋级四强

1小时34分鏖战!超燃逆转!蒯曼在1-3落后、第五局救回两个赛点的绝境下,最终以4-3逆转佐藤瞳,晋级四强

都市快报橙柿互动
2026-07-05 12:34:26
霍震霆表态,坐实霍启山婚事!女方辱华再添实锤,整个霍家被抵制

霍震霆表态,坐实霍启山婚事!女方辱华再添实锤,整个霍家被抵制

小鋭有话说
2026-07-02 12:58:43
我国为什么有两个中央军委?

我国为什么有两个中央军委?

荷兰豆爱健康
2026-07-05 01:57:06
国王夏联主帅:郭昊文在进攻端展现了多样性;他有望扮演重要角色

国王夏联主帅:郭昊文在进攻端展现了多样性;他有望扮演重要角色

懂球帝
2026-07-04 22:32:08
《花少8》生图,吴君如太朴素,王星越帅,殷桃美翻,娜扎赢麻了

《花少8》生图,吴君如太朴素,王星越帅,殷桃美翻,娜扎赢麻了

八卦南风
2026-07-04 18:16:33
高市已通告备战,岛内直言不讳,一旦交手日本结局只有一个

高市已通告备战,岛内直言不讳,一旦交手日本结局只有一个

普览
2026-07-05 11:01:01
保姆生下孩子,坚称孩子是60岁父亲的,亲子鉴定后,父亲当场气死

保姆生下孩子,坚称孩子是60岁父亲的,亲子鉴定后,父亲当场气死

不易一字
2025-03-19 17:49:40
男子16岁时便出轨嫂子,婚后瞒着妻子继续出轨,还与嫂子生下一子

男子16岁时便出轨嫂子,婚后瞒着妻子继续出轨,还与嫂子生下一子

老猫观点
2026-05-07 07:12:10
正常男人吃一颗伟哥是什么体验?网友们的分享让人脸红心跳加快!

正常男人吃一颗伟哥是什么体验?网友们的分享让人脸红心跳加快!

黯泉
2026-06-25 12:10:30
喜马拉雅一妻多夫制,夜里轮流陪,女人崩溃吐实:每一天都是折磨

喜马拉雅一妻多夫制,夜里轮流陪,女人崩溃吐实:每一天都是折磨

凉了时光人
2026-06-29 10:45:32
郭碧婷一家与夕又米北京游玩,女儿好粘向佐,与儿子性格差距大

郭碧婷一家与夕又米北京游玩,女儿好粘向佐,与儿子性格差距大

八怪娱
2026-07-02 18:16:35
王明、博古、张国焘,都有什么样的结局

王明、博古、张国焘,都有什么样的结局

楚风说历史
2026-07-05 06:45:03
71岁卢卡申科新伴仅22岁,常年被美女模特环绕,分居妻子杳无音信

71岁卢卡申科新伴仅22岁,常年被美女模特环绕,分居妻子杳无音信

译言
2026-06-21 07:11:28
这5部女神为艺术献身的佳作,部部值得反复刷,错过真的要可惜

这5部女神为艺术献身的佳作,部部值得反复刷,错过真的要可惜

小微看电影
2026-07-05 12:20:18
医生发现:每天早起后先排便的人,用不了半年,身体或迎来5改变

医生发现:每天早起后先排便的人,用不了半年,身体或迎来5改变

叙说医疗健康
2026-07-05 08:00:28
余承东最新专利曝光,与汽车顶棚相关!网友:大嘴95年就申请发明专利了

余承东最新专利曝光,与汽车顶棚相关!网友:大嘴95年就申请发明专利了

新浪财经
2026-07-02 20:01:15
若无意外,2026年下半年中国或迎来4大降价潮,应早做准备

若无意外,2026年下半年中国或迎来4大降价潮,应早做准备

混沌录
2026-07-02 19:52:26
日本赞助商集体退出世界杯,中国制造崛起藏着这些真相

日本赞助商集体退出世界杯,中国制造崛起藏着这些真相

冰语历史
2026-07-04 15:58:56
从抵触到玩梗模仿!女生撞脸足坛巨星哈兰德爆火,连本尊都回复了

从抵触到玩梗模仿!女生撞脸足坛巨星哈兰德爆火,连本尊都回复了

草莓解说体育
2026-07-02 17:01:59
宋珍珍自曝,富豪用一袋冷冻水饺约了她缠绵,还有个给她20打车费

宋珍珍自曝,富豪用一袋冷冻水饺约了她缠绵,还有个给她20打车费

江山挥笔
2026-06-11 19:43:45
2026-07-05 14:04:49
通信世界 incentive-icons
通信世界
多维度 全媒体 整合传播
12652文章数 30458关注度
往期回顾 全部

科技要闻

华为:逻辑折叠将大幅提升麒麟CPU核心频率

头条要闻

巴拉圭队门将球扔向姆巴佩:想握手祝贺 但他没理我

头条要闻

巴拉圭队门将球扔向姆巴佩:想握手祝贺 但他没理我

体育要闻

姆巴佩点走巴拉圭:巴黎三代左锋传承

娱乐要闻

王力宏成都舞台受伤 仍然坚持三小时

财经要闻

揭秘跨境“对敲”换汇黑产

汽车要闻

方程豹钛9内饰曝光 用上了长联屏设计/下半年上市

态度原创

亲子
教育
艺术
旅游
时尚

亲子要闻

为什么大多数女性生娃后,对夫妻间的生活都不满?其实跟老公有关

教育要闻

义务教育年限要延长了吗?

艺术要闻

原来郭沫若是错的!《兰亭序》并非伪作

旅游要闻

河南封丘:湿地荷韵浓 黄河岸边添新景

为什么女明星体重涨了,身材反而更辣了?

无障碍浏览 进入关怀版