网易首页 > 网易号 > 正文 申请入驻

13万块GPU连成一张网,延迟只有2.5微秒

0
分享至

一个集群里塞进 131,072 块 GPU,网络延迟压到 2.5 微秒。这是 Oracle 云基础设施(OCI)给出的 AI 算力方案里,最扎眼的两个数字。

OCI Supercluster 的定位很直接:给前沿 AI 模型的训练和推理提供底座。它支持横向扩展的 GPU 算力集群,规模上限就是那串 131,072——对应的是 NVIDIA Blackwell GPU 或 Grace Blackwell Superchips。


网络才是真门槛

堆 GPU 不难,难的是让它们像一块卡那样协同。分布式训练里,节点之间的通信效率往往比单卡算力更能决定整体速度。

OCI 的做法是定制设计的 RoCE v2 协议,配合 NVIDIA ConnectX 网卡搭 RDMA 集群网络。延迟可以做到 2.5 至 9.1 微秒,节点间总带宽最高 3,200 Gb/秒。

这套网络结构的扩展能力不止一种配置:

  • 131,072 块 NVIDIA B200 GPU
  • 超过 100,000 块 NVIDIA Grace Blackwell Superchips
  • 65,536 块 NVIDIA H200 GPU
  • 同时兼容 AMD MI300X

存储和主权 AI 是配套题

大模型训练绕不开频繁的 Checkpoint。OCI 在这块给的是高达 61.44 TB 的 NVMe 本地存储,加上基于 Lustre 的高性能文件系统,专门应对这种高频读写需求。

另一条线是主权 AI。OCI 通过分布式云架构满足各国合规与数据主权要求,让 AI 部署能落在本地规则之内。

应用场景上,页面提到了金融反欺诈、医疗影像分析和药物发现。这些场景的共同点是对算力和数据合规都有硬要求。

Oracle 与 NVIDIA 的合作是这套方案的底层支撑。从 GPU 裸金属实例到超快 RDMA 集群网络,OCI 想讲的故事是:把训练速度提上去,把延迟压下来。

131,072 块 GPU 连成一张网,2.5 微秒的延迟——这两个数字放在一起,才是这套方案真正的卖点。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
10月12日人民币对美元中间价调升17个基点

10月12日人民币对美元中间价调升17个基点

证券时报
2026-10-12 09:38:04
1988年,逻辑学从中学课堂消失了

1988年,逻辑学从中学课堂消失了

城事堂
2026-10-06 09:16:17
85岁老人临终忏悔:宁可孤独终老,也不要这5种养老方式。

85岁老人临终忏悔:宁可孤独终老,也不要这5种养老方式。

风起见你
2026-10-08 01:20:10
懂车帝也太刚了!

懂车帝也太刚了!

胖胖说他不胖
2026-10-09 15:08:05
《伟大的长征》全网热播,于和伟塑造毛泽东获赞“形似,更神似”

《伟大的长征》全网热播,于和伟塑造毛泽东获赞“形似,更神似”

新京报
2026-10-11 21:41:11
黑水创始人刚果行动遇重挫,至少20人死伤,前UFC名将腿中三枪

黑水创始人刚果行动遇重挫,至少20人死伤,前UFC名将腿中三枪

译言
2026-10-11 08:55:09
30年前独霸全球的美国,明明能遏制中国崛起,为何始终不敢动手?

30年前独霸全球的美国,明明能遏制中国崛起,为何始终不敢动手?

纪史行者
2026-10-11 03:35:03
神还原!《GTA6》露西娅Cos真不是AI:大腿纹身作证

神还原!《GTA6》露西娅Cos真不是AI:大腿纹身作证

游民星空
2026-10-12 15:18:30
兵败如山倒!国产新能源或已证明:中国其实不需要二线豪华品牌

兵败如山倒!国产新能源或已证明:中国其实不需要二线豪华品牌

铭记历史呀
2026-09-20 16:15:46
17分钟13+5+2+2+2!哈登多了一个强力帮手

17分钟13+5+2+2+2!哈登多了一个强力帮手

篮球大视野
2026-10-12 14:26:39
英国一男子闯入动物园虎区,近距离手指老虎后被咬身亡

英国一男子闯入动物园虎区,近距离手指老虎后被咬身亡

澎湃新闻
2026-10-11 10:26:39
国际足联正式官宣,世预赛抽签分档或出炉,国足36强恐陷入“死亡小组”

国际足联正式官宣,世预赛抽签分档或出炉,国足36强恐陷入“死亡小组”

兵哥篮球故事
2026-10-11 14:58:23
开始查普通医生!中纪委划4条红线,第1种直接被点名,第3种常见

开始查普通医生!中纪委划4条红线,第1种直接被点名,第3种常见

职场资深秘书
2026-10-09 15:14:01
太意外了!2032奥运举办地敲定:结果惊呆众人,奥运格局大变!

太意外了!2032奥运举办地敲定:结果惊呆众人,奥运格局大变!

小涛叨叨
2026-04-22 17:06:20
德云社刚消停几天,岳云鹏家又出事了,这次可不是小打小闹

德云社刚消停几天,岳云鹏家又出事了,这次可不是小打小闹

东方不败然多多
2026-10-10 06:48:22
广州下一波冷空气,时间确定!

广州下一波冷空气,时间确定!

白云融媒
2026-10-12 12:51:22
泰国一处室内天花板突然破裂,一只巨蜥从破洞掉落,身体倒挂在角落,尾部卡住,当事人:蜥蜴在泰国户外比较常见,这种情况不多见

泰国一处室内天花板突然破裂,一只巨蜥从破洞掉落,身体倒挂在角落,尾部卡住,当事人:蜥蜴在泰国户外比较常见,这种情况不多见

潇湘晨报
2026-10-12 10:36:28
永州女局长周晓芬警醒世人:人这一生三条红线绝不能碰,谁碰谁翻车

永州女局长周晓芬警醒世人:人这一生三条红线绝不能碰,谁碰谁翻车

十为先生
2026-10-11 17:10:07
46年,斯大林下令搜朱可夫别墅,搜出的东西让安全部长直呼离谱?

46年,斯大林下令搜朱可夫别墅,搜出的东西让安全部长直呼离谱?

纪史行者
2026-09-21 07:05:09
一段“江浙沪托举女儿”视频,让外地家长自愧不如,钱不是问题

一段“江浙沪托举女儿”视频,让外地家长自愧不如,钱不是问题

番外行
2026-10-12 09:54:58
2026-10-12 16:00:49
固件更新中
固件更新中
有态度网友ytd
208文章数 78关注度
往期回顾 全部

科技要闻

尊界:10月底确认制动踏板支架升级方案

头条要闻

媒体:美国打不过伊朗 "小弟"们都反了

头条要闻

媒体:美国打不过伊朗 "小弟"们都反了

体育要闻

英超-曼城3-0十人利物浦 豪取6连胜领跑

娱乐要闻

梅启明自资办梅艳芳追思会,34人到场

财经要闻

尊界,是江淮的救命车还是失血引擎?

汽车要闻

限时权益价20.68万起 上汽大众 ID.ERA 8X上市

态度原创

本地
健康
房产
数码
家居

本地新闻

踏访沙县第一村,寻国民小吃本源

孩子运动莫名晕倒?当心这类疾病

房产要闻

太夸张了!海口全城的霸王茶姬,都“挤”爆了!

数码要闻

索尼LinkBuds Clip耳夹式耳机新增“鎏光金”中国限定色,23日上市

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版