网易首页 > 网易号 > 正文 申请入驻

奇异摩尔&壁仞科技方案入选《全球计算联盟2026年度产业应用案例汇编(GMVPS)》

0
分享至

10月8日,《全球计算联盟2026年度产业应用案例汇编》入编目录正式发布。由奇异摩尔与壁仞科技联合推出的国产GPU直通国产RDMA网卡的IBGDA解决方案,从众多征集案例中脱颖而出,成功入选案例汇编。此次入选,标志着国产GPU与国产RDMA网卡在直通互联与软硬件协同方面取得实质性突破,也意味着该方案的技术先进性、生态适配性和产业应用价值获得行业认可。

据了解,“全球计算联盟年度产业应用案例汇编征集(GMVPS)活动”由GCC(全球计算联盟)组织,旨在为沉淀一线产业实践、共享落地经验而搭建的平台。GMVPS作为全球计算联盟年度产业专项,已连续举办多届,累计收录超250项全球产业应用与技术实践内容,已成为产业创新发展的风向标。



(图源:全球计算联盟GCC)

破解“通信墙”,从IBRC到IBGDA

大规模 AI 集群中,GPU 跨节点数据传输传统依赖 IBRC机制。在该机制下,GPU 向远端传输数据需要一条冗长的中转链路:GPU 将数据写入共享内存后,通知 CPU 侧进程;由 CPU 配置工作队列,向网卡下发指令;网卡从 GPU 显存读取数据并完成发送;传输结束后,再经由 CPU 回调通知 GPU。由此可见,跨节点通信不仅受限于网卡带宽,还引入额外的显存/内存拷贝、CPU 参与和同步开销。对于 PD 分离下长上下文、多轮对话和 Agent 高频调用所产生的 KV Cache 搬运而言,这种 CPU 中转路径会进一步放大时延与吞吐损耗,使“通信墙”成为限制解耦收益和集群效率的关键瓶颈



(图源:奇异摩尔)

奇异摩尔网络技术 VP 叶栋指出,“整个流程里,CPU 充当‘中间人’。GPU 准备发送数据先告知 CPU;CPU 下发指令给网卡;网卡读取并传输数据;传输完成通知 CPU;CPU 再反馈给 GPU。这套代理机制在小数据块传输场景下,开销问题尤为突出。MoE 模型推理,正是小包、高频通信的典型场景。当 GPU 每次仅传输少量数据时,CPU 代理产生的开销甚至高于数据本身的传输耗时,持续的交互等待,会让 CPU 处理能力成为集群整体吞吐瓶颈。”

因此,优化GPU与网卡之间的数据通路,尤其是缩短通信控制路径,成为提升系统级效率的关键。在此背景下,IBGDA(InfiniBand GPU Direct Async)技术应运而生,其核心思路是彻底移除 CPU 这一中间环节,实现 GPU 与网卡直接互操作。工作流程得到大幅简化:GPU 可直接生成通信任务、触发网卡门铃;网卡收到指令后,直接读取 GPU 显存内的数据完成发送;传输完毕后直接将状态回写至 GPU,全程无需 CPU 参与

IBGDA在大规模、延迟敏感的AI推理场景中优势显著。根据英伟达的官方数据显示,在NCCL(NVIDIA集合通信库)中使用IBGDA,在大规模集群上进行All to All通信时,延迟最高可降低75%。因此,这项技术对于需要大量细粒度通信的HPC和AI大模型推理场景至关重要。

数据搬运成为新瓶颈

AI大模型推理通常分为Prefill和Decode两个阶段,其中Prefill是计算密集型,负责处理整个输入序列并生成首个Token和KV Cache;Decode是访存密集型,逐个生成后续Token,并不断读取KV Cache。PD分离架构将这两个阶段拆分到不同的GPU上,以解决资源争抢问题,但它也引入了一个核心挑战:Prefill阶段产生的KV Cache必须通过网络传输给Decode节点。随着行业普遍进入长上下文、多轮对话和 Agent 高频调用的时代,KV Cache 的大小也急剧膨胀,其搬运成本已演变为无法回避的工程难题

传统的 TCP/IP 协议栈已完全无法胜任传输挑战,诸多机构在线上推理系统中引入 RDMA,用于承担 KV Cache 的高速传输,从而实现最大化推理性能与资源利用率。NVIDIA Dynamo 官方文档的实测数据给出了直观的对比:使用 TCP 进行 KV Cache 传输会导致 200 至 500 倍的首 Token 时延性能退化,实测 TCP 的 TTFT 高达约 98 秒,而 RDMA 仅需 200 至 500 毫秒。

IBGDA是RDMA技术面向GPU-centric通信场景的重要演进方向,而AI SNIC则是承载该技术的重要硬件。IBGDA对PD分离架构的赋能及KV Cache传输瓶颈的优化主要体现在三个方面:其一是压缩跨节点KV传输的关键路径,无需CPU逐次介入通信提交,从而减少CPU调度和代理线程带来的延迟开销;其二是提升高并发、细粒度通信效率,PD分离架构下KV Cache的传输可能涉及大量分散的内存块,IBGDA优化的GPU侧通信提交路径有助于缓解CPU代理线程的性能瓶颈,实际收益取决于数据布局及请求聚合策略;其三是结合NVMe-oF、GPUDirect Storage(GDS)等存储直通技术,支持将远端存储中的KV Cache高效加载至Decode节点的GPU显存,并结合GPUDirect RDMA及GPU P2P等机制实现GPU间直接数据传输,减少不必要的数据复制和搬运开销,构建高效的GPU-centric数据通路。

总体而言,IBGDA技术继承了RDMA高带宽、低CPU占用以及GDR的GPU内存直接访问优势,并通过将控制面也卸载到GPU,实现了更极致的低延迟通信。

奇异摩尔携手壁仞科技

国产IBGDA方案落地

在国际方案与国产方案的对标中,英伟达凭借其GPU与ConnectX系列网卡的深度协同,率先实现了IBGDA方案,为大规模AI推理场景提供了成熟的延迟敏感型通信能力。而国产集群要实现同等能力,国产化GPU需先满足对类NVSHMEM编程及最新NCCL 通信库以及DeepEP等集合通信库的支持,并与国产RDMA网卡在软硬件层面完成适配,方能实现GPU直通网卡的高效通信。然而,目前国产GPU支持IBGDA主要完成的是与英伟达网卡的适配,但国产RDMA网卡与国产GPU实现网卡直通的规模化落地案例仍相对罕见,这一环节仍是制约国产化集群通信效率提升的短板。



(图源:奇异摩尔)

奇异摩尔携手壁仞科技推出的国产GPU直通国产RDMA网卡的IBGDA解决方案,填补了国产算力体系空白。另外实测表明,IBGDA相较传统IBRC在小包、高频、强同步场景下呈现代际优势——单次小消息带宽显著跃升,原始小包发送及合并发送的吞吐量均实现质的提升。在相同测试条件下,消息操作吞吐方面,IBGDA方案达到100+ MOPS,而IBRC不足2 MOPS,实现数量级跨越;小消息带宽(<1KiB)方面,IBGDA相对IBRC实现5倍以上领先;All-to-All集合通信延迟方面,IBGDA稳定控制在100µs以内,IBRC则超过200µs,延迟降低约50%,且IBRC实测时延高、波动率大;Coalescing合并发送场景下,IBGDA峰值达到1000+ MOPS,而IBRC同样不足2 MOPS,合并后峰值进一步拉大差距。

Jacobi基准测试中,IBRC方案小消息发送比大批量发送慢5倍以上,“小包惩罚”效应显著;而IBGDA方案小消息发送与大批量发送性能基本持平,彻底消除了这一长期存在的“小包惩罚”效应,确保大规模AI推理中频繁出现的小包同步操作不再成为性能瓶颈,为国产算力集群规模化部署提供了坚实的通信底座。

值得一提的是,该方案基于奇异摩尔Kiwi SNIC 800G平台架构设计的单通道400G RDMA ASIC引擎,其已完成软硬件全栈协同开发,原生支持IBGDA机制,并兼容专为MoE模型优化的集合通信库(对标DeepEP)。该方案建立在开放的以太网生态之上,具备以太网部署灵活、成本可控的天然优势,为国产算力集群提供了一个兼具高性能与自主性的Scale-out网络选择。

深耕互联,协同共赢

《全球计算联盟2026年度产业应用案例汇编》聚焦全球计算产业中具有代表性的应用实践。奇异摩尔与壁仞科技联合推出的IBGDA方案此次入选,体现了产业界对国产算力互联技术创新的认可,也反映出算力基础设施正在从“堆叠算力”迈向“系统级优化”的新阶段。

对奇异摩尔而言,这一案例是其在高性能互联、算力集群通信和国产算力生态建设方面的重要实践。与此同时,奇异摩尔持续深化与开源生态的协同,加速 IBGDA 在国产算力产业的适配落地。在国产算力生态不断完善的进程中,奇异摩尔将继续围绕算力互联关键瓶颈,推动更多可验证、可部署、可规模化的解决方案落地,为构建高效、开放、自主可控的算力基础设施贡献力量。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
6天两场比赛!火箭队甜蜜赛程出炉:对手1强1弱,4核心以逸待劳

6天两场比赛!火箭队甜蜜赛程出炉:对手1强1弱,4核心以逸待劳

熊哥爱篮球
2026-10-15 11:40:33
大批新能源车通病集中爆发,车子开着没什么毛病,电池却直接废掉

大批新能源车通病集中爆发,车子开着没什么毛病,电池却直接废掉

史之铭
2026-10-08 00:28:57
浙江一处拆迁房,正紧急寻找继承人!房产所有人已死亡,妻子与女儿也已死亡

浙江一处拆迁房,正紧急寻找继承人!房产所有人已死亡,妻子与女儿也已死亡

都市快报橙柿互动
2026-10-14 22:23:41
一块不该出现的石头,若上面的记载是真的,那将彻底改写人类历史

一块不该出现的石头,若上面的记载是真的,那将彻底改写人类历史

掠影后有感
2026-10-14 09:16:58
震惊!老干妈营收54亿,拣椒岗600人剩48人,其智能化被网友怒斥:这有什么值得炫耀的,用AI后工人剩下几十个人,是很光荣吗?

震惊!老干妈营收54亿,拣椒岗600人剩48人,其智能化被网友怒斥:这有什么值得炫耀的,用AI后工人剩下几十个人,是很光荣吗?

火山詩话
2026-10-15 04:58:34
一嗅觉敏锐女子食用肉包口感异常,边呕吐边报警:这馅是人肉的

一嗅觉敏锐女子食用肉包口感异常,边呕吐边报警:这馅是人肉的

罪案洞察者
2025-05-09 11:24:17
通牒变停火?沙特真正忌惮的不是胡赛,而是中国“已读不回”

通牒变停火?沙特真正忌惮的不是胡赛,而是中国“已读不回”

真的好爱你
2026-10-14 13:20:08
韩媒:民调显示,约73.7%的民众支持缩减或废除亚运免兵役制度

韩媒:民调显示,约73.7%的民众支持缩减或废除亚运免兵役制度

懂球帝
2026-10-15 17:30:10
随着斯图加特3-0,曼城2-4,皇马4-3,利物浦6-3,欧冠最新积分榜出炉

随着斯图加特3-0,曼城2-4,皇马4-3,利物浦6-3,欧冠最新积分榜出炉

侧身凌空斩
2026-10-15 05:06:31
明晚18点开播!又一部犯罪悬疑剧来袭!实力派阵容飙戏

明晚18点开播!又一部犯罪悬疑剧来袭!实力派阵容飙戏

奇怪的鲨鱼们
2026-10-15 13:09:34
我国即将迎来人口死亡高峰?三年间去世3200多万人,速度相当惊人

我国即将迎来人口死亡高峰?三年间去世3200多万人,速度相当惊人

全球风情大揭秘
2026-10-16 02:03:35
苹果突然宣布国行 iPhone 18 Pro 全系列降价!

苹果突然宣布国行 iPhone 18 Pro 全系列降价!

XCiOS俱乐部
2026-10-15 15:35:31
“爱用洗衣凝珠的人天塌了”冲上热搜,男子称妻子使用洗衣凝珠时,里面的液体不慎溅入眼睛,一块眼角膜被腐蚀

“爱用洗衣凝珠的人天塌了”冲上热搜,男子称妻子使用洗衣凝珠时,里面的液体不慎溅入眼睛,一块眼角膜被腐蚀

春城晚报
2026-10-14 16:53:11
钱再多有啥用?49岁李梓萌私生活曝光,移民生子传闻早已真相大白

钱再多有啥用?49岁李梓萌私生活曝光,移民生子传闻早已真相大白

蹲坑看世界
2026-10-14 14:19:12
动真格!往前30年履职倒查来了,这4类人要当心

动真格!往前30年履职倒查来了,这4类人要当心

职场资深秘书
2026-10-13 17:53:57
五年报销四个新秀,雷霆魔咒有点离谱了

五年报销四个新秀,雷霆魔咒有点离谱了

只关于篮球
2026-10-15 12:58:05
全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

扶苏聊历史
2026-08-27 16:15:02
股价跌去近60%!这家A股公司,发生了什么?

股价跌去近60%!这家A股公司,发生了什么?

证券时报
2026-10-15 17:14:28
毛主席两次将他从中央委员名单勾掉,第三次周总理坚决说:不要再勾了!

毛主席两次将他从中央委员名单勾掉,第三次周总理坚决说:不要再勾了!

史不语
2026-10-15 11:44:27
老杜赢了?国际刑事法院下令删除第57号事件,马科斯布局面临崩塌

老杜赢了?国际刑事法院下令删除第57号事件,马科斯布局面临崩塌

麓谷隐士
2026-10-15 00:05:04
2026-10-16 05:12:49
集微 incentive-icons
集微
集微网官方账号
110680文章数 98367关注度
往期回顾 全部

科技要闻

核弹院士彭先觉:可控核聚变 不必再等50年

头条要闻

小男孩衣衫不整跟随母亲游荡 官方:其母多次拒绝救助

头条要闻

小男孩衣衫不整跟随母亲游荡 官方:其母多次拒绝救助

体育要闻

五大联赛第二射手,开着11年前的二手车

娱乐要闻

蒋劲夫晒体脂率引关注,家暴史再被扒

财经要闻

洋餐饮的中国生意:红利消退后的集体交权

汽车要闻

年轻人专属的大五座 小鹏MONA L05预售16.98万起

态度原创

本地
时尚
旅游
健康
房产

本地新闻

这个十一,林都伊春彻底出圈!

1万全款买房,年轻人开始「提前退休」

旅游要闻

住进剧本的旅行不能只靠新鲜感续命

孩子运动莫名晕倒?当心这类疾病

房产要闻

湾际藏品 双子登临 | 中旅・馥棠公馆395㎡&517㎡塔尖大平层全球献映

无障碍浏览 进入关怀版