网易首页 > 网易号 > 正文 申请入驻

DeepSeek致谢腾讯大模型网络提速技术方案贡献,助力大模型通信性能提升30%

0
分享至

深圳商报·读创客户端记者 陈姝

5月7日,记者获悉,腾讯技术团队针对DeepSeek开源的DeepEP通信框架进行深度优化,使其在多种网络环境下均实现显著性能提升。经测试,优化后的通信框架性能在RoCE网络环境提升100%,IB网络环境提升30%,为企业开展AI大模型训练提供更高效的解决方案。相关技术方案获得了DeepSeek公开致谢,称这是一次“huge speedup”代码贡献。

自今年2月DeepSeek开源包括DeepEP在内的五大代码库以来,该团队便向业界展示了如何利用有限的硬件资源实现接近万卡集群的性能。在这些技术中,DeepEP凭借突破性的方法提升了300%的通信效率,成功解决了MoE架构大模型对英伟达NCCL的依赖问题。

但该技术在成本较低、适用面更广的RoCE网络环境中表现不佳,限制了其在更广泛场景的应用。这一痛点引发了开源社区的持续讨论。

腾讯星脉网络团队基于在RoCE网络领域的深厚积累,在DeepEP开源后便展开技术攻关,发现两大关键瓶颈:一是对于双端口网卡带宽利用率不足,二是CPU控制面交互存在时延。

腾讯在RoCE网络优化方面的突破,首先体现在带宽分配的智能化,通过拓扑感知的多QP建链技术,智能分配数据流,优化了双端口网卡的带宽利用率,确保每条数据通道都能得到充分使用。此举有效避免了带宽浪费,为RoCE网络的性能提升提供了有力支撑。

其次,腾讯还着力解决了GPU通信中的CPU控制瓶颈问题。通过基于IBGDA技术的优化,腾讯使得“控制面”场景的操作也可以绕过CPU的“中转”,进一步降低了延迟和能耗,提升了整体通信效率。

同时,GPU直接“对话”时存在的传输顺序混乱难题,腾讯提出了“QP内时序锁”机制,使得多个GPU间的数据传输能够精准、按顺序完成,即使同时处理1000多个数据传输任务,DeepEP也能自动理顺先后顺序。

在腾讯的技术优化下,DeepEP不仅在RoCE网络实现性能翻倍,反哺到IB(InfiniBand)网络时更使原有通信效率再提升30%。

(腾讯工程师在不同节点服务器上的测试数据)

目前该技术已全面开源,并成功应用于腾讯混元大模型等项目的训练推理,在腾讯星脉与H20服务器构建的高性能环境中,这套方案同样展现出卓越的通用性。

审读:孙世建

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
男子毕业于武汉理工,41岁了去当保安被母校约谈:你删掉视频吧

男子毕业于武汉理工,41岁了去当保安被母校约谈:你删掉视频吧

唐小糖说情感
2026-01-23 11:12:03
不反华了?特朗普调转枪口,24小时内,中国拿到联合国4常支持

不反华了?特朗普调转枪口,24小时内,中国拿到联合国4常支持

策略述
2026-01-23 17:02:55
工厂停摆、门店撤退:理想汽车的“严冬”,比预想中来得更冷

工厂停摆、门店撤退:理想汽车的“严冬”,比预想中来得更冷

科技Nice
2026-01-23 11:27:59
安东尼奥:中国足球和日本差距巨大!会努力让特别的事情发生

安东尼奥:中国足球和日本差距巨大!会努力让特别的事情发生

奥拜尔
2026-01-23 16:41:29
给环卫工人戴定位器工牌,不动就罚款?建议先给出点子的领导们普及

给环卫工人戴定位器工牌,不动就罚款?建议先给出点子的领导们普及

小萝卜丝
2026-01-23 08:56:28
最后的疯狂,开始了!

最后的疯狂,开始了!

金牛远望号
2026-01-23 20:16:51
女教师去学校值夜班途中撞上悬吊树枝身亡,镇政府赔76万,家属回应:未收到一分钱赔偿金,镇政府称没有钱

女教师去学校值夜班途中撞上悬吊树枝身亡,镇政府赔76万,家属回应:未收到一分钱赔偿金,镇政府称没有钱

观威海
2026-01-23 09:34:06
关键时刻,人民日报评论靠谱过吗?

关键时刻,人民日报评论靠谱过吗?

黔有虎
2026-01-23 00:34:42
罪有应得!官方彻查后,闫学晶再迎噩耗,她最担心的事还是发生了

罪有应得!官方彻查后,闫学晶再迎噩耗,她最担心的事还是发生了

来科点谱
2026-01-23 11:08:02
纽森现场带货“跪特朗普专用护膝”

纽森现场带货“跪特朗普专用护膝”

环球时报国际
2026-01-23 15:40:32
广东周日气温回升,有小雨!下周一夜间将迎新一股弱冷空气

广东周日气温回升,有小雨!下周一夜间将迎新一股弱冷空气

南方都市报
2026-01-23 13:58:09
53岁女子被一次性拔牙12颗后心梗休克 涉事诊所:会承担相应责任

53岁女子被一次性拔牙12颗后心梗休克 涉事诊所:会承担相应责任

红星新闻
2026-01-23 17:04:29
中国公民尽快撤离!外交部、中使馆紧急通知

中国公民尽快撤离!外交部、中使馆紧急通知

中国基金报
2026-01-23 19:31:52
以为她不敢报警!浙江男子跨省约女网友,发生关系时勒颈抢4.7万

以为她不敢报警!浙江男子跨省约女网友,发生关系时勒颈抢4.7万

一丝不苟的法律人
2026-01-23 21:54:34
多部门出手,嫣然传来好消息!医院新地址已定,但面临一个大难题

多部门出手,嫣然传来好消息!医院新地址已定,但面临一个大难题

阿纂看事
2026-01-23 14:26:43
视源股份32岁程序员猝死:底薪3千24小时待岗 公司多岗位要求“抗压能力强”

视源股份32岁程序员猝死:底薪3千24小时待岗 公司多岗位要求“抗压能力强”

中国能源网
2026-01-23 09:04:03
李亚鹏澄清做生意亏4000万!并非如此,是被20年老兄弟害了

李亚鹏澄清做生意亏4000万!并非如此,是被20年老兄弟害了

以茶带书
2026-01-23 14:58:15
活久见!阿根廷总统米莱穿运动鞋,参加川普的和平委员会成立大会

活久见!阿根廷总统米莱穿运动鞋,参加川普的和平委员会成立大会

火山诗话
2026-01-23 14:21:22
央视四个字力挺,吴京《镖人》仍被抵制,网友给出的理由出奇一致

央视四个字力挺,吴京《镖人》仍被抵制,网友给出的理由出奇一致

阿纂看事
2026-01-21 19:10:57
听懂广东话的已经笑晕了 ​​​!问同学怎么回家 他说:我妈车我

听懂广东话的已经笑晕了 ​​​!问同学怎么回家 他说:我妈车我

另子维爱读史
2026-01-23 20:05:09
2026-01-24 01:23:00
读创 incentive-icons
读创
读创系深圳报业集团主办的权威财经新媒体,聚焦财经热点,链接资本市场。
20296文章数 44关注度
往期回顾 全部

科技要闻

TikTok守住了算法"灵魂" 更握紧了"钱袋子"

头条要闻

视频:女游客被雪豹咬伤面部 疑因靠近拍照引发

头条要闻

视频:女游客被雪豹咬伤面部 疑因靠近拍照引发

体育要闻

杜兰特鏖战44分钟累瘫 轰36+7却致命失误

娱乐要闻

演员孙涛澄清闫学晶言论 落泪维护妻子

财经要闻

2026年,消费没有新故事?

汽车要闻

主打家庭大六座 奕境首款SUV将北京车展亮相

态度原创

艺术
旅游
手机
本地
亲子

艺术要闻

现在的春联太俗了,还是过去的“老对联”高雅!

旅游要闻

北京世园“天宫灯会”正式开幕,持续至3月8日

手机要闻

49元/月!中国联通推出果粉·王卡:80GB流量 送2年AppleCare

本地新闻

云游中国|格尔木的四季朋友圈,张张值得你点赞

亲子要闻

“一个桃就拐走了!”宝妈在水果店频频拒绝女儿,评论区太真实!

无障碍浏览 进入关怀版