网易首页 > 网易号 > 正文 申请入驻

中科曙光茶话会³|别只盯芯片!浪潮3D Mesh突破5ms推理极限

0
分享至



深夜机房没人打扰,设备安安静静,桌上泡着一壶金骏眉。

三兄弟凑一块儿唠闲嗑,不攀比各家业务长短,就聊聊行业刚爆出的重磅新进展。

中科曙光(端起茶杯抿了一口,慢悠悠开口)

很多人看算力,眼光永远盯在芯片规格上,总觉得单卡性能就是一切。

咱们做底层基建的心里都清楚,大模型、Agent落地,互连才是藏在幕后的关键。

芯片算力再强,卡间通信拖后腿,大量算力直接空转浪费。

今天浪潮放出的实测数据,刚好印证这个道理,高速互连早就不是配套边角料。

浪潮信息(往前挪了挪椅子,说起自家新品劲头十足)

老哥说到点子上了,这次元脑SD200超节点,核心底牌就是自研3D Mesh高性能互连架构。



依托原生内存语义开放总线,单机能稳稳拉起64张本土AI芯片,实现统一寻址,百纳秒级链路大幅削减显存访问、芯片互通损耗,系统自动规划最优传输路由。

我们针对Kimi K2.6万亿参数模型实测,单Token生成速度直接冲到4.77ms,正式迈进5ms推理时代,首Token延迟直接下降35%。



不管是代码重构、数万Token长文本解析,还是多Agent并行协同、无人自主持续推演,低时延互连直接解决并发排队、交互卡顿的痛点。

光靠硬件互连还撑不起这个成绩,我们做了全链路软硬协同优化。

引入多Token预测技术,减少解码轮次压低响应时延;针对万亿MoE模型推出W4A8量化方案,缓解带宽压力、降低推理成本;底层搭载JIT即时编译,针对性解决KV Cache访存瓶颈,把64卡算力完整释放出来。

整机适配DeepSeek V4、GLM 5.2、MiniMax M3一众主流国产大模型,单机最高承载4万亿参数大模型,搭配元脑企智EPAI平台实现多模融合。一次API调用就能联动多款大模型交叉校验输出,企业复杂业务落地省心不少。



之前客户想流畅跑Agent应用,要么高价采购海外互连设备,要么将就普通网络导致推理体验拉垮,现在这套3D Mesh方案落地,国产推理终于不用再被通信短板拖累。

紫光股份(轻轻点头,把整条链路梳理明白)

分开看两层算力网络就很好理解。

我主攻跨城、跨机房的广域调度外网,打通全国算力大动脉;曙光深耕十万卡集群内部大规模无损互联,适合超算训练项目;浪潮这套3D Mesh,主攻单机高密度卡间高速传输,专门适配万亿模型推理与商业化Agent场景。

过去国产算力的短板就是内外链路割裂,外部调度通畅,机房内部高密度传输跟不上。现在三家各有对应的互连方案,从广域调度、大型训练集群到单机推理节点,整条算力链路不再有明显缺口。

中科曙光(温润一笑)

算力赛道下半场,互连架构才是拉开差距的核心。

浪潮靠着3D Mesh互连交出4.77ms的亮眼实测,实实在在证明国产互连技术已经站上行业主舞台。

不管是大规模训练集群,还是面向商业化落地的推理超节点,自主可控的互连底座,才是国产AI长期发展的底气。

浪潮信息

说得没错,芯片决定理论上限,互连决定算力实际能用多少,现在国产互连双双突破,大模型商业化落地速度直接提上来。

紫光股份

内外传输短板全部补齐,接下来国产算力,该轮到我们主导行业新赛道了。



​​​#算力#​#科技股#​#股票#​​​​​​​#今日A股#​

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
国产半导体设备零部件,开始起势

国产半导体设备零部件,开始起势

钛媒体APP
2026-07-08 16:16:13
李嘉诚曹德旺可能说对了!2026年不买房,5年后会庆幸还是后悔?

李嘉诚曹德旺可能说对了!2026年不买房,5年后会庆幸还是后悔?

丁丁鲤史纪
2026-06-24 10:40:34
格列兹曼亮相奥兰多城:很开心能再次与梅西和德保罗同场竞技

格列兹曼亮相奥兰多城:很开心能再次与梅西和德保罗同场竞技

懂球帝
2026-07-08 10:14:21
83年飞行员王学成叛逃台湾,邓丽君慰问时耳语一句后被强行支走

83年飞行员王学成叛逃台湾,邓丽君慰问时耳语一句后被强行支走

鉴史录
2026-05-24 15:48:49
扩容就会报废!iPhone 18 Pro主板图纸泄露,散热设计大改

扩容就会报废!iPhone 18 Pro主板图纸泄露,散热设计大改

泡泡网
2026-07-07 10:43:15
贝克汉姆赞扬梅西:他的特别不仅因为场上表现,还有场外影响

贝克汉姆赞扬梅西:他的特别不仅因为场上表现,还有场外影响

懂球帝
2026-07-08 11:40:26
世界杯8强全部产生,对阵确定:法国vs摩洛哥、西班牙vs比利时、挪威vs英格兰、阿根廷vs瑞士

世界杯8强全部产生,对阵确定:法国vs摩洛哥、西班牙vs比利时、挪威vs英格兰、阿根廷vs瑞士

封面新闻
2026-07-08 09:44:16
温格:法国会拿下本届世界杯冠军,唯一的变数就是西班牙

温格:法国会拿下本届世界杯冠军,唯一的变数就是西班牙

懂球帝
2026-07-08 02:48:11
“木头姐”ARK基金最新调仓:加仓X-Energy与SpaceX,持续减持AMD与部分生技股

“木头姐”ARK基金最新调仓:加仓X-Energy与SpaceX,持续减持AMD与部分生技股

界面新闻
2026-07-08 16:24:18
一台手机干翻一个帝国:HTC是怎么把一手王炸打稀烂的

一台手机干翻一个帝国:HTC是怎么把一手王炸打稀烂的

叮当当科技
2026-07-02 04:44:06
三伏天将至,建议中老年:这3种零食,再贵也要吃,补足营养,伏天少受罪!

三伏天将至,建议中老年:这3种零食,再贵也要吃,补足营养,伏天少受罪!

食烟火味
2026-07-07 09:43:32
美军发动空袭后,伊朗伊斯兰革命卫队防空系统击落一架美军MQ-9型“死神”无人机,伊朗:“霸凌与敲诈的时代已经结束,我们不会屈服”

美军发动空袭后,伊朗伊斯兰革命卫队防空系统击落一架美军MQ-9型“死神”无人机,伊朗:“霸凌与敲诈的时代已经结束,我们不会屈服”

政知新媒体
2026-07-08 12:33:17
美媒警告:中方必须遵从美国领导,并且只能在美国设定界限内发展

美媒警告:中方必须遵从美国领导,并且只能在美国设定界限内发展

梦史
2026-06-14 19:31:39
埃及全队围攻梅西:主帅怒指 球员鼓掌嘲讽 有人直接上手抱住梅西

埃及全队围攻梅西:主帅怒指 球员鼓掌嘲讽 有人直接上手抱住梅西

风过乡
2026-07-08 03:21:15
我说实话,再也不想看见这个男人了!

我说实话,再也不想看见这个男人了!

BenSir本色说
2026-06-30 01:11:23
原来他们早已离婚,一个清醒一个没担当,难怪能得到俩儿子抚养权

原来他们早已离婚,一个清醒一个没担当,难怪能得到俩儿子抚养权

白面书誏
2026-07-06 15:38:49
2026事业单位档案倒查来了,这次动真格!

2026事业单位档案倒查来了,这次动真格!

细说职场
2026-07-06 11:14:18
经历5小时15分钟史诗鏖战后,德约决心要在半决赛和辛纳战斗到底

经历5小时15分钟史诗鏖战后,德约决心要在半决赛和辛纳战斗到底

网球之家
2026-07-08 11:07:12
9年前,我国投资6700亿建设雄安,面积约三个纽约市,如今怎样?

9年前,我国投资6700亿建设雄安,面积约三个纽约市,如今怎样?

深析古今
2026-07-06 16:28:46
宏远速递!胡明轩提前告别杜锋,徐杰最新消息,张昊正式归队

宏远速递!胡明轩提前告别杜锋,徐杰最新消息,张昊正式归队

多特体育说
2026-07-08 10:12:24
2026-07-08 16:56:49
普陀动物世界
普陀动物世界
感恩相识 感恩你对我的关注
851文章数 13526关注度
往期回顾 全部

科技要闻

工信部:Claude Code安全后门隐患

头条要闻

高校男生参加期末考试 监考老师:你眼镜有问题 交卷吧

头条要闻

高校男生参加期末考试 监考老师:你眼镜有问题 交卷吧

体育要闻

阿根廷被埃及埋了一半,死里逃生

娱乐要闻

鹿晗出轨?邓超出轨绯闻又被扒出

财经要闻

科技新贵们,买爆深圳豪宅

汽车要闻

定名岚图梦想家9!岚图全新旗舰MPV来袭

态度原创

手机
艺术
旅游
公开课
军事航空

手机要闻

安卓17让Wi-Fi下载速度暴增:实测提速50%

艺术要闻

越南版“鸟巢”!中国技术撑起世界最大足球场项目

旅游要闻

山水清幽景致佳 夏日消暑正当时

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军发动空袭后 伊朗称击落一架美军“死神”无人机

无障碍浏览 进入关怀版