网易首页 > 网易号 > 正文 申请入驻

单机跑Kimi K3首破5.85毫秒,同等投资Token产能提升10倍!浪潮信息破局Agent算力难题

0
分享至


智东西
作者 王涵
编辑 漠影

2026年,Agent的火爆程度空前。

9月21日,在AICC 2026大会上,IDC发布了一组数字:2026年全球活跃Agent约7940万个,到2030年将达22.16亿个。

而同期Token消耗量的增长更为惊人:从2026年的0.026Peta(千万亿),增长到2030年的152667Peta。Agent数量增长约28倍,Token消耗却增长数百万倍。


需求侧增长如此之快,算力供给能接住吗?

今年有两个案例十分典型:

一是Kimi K3。这个总参数量2.8万亿的模型,权重文件达到1.56TB,普通AI服务器的GPU显存连权重都装不下,官方推荐至少64卡甚至更大规模才能运行。

它指向的是“向上”的困境:当Agent需要更强推理、更长上下文和更多智能体协同,能力上限越高,部署门槛越从单机走向集群。

二是DeepSeek。2026年上半年,它曾将V4-Pro的API价格下调75%,并称调整长期有效;但8月又预告整体提价,理由直指“算力不足”。

它指向的是“向广”的困境:当Agent大规模调用便宜模型,性价比算力的需求被迅速放大,容量不够,低价供给就难以持续。

这两个问题怎么破?

在AICC 2026大会上,浪潮信息给出了自己的回答:向上,Capability AI Compute;向广,Capacity AI Compute。

会上,浪潮信息正式发布元脑SD200 Ultra超节点AI服务器和元脑HC2000多元算力机组。“向上向广”两个方向齐头并进,通过系统协同,浪潮信息从提供算力走向生产智能。

一、向上,超节点突破智能上限

要理解向上的瓶颈从何而来,我们要先看清AI的需求端发生了什么变化。

过去,人们对AI的需求是回答问题,算力调用是单次且临时的。而在Agent时代,一次用户意图背后,可能是几十次、几百次甚至更多次推理,是多个Agent连续几小时甚至几天的协同工作。应用形态的变化,直接提高了对算力系统的要求。

与此同时,前沿模型的Scaling up也在这一时期进入加速期。

以Kimi K3为例,其参数量已经达到2.8万亿,权重文件约1.56TB,普通服务器显存连权重都装不下,更不用说百万Token上下文。官方推荐扩展到64卡甚至更大规模,才能让模型真正运行。更不用说未来可能会扩展到十万亿参数量级的更加前沿的模型。

现如今,芯片之间需要高效通信,内存需要统一寻址,数据搬运需要尽可能减少。简单地把更多服务器堆在一起,行不通了。

超节点的意义,就在于突破传统单机的计算边界,把更多芯片和内存纳入一个高效协同的计算域,为前沿智能提供更大的“有效计算空间”。

浪潮信息发布的元脑SD200 Ultra超节点AI服务器,正是围绕这一目标设计。

元脑SD200 Ultra以开放系统设计紧耦合128芯本土AI芯片,实现统一内存寻址超低延迟通信,并以对称直连、算子优化等创新技术减少模型运行中的数据搬移与等待。

基于这套系统,SD200 Ultra可以单机运行2.8万亿参数的Kimi K3,Token生成时延首次突破5.85毫秒。

同时随着模型参数规模不断提升,还支持10万亿参数规模的前沿模型,为模型规模和上下文长度的持续扩展提供支撑。


从技术实现看,SD200 Ultra基于128芯本土AI芯片,采用3D HyperMesh架构,提供8TB带宽和64TB内存,让前沿模型能够充分利用多颗芯片的计算与存储资源。

通信方面,原生内存语义通信把跨芯片通信时延降低到0.69微秒;在推理优化上,浪潮信息构建超级算子库体系,将KDA、Gated MLA、MoE中的众多基础算子融合为计算+通信的大算子,算子数量降低为原先的1/11,大幅减少了Kernel Launch次数,HBM访问开销,并隐藏了通信延迟,提升GPU整体执行效率。


今天,AI已经能够解决困扰学术界几十年的NS方程。能力型智算要做的,就是让这些前沿能力不只是实验室里的演示,而是可落地、可复制的生产力。

二、向广,让智能供给“供得上、供得便宜”

如果说Capability解决的是“智能可以有多强”,那么Capacity解决的是“我们究竟能够拥有多少智能”。

随着Agent数量和使用深度增加,Token需求还会继续快速增长。提高单位计算资源的Token产出,成为规模化供给的关键。

然而,提高Token产出并不容易。

推理不是一种单一计算模式。Prefill和Decode的计算特征不同,Attention和MoE对计算与访存的要求不同。多模态、MTP等模型架构的发展,还会带来更多类型的计算负载。

简单堆更多服务器,不仅不能带来线性能力增长,还可能因为资源浪费、失衡和任务排队,使部分算力长期闲置,另一部分资源持续紧张。

这意味着,容量型智算需要换一种思路:让不同的算力承担最适合自己的负载,再通过统一的软件栈把它们组织起来。

浪潮信息的答案,是元脑HC2000多元算力机组。

它面向持续、大规模推理需求,基于DirectCom 2.0极速架构,以原生液冷高密整机柜为载体,按负载组织计算资源,实现多元算力协同。


其核心软件栈MCIS建立了一套面向多元算力的协同机制:持续测量不同算力资源的能力与负载,根据任务需求动态分配算力,并在运行过程中实时调整资源配置,让不同类型、不同规模的算力承担更适合的推理任务。


在硬件层面,HC2000采用全液冷设计和高通流供电,单柜供电能力达到300千瓦以上,最大承载256张AI卡,算力密度实现4倍跃升。


更重要的是其算力与计算特征的精准匹配。通过不同组合,多元芯片各司其职,再通过软件栈组织起来,共同完成推理协同,提升整个算力系统的Token产出效率。

在国产算力基础上,通过MCIS和某模型适配,在典型Agent任务场景中,同等SLO约束下,相比单一算力构建的推理系统,实现了同等投资10倍Token产能提升。


浪潮信息首席AI战略官刘军曾说:“智能的价值不仅取决于最高点有多高,更取决于有多少人能够获得它。”

向广的逻辑,是要将先进推理能力通过效率提升和成本下降,快速走向更广泛的用户,让智能从稀缺资源,逐步成为整个社会都能获得的基础能力。

三、从Capability到Capacity,为什么需要系统协同?

SD200 Ultra和HC2000,一个向上,一个向广。看似在做不同的事情,但它们底层是同一个判断:当智能开始被“生产”,算力产业的竞争就不再是单点竞争,而是系统竞争。

刘军将这种思路概括为“贯穿式创新”。

第一个层面,是从芯片、服务器系统到模型的贯穿。

过去做创新,是产业链每一层做好自己的事——芯片、系统、框架、算法、算子,然后纵向对齐;但在Agent AI时代,面向特定模型需要做定制化或专用化优化。

第二个层面,是从单机到系统的贯穿。

Capacity需要从前到后的创新,把链条上每一环节拿出来看,根据不同计算负载的特征匹配最适合的计算资源。

Prefill可以用大算力芯片搭配供应和成本更优的LPDDR颗粒;对于Decode阶段,可以选择具有大容量HBM,兼顾显存容量和带宽的AI芯片。

在此基础上,在FFN计算环节,可以选择3D DRAM堆叠芯片,进一步缩短数据搬运路径。放弃用同一种通用巨无霸芯片干所有事的策略,转而构建多元芯片、多元算力系统。

第三个层面,是从技术到生态的贯穿。

以前理解“多元算力”,就是服务器厂支持不同家的AI芯片;但今天出现了新的协同方式:在同一个业务里面有多元芯片,Prefill用A家芯片,Decode用B家芯片,构成一个算力系统。产业协作从“你赢我输”的零和博弈,转向开放共赢。

从更长周期看,Capability和Capacity并不是两条平行线,而是一个循环。

每一次新的智能能力出现时,往往首先是昂贵而稀缺的。随着算法进步、系统优化和工程成熟,这些能力会逐渐以更低成本进入更多模型、应用和用户。

Capability负责创造新的可能,Capacity负责让新的可能被更多人获得。

同时,更大规模的智能普及,又会带来新的应用、新的数据、新的需求,推动下一轮Capability突破。

系统协同,正是让这个循环持续运转的底层机制。

结尾:Agent时代,计算产业从提供算力走向生产智能

进入Agent时代,Token工厂不能只问拥有多少GPU、CPU,还应该问:这些算力能够支撑多强的智能?能够以多低的成本生产多少智能?

浪潮信息用SD200 Ultra向上突破智能上限,用HC2000向广推动智能规模化供给,一个负责让AI更强大,一个负责让AI更普及。连接两者的,是系统级的协同创新与开放生态。

今天的Capability,正是明天Capacity需要规模化供给的能力。Agent时代,计算产业的使命,也因此变得比以往任何时候都更宽广。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
22分+5记三分!湖人新援成功上位,毕竟是46分先生,1500万真不贵

22分+5记三分!湖人新援成功上位,毕竟是46分先生,1500万真不贵

球盲姐
2026-11-16 19:37:34
盘前,集体跳水!黄仁勋,突传重磅!“AI教父”最新发声

盘前,集体跳水!黄仁勋,突传重磅!“AI教父”最新发声

证券时报
2026-11-16 17:46:04
社评:中俄美元首即将会晤,释放强烈政治信号

社评:中俄美元首即将会晤,释放强烈政治信号

环球网资讯
2026-11-16 12:54:04
让人揪心!水均益自曝经常和朋友们到刘欢家彻夜喝酒聊天,不知他已患癌14年

让人揪心!水均益自曝经常和朋友们到刘欢家彻夜喝酒聊天,不知他已患癌14年

小鋭有话说
2026-11-15 20:44:09
APEC峰会前!高市不仅要来华参会,还要求中方必须高规格接待?

APEC峰会前!高市不仅要来华参会,还要求中方必须高规格接待?

呼呼历史论
2026-11-16 02:46:53
波波维奇:当今联盟仅一人能让我考虑交换巅峰时期的邓肯!

波波维奇:当今联盟仅一人能让我考虑交换巅峰时期的邓肯!

林子说事
2026-11-16 01:33:04
周杰伦演唱会票价惹争议!多场次最低票价580元备注:仅支持看大屏……网友吵翻了↗

周杰伦演唱会票价惹争议!多场次最低票价580元备注:仅支持看大屏……网友吵翻了↗

极目新闻
2026-11-16 16:46:17
布伦森冲裁判喊了三遍“球不会说谎”,随后投进准绝杀

布伦森冲裁判喊了三遍“球不会说谎”,随后投进准绝杀

日常碎碎念啊
2026-11-16 20:05:46
警校退学潮:比考不上更可怕的事,考上了你才发现根本不合适

警校退学潮:比考不上更可怕的事,考上了你才发现根本不合适

糖逗在娱乐
2026-11-02 06:31:49
物业费不再归物业,物业改革终于来了!

物业费不再归物业,物业改革终于来了!

职场资深秘书
2026-11-16 14:18:22
漫天飞雪,他抬头想说5个字!张恩华的儿子,替父亲圆了冠军梦

漫天飞雪,他抬头想说5个字!张恩华的儿子,替父亲圆了冠军梦

曹老师评球
2026-11-16 19:17:09
彭加木失踪四十多年后现身美国?真相浮出水面!当年中央严令追查,背后内情让人背脊发凉

彭加木失踪四十多年后现身美国?真相浮出水面!当年中央严令追查,背后内情让人背脊发凉

磊子讲史
2026-11-10 15:53:31
长春市委书记调整

长春市委书记调整

新京报政事儿
2026-11-16 18:56:03
丈夫变心20年,妻子没提过一句离婚,孙子满月宴上,丈夫却崩溃了

丈夫变心20年,妻子没提过一句离婚,孙子满月宴上,丈夫却崩溃了

兰姐说故事
2025-04-30 20:00:14
广东惠州一男子将攒了18年的红包一次性拆开,从早上7点拆到10点,共拆了3小时,最后清点只有8523元,当事人:之前拆过一些100元的红包

广东惠州一男子将攒了18年的红包一次性拆开,从早上7点拆到10点,共拆了3小时,最后清点只有8523元,当事人:之前拆过一些100元的红包

潇湘晨报
2026-11-16 14:40:21
皇马向居莱尔提供续约5年、800万欧年薪新合同,穆帅将居莱尔列入皇马四大 “非卖品”之一

皇马向居莱尔提供续约5年、800万欧年薪新合同,穆帅将居莱尔列入皇马四大 “非卖品”之一

福酱的小时光
2026-11-16 17:14:16
ICU抢救4小时人没了,医院竟甩出140万天价账单!愤怒家属用AI深扒内幕,医院彻底慌了

ICU抢救4小时人没了,医院竟甩出140万天价账单!愤怒家属用AI深扒内幕,医院彻底慌了

徐德文科学频道
2026-11-15 17:14:40
画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

易玄
2026-09-12 10:24:46
“四人帮”之一的姚文元刑满出狱,提出两个要求,简直是痴心妄想

“四人帮”之一的姚文元刑满出狱,提出两个要求,简直是痴心妄想

扬平说史
2025-07-07 23:37:32
郎咸平戳破真相:黄仁勋不是翻车,是他亲手把英伟达绑成“人质”的苦肉计,桃色新闻只是烟幕弹,黄仁勋用辞职把万亿帝国押给华尔街

郎咸平戳破真相:黄仁勋不是翻车,是他亲手把英伟达绑成“人质”的苦肉计,桃色新闻只是烟幕弹,黄仁勋用辞职把万亿帝国押给华尔街

秋风妃
2026-11-15 22:48:57
2026-11-16 20:36:49
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12943文章数 117195关注度
往期回顾 全部

科技要闻

历史头一回!马斯克用"筷子"夹住太空飞船

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

房产
亲子
数码
公开课
军事航空

房产要闻

从林屿间到林屿熙岸,招商蛇口在崖州湾为何总出爆款?

亲子要闻

宝宝气人但是聪明的4个行为

数码要闻

满电开躁!11月16日,航嘉满电青年计划约你西南交大见!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

哈马斯拉法旅指挥官死于以军空袭

无障碍浏览 进入关怀版