推理算力需求千倍增长，华为云带来什么新解法？

导读：从“单极垄断”到“多极竞争”，AI算力产业需要破局者。

作者 |小葳

图片来源|摄图

随着DeepSeek与AI Agent应用的火爆，推理算力需求呈爆发式增长。

据IDC预测，2025年全球算力市场规模将突破3000亿美元，其中中国占比超25%。

一方面，受地缘因素影响，国内AI大厂对国际芯片掀起新一轮"囤货"高潮。据The Informaiton披露，包括字节跳动、阿里巴巴和腾讯等大厂，2025年一季度已向英伟达下达价值超160亿美元的芯片订单。

与此同时，中国AI算力阵营也在尝试通过架构创新，构建全球算力产业新秩序：推动市场格局从"单极垄断"到"多极竞争"。

“2024年，昇腾AI云服务增长超过700%。” 2025年4月10日，在华为云生态大会2025上，华为公司常务董事、华为云计算CEO 张平安这样表示。

在华为云生态大会上，基于新型高速总线架构的CloudMatrix 384超节点成为焦点。毫无疑问，在全球科技竞争新格局下，CloudMatrix 384超节点对于AI行业和算力产业将带来新的变量。

从“制程依赖”到“架构创新”

当前，大模型正向多模态、长序列、MoE、深度思考演进，Scaling Law还在加速发展。

我们认为未来AI算力特别是推理算力会出现千倍的增长，同时，网络带宽会出现百倍增长，存储需求也会出现千倍增长。”华为云EI服务产品部部长尤鹏表示。

CloudMatrix 384超节点是基于新型高速总线的系统架构创新，通过算力池化+内存池化，打造澎湃算力。

CloudMatrix 384超节点基于“一切可池化、一切皆对等、一切可组合”的新型高速互联总线架构，其底层逻辑是从单点算力到“算力×运力×存力×电力”的对等多元算力升级，从而实现与国际主流芯片相当甚至超越的性能。

这也验证了，当先进制程获取受阻，通过系统架构创新提升算力效率和算力利用率，正成为破局"算力卡脖子"的新路径。

那么，CloudMatrix 384超节点的实际应用效果如何？

硅基流动的测试表明，单用户20TPS水平下，CloudMatrix 384超节点单卡Decoding吞吐超越国际主流芯片SOTA水平。而且在针对数千用户的盲测中，CloudMatrix 384超节点与国际主流芯片在用户体验上表现相当。

这一测试结果，进一步验证了CloudMatrix 384超节点商业落地的可行性。据了解，CloudMatrix 384超节点已在华为云芜湖数据中心规模上线。

从“单极垄断”到“多极竞争”

「智能进化论」认为，CloudMatrix 384超节点的推出，对于AI行业至少有几方面的影响：

首先，提供第二选择，大大缓解企业的AI算力焦虑，尤其是对国产算力有需求的央国企、重点行业企业。商业逻辑层面，"第二选择"将重构企业的采购决策。

对于大部分企业，相比自行购入并部署AI芯片、AI服务器或一体机产品，云端使用AI算力无疑是更具性价比、更便捷实现AI创新的方式。

华为云的定位非常清晰，打造中国最坚实的算力底座，为世界提供第二选择乃至更优选择。” 华为公司副总裁、中国云业务部部长张修征表示。

其次，推动算力产业格局向“多极竞争”升级。

AI算力产业格局正在迎来结构性变革。

根据IDC数据，2024年，中国加速芯片市场规模增长超过270万张，其中国产人工智能芯片厂商的出货量已超过82万张，即国产芯片占据超30%的市场份额。

“多算力模式，多模型调用，多Agent编排，将成为越来越多企业布局AI的架构选择。” 张修征表示。

这种多元混合的创新架构已深度渗透进AI三大核心要素——在算力层实现多元异构算力融合，在算法层构建通用大模型与垂直模型的互补，在数据层形成云边端、多模态协同的模式。算力的“多极竞争”将进一步加速AI在产业侧的落地。

第三，加速千行万业AI普惠。

今年华为云生态大会，华为云全面升级昇腾AI云服务以及软件开发生产线CodeArts、数据治理生产线DataArts、数字内容生产线MetaStudio等核心工具链。

昇腾AI云服务覆盖了算力服务、全流程数据治理解决方案，到大模型服务、AI工具链在内的全栈解决方案。

目前，华为云盘古大模型已在30多个行业、400多个场景中落地。

我们耐得住寂寞，盘古大模型将会坚定走行业AI的道路，帮助各行各业的客户打造属于自己的大模型。华为并不发布面向C端的大模型应用，我们更关注的是怎么能让行业客户真正落地AI。” 张平安表示。

在第三方大模型方面，昇腾AI云服务已全面适配行业主流160多个大模型。针对海量DeepSeek应用需求，目前华为云昇腾AI云服务可以提供全链路DeepSeek专业服务体系。

基于华为云昇腾AI云服务，奇瑞汽车构建了Cherry GPT，并将其嵌入端到端产品能力上，可以让生产线上的质检员每天少走3万步，让巴西的车主可以用母语来获得24小时的服务。

拥有5.9亿月活用户的新浪微博基于华为云昇腾AI云服务，快速实现了基于DeepSeek的产品升级和创新，推出人气应用微博智搜深度思考版、评论罗伯特等。

结语

当算力成为AI时代的“基础能源”，谁能实现更高的算力利用率，更高的算力可用度，更高的吞吐率以及更低的成本，才能拿到晋级下一阶段竞争的入场券。

面对推理算力需求的井喷与地缘技术博弈的双重挑战，华为云CloudMatrix 384超节点为打破算力垄断、拥抱多元化算力生态探索了新的路径。

本文为「智能进化论」原创作品。