华为张平安：华为384昇腾AI云服务已全面上线，未来超节点规格将升到8192卡

9月19日，在华为全联接大会的第二天，华为常务董事、华为云计算CEO张平安在主题演讲环节分享了华为云在AI云服务、大模型、具身智能、AI Agent等领域的技术创新与落地实践。

华为常务董事、华为云计算CEO张平安

据介绍，华为云CloudMatrix384昇腾AI云服务已全面上线。未来华为CloudMatrix超节点规格将从384卡升级到8192卡，可实现50-100万卡的超大集群。

随着AI算力需求的暴增，传统的数据中心已不适合构建高效的AI基础设施，单机柜功率要从10千瓦/每柜，升级到70千瓦/每柜，甚至是200千瓦/每柜，要从风冷转变到全液冷。

华为云在贵州、内蒙古、安徽部署了全液冷AI数据中心，实现单机柜80千瓦散热，PUE低至1.1，并能够实现AI智能运维。

华为表示，企业无需改造或新建传统数据中心，通过一对光纤，就能获取华为云上的AI算力，也可以获得全栈专属AI云服务。

张平安指出，Token服务可以有效屏蔽复杂的底层技术，直接为用户提供最终的AI计算结果，是最高效的推理算力使用方式。CloudMatrix384超节点将算力、内存、显存等资源全面池化，把计算型任务、存储型任务、AI专家系统解耦，将串行任务变成分布式并行任务，极大地提升了系统的推理性能。在在线、近线和离线等不同时延推理场景中，CloudMatrix384平均单卡的推理性能达到H20的3到4倍。

会上，张平安宣布，CloudMatrix384 AI Token推理服务全面上线。

截至目前，使用华为云AI云服务的全球客户数量从去年的321家增长到今年的1805家。

张平安表示，华为云通过软硬协同、架构创新，持续为客户打造更领先、更有价值的云服务；同时将更多的资源投入到AI和算力产业上，让千行万业的的应用更容易、更好地生长在华为云的“黑土地”上。

此外，今年华为云还推出了CloudRobo具身智能平台，将算法与智能逻辑部署于云端，让本体更轻量化；依托云端海量算力与先进 AI 模型，让机器人执行更智能。为构建机器人与云端统一、开放、安全的通信桥梁，华为云推出R2C（Robot to Cloud）协议，以实现智能体的协同思考与高效执行，如今R2C协议的数据采集、数据生成、通讯接口三项国家标准已完成立项。

会上，张平安宣布R2C协议首批20家合作伙伴正式确立，包括华龙讯达、非夕、亿嘉和、道和通泰等。华为云携手伙伴，围绕制造、物流、巡检、康养等领域，基于R2C共同开发云端一体化机器人解决方案。

今年8月份，市场传出华为云组织优化和人员调整，对此，华为云回应称通过软硬协同、架构创新，持续为客户打造更领先、更有价值的云服务，与此同时将更多的资源投入到AI产业和算力产业上。

华为云表示，接下来在智能算力云的赛道上，华为云将投入更多的资源，加大对昇腾云、盘古大模型、数智融合等投入，同时投入更多的力量，来支持昇腾CANN生态的发展。此外，对于盘古大模型，华为云也将加大投入，持续深耕行业，支持各行各业的客户做好自己的大模型，同时支持大模型用好昇腾，让更多的AI应用在昇腾上繁荣起来，加速行业智能化。

据第三方机构IDC发布的报告，2024年中国AI公有云服务市场规模195.9亿元，其中百度智能云、阿里云位居市场并列第一，市场份额24.6%，其次是腾讯云和华为云。市场增长驱动力一方面来源于生成式AI应用的扩展，另一方面也来源于机器学习训推需求的明显增长，带动了平台层以及应用层的AI市场增长。