华为云徐强：迎接AI推理时代，大模型混合云焕新升级

6月21日，在华为开发者大会（HDC 2025）期间，“华为云Stack，智能时代更懂政企的云”高峰论坛成功举行。华为混合云副总裁、产品管理部部长徐强发表题为《大模型混合云，解锁政企智能应用无限可能》的演讲。会上，他分享了华为云Stack在大模型混合云领域的进展与成果，深度解读了华为云Stack大模型混合云6大焕新升级能力，并重磅发布《政企AI平台架构及应用实践》白皮书。

华为混合云副总裁、产品管理部部长徐强

大模型混合云持续进化

当前，技术变革日新月异，大模型以其独特的技术与应用优势，已成为推动各行业智能化转型的核心引擎。然而在迈向智能化的征程中，政企仍面临着诸多挑战。徐强指出，一方面，政企存在大量敏感数据需要妥善保护，“数据不出域”成为刚性要求；另一方面，构建和运行大模型所需的庞大算力与高昂成本，让许多企业望而却步。同时，不同行业的业务场景千差万别，如何定制化打造贴合自身需求的智能应用，也是摆在政企面前的一道难题。

基于此，华为云Stack打造大模型混合云方案，通过坚实算力底座、使能百模千态、赋能千行万业三大能力，帮助企业一站式建设自己的专属大模型，加速迈向智能化。

去年6月，华为云Stack发布大模型混合云十大创新技术，迭代基础设施、算法架构和工程能力多维度根技术，让AI技术不难用；同时定义了AI平台标准化的8大能力板块，支撑百模千态和多样化的开发场景，让AI创新变简单；9月，华为云Stack面向5大行业发布80+场景地图，帮助客户快速训好模型，让AI落地更高效。

推理需求爆发式增长

今年以来，以 DeepSeek、Qwen3为代表的新一代大模型加速涌现，推动AI产业在多个维度发生深度变革。

首先，MoE架构兴起，逐步打破大模型性能、成本与易用性的“不可能三角”，在实现高效推理的同时降低了使用门槛，使AI技术真正走向普惠化。

其次，CoT（思维链）将Scaling Law从训练阶段延伸到推理阶段，在训练算力保持相对稳定的情况下，将催生新的算力需求，同时还让模型推理过程打破黑箱，更具可解释性，加速AI在企业核心业务场景的落地。

第三，模型训练的范式也不断演进，从单一的预测学习向强化学习迁移，从预训练逐步走向后训练，使模型对齐人类偏好，更具“个性化适配能力”。

第四，AI的应用生态逐渐转向开源，产业创新的重心从封闭的模型本体转向业务驱动的应用创新，推动AI从“技术突破”迈向“价值创造”。

在这样技术变革和推理需求快速增长的背景下，算力底座和调度面临新挑战。需要软硬件系统级协同优化，结合模型架构实现分布式弹性调度；通过PD分离实现资源解耦；以训推一体提升资源利用率，满足系统低时延、高吞吐，全面提升推理效率。

同时，AI开发的工具链也亟待适配全新的后训练所需要的一站式数据、模型和应用开发能力，并能与开源生态无缝对接，提升AI应用的开发效率与落地速度。

打造政企更优AI平台

迎接推理时代挑战，华为云Stack大模型混合云全面焕新升级6大能力，通过极致推理和精细化的运营运维实现大规模算力高效调度和管理，提供一站式模型后训练和Agent开发工具加速模型天级调优、分钟级部署和应用，并预置政企专属行业使能套件和全流程专业服务，全方位加速智能应用规模落地，加速AI场景价值闭环。

在极致推理方面，华为云Stack致力于推动平台软件与算力硬件的深度适配，打造大规模集群“算力省”“上线快”“体验好”的极致推理服务。针对资源错峰复用场景，利用训推共池技术，算力闲置时长可下降50%；极致弹性伸缩场景下，借助推理部署加速技术，推理服务5分钟即可上线；而在规模并行推理场景，应用大规模专家并行推理与PD分离技术，优异的吞吐与时延特性支持达成99%+SLO推理体验指标。

在精细化运营方面，华为云Stack首创行业标准化AI算力度量指标体系，提供40+算力度量指标和120+全栈资源性能指标，可以管理万卡AI算力集群，同时支持客户CXO评估算力使用价值和投入产出比、运维人员分钟级快速定界故障，以及运营人员实现安全合规的算力全生命周期管控，让算力管理更高效、更可靠。

在模型后训练方面，面向数据和模型开发工程师，华为云Stack构建了一站式的后训练工具链，覆盖数据、训练和评测阶段，帮助企业打造专属深度思考模型。

在Agent开发方面，面向应用落地最后一公里，华为云Stack提供Agent开发平台，具备一站式知识中心、多智能体协作和低门槛开发多重优势，让企业智能应用开发像搭积木一样简单。

在行业使能套件方面，基于华为深入行业的实践积累，华为云Stack围绕7大行业沉淀了40+开箱即用的Agent模板，助力业务分钟级上线；同时提供工业AI引擎，聚焦视觉质检、工艺优化、预测性维护和生产计划4大核心领域打造了18个场景化工作流，使能政企更快速、更精准地应对复杂工业场景的挑战。

在专业服务方面，面向模型供数、模型开发、到模型应用全流程需求，华为云Stack提供7大类30多项专业服务、自研AI工具链以及在实际交付项目中沉淀的服务经验，助力政企加快各行业场景大模型应用的创新和迭代，让大模型从可用到好用。