网易首页 > 网易号 > 正文 申请入驻

华为云推出柔性智算FlexNPU,打造弹性伸缩“算力金箍棒”

0
分享至

来源:环球网

【环球网科技综合报道】3月20日,华为云中小企业AI解决方案发布会上推出了一项算力黑科技——柔性智算操作系统FlexNPU,将Token消耗“吞金兽”有效控制在企业预算范围内,打造面向Agentic时代的极致Token性价比,为企业级智能体的普及突破算力瓶颈。

华为云中国区销售伙伴发展部部长、华为云中国区Marketing与解决方案销售部部长郭婷在致辞中表示,2026年华为云将构建AI时代更加肥沃的“黑土地”,让算力服务更柔性、更适配中小企业的轻量化需求,实现从“调度靠拍板”到“成本算到精”的转变,解决“用不起、用不好”算力的核心难题。


企业AI应用现状:一半是海水,一半是火焰

当下,“养龙虾”成为全民热点话题,为千行万业尤其是中小企业提供了建设智能化工作流程的清晰思路。会上,华为云SMB解决方案与持续运营部部长刘杰用“一半是海水,一半是火焰”生动形容了目前企业智能化转型的现状:以OpenClaw为代表的先进生产力工具层出不穷,但AI实际应用往往面临着成本高山、技术壁垒、场景错位等挑战。


对此,华为云发布中小企业AI解决方案,涵盖AI基础设施层、模型服务层、智能体平台层、智能体应用层,帮助企业打造能对接ERP、能调用API、能闭环业务流程的“数字员工”。目前,华为云已深入2600多家企业、30多个行业,解决500多个AI场景化问题,成为企业AI创新路上的可靠伙伴。

刘杰介绍,在AI基础设施层,华为云提供昇腾多代系产品,以及自研的AI Infra OS,尤其是FlexNPU柔性智算技术,一方面满足中小企业小模型训练场景,另一方面通过弹性调度能够大幅提升资源利用率;在模型服务层,华为云支持业界主流开源模型,让企业既能根据业务需求灵活选择,也能结合自有数据低成本微调专属模型;在智能体平台层,华为云提供易用高效的Agent开发环境,助力开发者和中小企业面向行业结合场景打造企业级智能体;在智能体应用层,华为云联合伙伴深入场景,覆盖洞察分析、营销运营、协同办公、开发运维、内容制作等高频需求。

刘杰还表示,华为云致力于提供AI解决方案,做好基础设施和平台底座,伙伴则提供AI行业解决方案、AI行业场景应用、AI专业服务交付,实现深度共创。会上,华为云发布“加速智能化 企业快成长行动2026”,为中小企业、开发者提供从品牌、商业、技术等全方位的支持,共赢AI市场,共同加速企业智能升级。

打造算力“金箍棒”,大幅降低算力成本

“我们的推理池平均利用率竟然不足30%,我们花费重金建设、动辄数万、数十万卡的AI硬件算力池,竟有超过一半以上的算力在‘摸鱼,吃空饷’。”华为云首席架构师、华为公司Fellow顾炯炯在现场抛出了一组惊人数据。他指出,Agent时代企业普遍面临算力痛点:Agent自主规划、多轮迭代、长上下文导致Token消耗量呈指数级增长,如何有效降低Token成本,成为最核心和迫切的挑战。

为此,华为云发布了黑科技——柔性智算FlexNPU,通过构筑强大而灵活的AI Infra层算力调度技术,大幅提升推理池的有效算力利用率,从而以相同AI硬件算力投入,提供更大的Token吞吐输出。


对于柔性智算FlexNPU,顾炯炯以可大可小、变化随心的“如意金箍棒”生动形容,表示FlexNPU赋予NPU/GPU算力“柔性或液态化”供给与伸缩的能力,可依据任意业务需求动态变化随需而动,如同金箍棒一般“可大可小、变化随心”,通过最大化AI算力投入的利用率,最终实现Token性价比的最优化。

具体而言,柔性智算FlexNPU具备极致共享、极致弹性和极致高可用3大属性:

大模型推理方面,FlexNPU通过引入基于柔性算力的PD动态混部、在离线推理混部等创新技术,完美解决了传统PD分离架构下Prefill和Decode集群不均衡的AI Core与显存利用率,以及推理业务潮汐变化规律所导致的大量AI算力空转浪费难题,将带来至少40%的Token性价比提升空间

小模型推理方面,FlexNPU通过实现最小粒度达1% NPU卡及128MB显存的颗粒度的AI Core时分复用,以及显存空分复用,为小模型提供真正完美匹配其算力诉求、量体裁衣的虚拟NPU资源,将小模型的平均算力成本降低2-3倍以上;

推理高可用保障方面,FlexNPU通过软硬解耦及Token级KV Cache的实时快照,使得上层推理框架不再需要感知底层的硬件故障,即可实现故障秒级快速恢复及断点续推,大大减少了Agent推理会话重计算开销,提升了用户的推理体验

顾炯炯强最后总结到,FlexNPU的核心价值体现在:无需再为大模型推理的闲置算力,以及小模型推理的独占算力浪费买单,更不再需要为昂贵的故障重算买单,真正实现了AI算力分配供给从“资源模式”到“效率模式”的范式转变,“让每分AI算力投入迸发最大价值,让智能体的海量Token人人消费得起。”

深入千行万业,做好伙伴AI创新的“黑土地”

华为云领先的智能化基础设施,正在成为千行万业伙伴进行技术创新、产品研发和商业拓展的重要支撑。发布会现场,华为云伙伴代表分享了多个真实案例。

天宽科技有限公司CTO龚徐建介绍,天宽科技基于昇腾算力平台打造制造业Agent解决方案,可实现智能知识问答、合同智能审核、风险识别等功能,合同审核准确率达90%,审核效率提升3倍,生产数据查询时间从1小时缩短到2分钟,将企业人力从繁琐重复的工作中解放,双方后续将在市场洞察、能力共建、成单路径等方面进行拓展合作。


天津宏达瑞信科技有限公司CEO丁照祥则从零售物流行业角度,探讨AI落地带来的巨大价值,表示宏达瑞信基于华为云天筹求解能力,打造AI智能路径规划方案,助力商家获得商品从仓库到经销商的运输最优解,并且可以根据复杂的交通条件灵活配置,排线效率提升60倍以上,减少冗余出车次数20%,物流成本降低5.8%。


人工智能底层技术发展,牵引Al Infra算力基础设施、开闭源大小模型、Agent使能框架与工具等快速演进,激发更多AI创新。面向未来,华为云将秉持“用AI解行业难题”的理念,在应用层、模型层、算力层耕耘AI算力黑土地,携手伙伴共进共赢,抓住AI时代的机遇。(益达)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
进球变丢球,国安进球因禁区内犯规被判无效,海港获点并罚进

进球变丢球,国安进球因禁区内犯规被判无效,海港获点并罚进

懂球帝
2026-05-10 20:37:15
大S女儿玥儿开通账号,用烟花缅怀母亲,小S和徐妈同时关注

大S女儿玥儿开通账号,用烟花缅怀母亲,小S和徐妈同时关注

素素娱乐
2026-05-10 10:09:42
远超预期!刚刚过去的财报季,美股“强的惊人”

远超预期!刚刚过去的财报季,美股“强的惊人”

华尔街见闻官方
2026-05-10 11:24:26
阿森纳下赛季球衣将迎来重大变化,因为他们与卢旺达...

阿森纳下赛季球衣将迎来重大变化,因为他们与卢旺达...

绿茵情报局
2026-05-10 10:18:03
套路一模一样!汉坦病毒又想栽赃中国,没想到被旅游博主记录下来

套路一模一样!汉坦病毒又想栽赃中国,没想到被旅游博主记录下来

魔都姐姐杂谈
2026-05-10 07:41:47
鲁比奥大概率永远来不了北京!

鲁比奥大概率永远来不了北京!

安安说
2026-05-09 10:56:46
赖着不走、不达目的绝不返程!美国国会代表团在华超长滞留

赖着不走、不达目的绝不返程!美国国会代表团在华超长滞留

健身狂人
2026-05-10 19:30:43
逆转+绝杀!提前夺冠!欧冠球队实现四连冠,称霸联赛

逆转+绝杀!提前夺冠!欧冠球队实现四连冠,称霸联赛

乌龙球OwnGoal
2026-05-10 11:15:29
U17国足1-2日本 亚洲杯2连败濒临出局 万项助攻 赵松源破门难救主

U17国足1-2日本 亚洲杯2连败濒临出局 万项助攻 赵松源破门难救主

我爱英超
2026-05-10 01:59:23
光纤行业迎重大利好,外资悄然布局3家低价标的

光纤行业迎重大利好,外资悄然布局3家低价标的

王二哥老搞笑
2026-05-10 13:08:16
当年23个70后一把手,团干14人,费高云是机关内逐级晋升者

当年23个70后一把手,团干14人,费高云是机关内逐级晋升者

江南江南
2026-05-10 11:02:41
张本美和3比2击败王曼昱,首次大赛取胜,第四盘对战孙颖莎

张本美和3比2击败王曼昱,首次大赛取胜,第四盘对战孙颖莎

子水体娱
2026-05-10 19:03:32
特朗普不宣而战,美军发起斩首行动,伊朗或再次上当

特朗普不宣而战,美军发起斩首行动,伊朗或再次上当

国际阿尝
2026-05-10 17:07:44
国务卿鲁比奥被中国拒之门外,北京宁绕弯传话也不给他开门!

国务卿鲁比奥被中国拒之门外,北京宁绕弯传话也不给他开门!

故事终将光明磊落
2026-05-10 15:02:43
陪玩陪睡根本不够!认干爹、舔手指,背地里的阴暗面完全藏不住了

陪玩陪睡根本不够!认干爹、舔手指,背地里的阴暗面完全藏不住了

杰丝聊古今
2026-05-03 13:35:27
缺钾比缺钙危险?5个信号证明你缺钾了,建议吃这5种食物缓解

缺钾比缺钙危险?5个信号证明你缺钾了,建议吃这5种食物缓解

健康之光
2026-05-07 20:50:03
风暴来袭!全国医院严查12大科室,5月飞检上门,原因让人心酸

风暴来袭!全国医院严查12大科室,5月飞检上门,原因让人心酸

白宸侃片
2026-05-10 14:38:57
山东将出现一次强对流天气过程

山东将出现一次强对流天气过程

北青网-北京青年报
2026-05-10 16:34:03
美国外交彻底翻车!鲁比奥被中国拒之门外,绕路传话都不给面子!

美国外交彻底翻车!鲁比奥被中国拒之门外,绕路传话都不给面子!

谭麤爱搞笑
2026-05-10 11:38:49
科尔2年超3500万回归!勇士补强计划出炉:续约库里+乐透追字母哥

科尔2年超3500万回归!勇士补强计划出炉:续约库里+乐透追字母哥

锅子篮球
2026-05-10 14:51:47
2026-05-10 21:16:49
环球网资讯 incentive-icons
环球网资讯
环球网,了解世界,融入世界
1371234文章数 2712185关注度
往期回顾 全部

科技要闻

DeepSeek融资,改写所有人的估值

头条要闻

罕见一幕 韩国总统、国会议长、执政党党首同日飙泪

头条要闻

罕见一幕 韩国总统、国会议长、执政党党首同日飙泪

体育要闻

那个曾让詹姆斯抱头的兄弟,40岁从大学毕业了

娱乐要闻

大S女儿玥儿开通账号,用烟花缅怀母亲

财经要闻

白酒大逃杀

汽车要闻

轴距加长/智驾拉满 阿维塔07L定位大五座SUV

态度原创

教育
游戏
艺术
旅游
军事航空

教育要闻

比考上985更稳的路径?这个国家战略新专业,毕业直通央企核心岗

《GTA6》成本居高不下 Take-Two高管表示毫无压力

艺术要闻

19位艺术家的母亲

旅游要闻

新疆旅游新动向丨从“凑人气”到“留人心” 新疆县域旅游玩出新高度

军事要闻

伊朗革命卫队深夜警告

无障碍浏览 进入关怀版