网易首页 > 网易号 > 正文 申请入驻

刚刚,华为AI突破性技术公布!英伟达花50亿才买到“同款”

0
分享至

智东西11月21日报道,刚刚,华为正式发布了Flex:ai,一项能够将智算资源利用率提升30%的AI容器技术。值得一提的是,这项技术并无生态限制,英伟达的GPU和华为昇腾NPU等算力卡都可以用。

具体来看,Flex:ai是基于Kubernetes容器编排平台构建的XPU池化与调度软件,通过对GPU、NPU等智能算力资源的精细化管理与智能调度,实现AI工作负载与算力资源的“精准匹配”,进而提升算力资源利用率。

以软件补硬件提升AI训推效率、通过开放兼容降低软件开发难度,是其主要特点。

此前,英伟达于2024年4月以7亿美元(约合人民币49.7亿元)收购了以色列AI基础设施公司Run:ai,这家公司核心技术和产品就是提升GPU利用率,能够补充英伟达在AI计算资源管理领域的软件能力。

华为的Flex:ai有其“对标”的意味在,填补国内这一领域的空白,但同时开源的更加全面,相比Run:ai的解决方案,在虚拟化、智能调度方面有其独特技术优势。

Flex:ai将在发布后开源在魔擎社区中,与华为此前开源的Nexent智能体框架、AppEngine应用编排、DataMate数据工程、UCM推理记忆数据管理器等AI工具共同组成了完整的ModelEngine开源生态。

华为特别提到,这项技术“从第一天起”就是高校一起合作开发的。在华为看来,开源是非常重要的,算力资源利用率的提升绝非“一概而论”,需要根据实际业务场景来分析,形成一系列算法。因此华为希望更多客户利用开源生态,将技术拿到自身实际业务场景中,共同探索、解决问题。

华为公司副总裁、数据存储产品线总裁周跃峰特别提到,华为更关注的是AI真正的行业化应用,关注tokens实现的价值而非总量。他们希望让更多企业真正用好AI,让AI进入生产流程中,实现增值,进而推动AI的平民化。

魔擎社区地址:
https://modelengine-ai.net

一、拆解Flex:ai三个关键能力:一张卡变N张卡、负载算力精准匹配、通算和智算融合

具体来看,Flex:ai主要有三个方面的关键能力:

1、算力资源切分,一卡变N卡服务多个AI工作负载

通过算力切分技术,将单张GPU/NPU算力卡切分为多份虚拟算力单元,切分粒度精准至10%。此技术实现了单卡同时承载多个AI工作负载,在无法充分利用整卡算力的AI工作负载场景下,算力资源平均利用率可提升30%。

2、多级智能调度,实现AI工作负载与算力资源的“精准匹配”

通过全局智能调度器Hi Scheduler,自动感知集群负载与资源状态,结合AI工作负载的优先级、算力需求等多维参数,对本地及远端的虚拟化GPU、NPU资源进行全局最优调度,实现AI工作负载分时复用资源。即便在负载频繁波动的场景下,也能保障任务平稳运行。

3、跨节点算力资源聚合,实现通用算力与智能算力资源融合

聚合集群内各节点的空闲XPU算力聚合形成“共享算力池”,通用服务器通过高速网络将AI工作负载转发至池内GPU/NPU卡执行,实现通用算力与智能算力资源融合。

二、AI大模型时代,AI容器技术升级势在必行

为什么要发布并开源Flex:ai AI容器技术?在华为看来,大模型时代,容器与AI是天然搭档。

容器技术作为一种轻量级虚拟化技术,可以将模型代码、运行环境等打包成一个独立的、轻量级的镜像,实现跨平台无缝迁移,解决模型部署“环境配置不一致”的痛点。容器还可以按需挂载GPU、NPU算力资源,按需分配和回收“资源”,提升集群整体资源利用率。

Gartner的分析师表示,目前AI负载大多都已容器化部署和运行,据预测,到2027年,75%以上的AI工作负载将采用容器技术进行部署和运行。

华为提到,当前传统容器技术已无法完全满足AI工作负载需求,AI时代需要AI容器。

大型语言模型(LLM)的容器镜像轻松突破10GB,多模态模型镜像甚至可达TB级别,传统容器无法支持超大镜像的快速拉起,环境构建时间往往长达数小时。

传统容器主要针对CPU、内存等通用计算资源进行管理与调度,而AI大模型训练与推理还需大幅依赖GPU、NPU等智能算力资源,传统容器无法对异构智算资源做到算力细粒度切分与智能调度,导致即使很小的AI工作负载也独占整张算力卡,且无法进行远程调用。

传统容器的资源调度以固定分配、通用调度为主,而AI工作负载的资源调度需要以保障任务完成效率为目标,对不同任务的SLO特性进行感知,实现动态弹性的资源分配。

三、对标英伟达Run:ai,虚拟化和智能调度是关键优势

AI容器领域业界已经有多家企业推出了不同产品,与英伟达今年年初收购的Run:ai公司的核心产品相比,华为Flex:ai主要在虚拟化和智能调度方面有一定优势。

具体来看,在本地虚拟化技术中,Flex:ai支持把单个物理GPU/NPU算力卡切割为数个虚拟算力单元,并通过弹性灵活的资源隔离技术,可实现算力单元的按需切分。

同时,Flex:ai独有的“拉远虚拟化”技术,可以在不做复杂的分布式任务设置情况下,将集群内各节点的空闲XPU算力聚合形成“共享算力池”,此时不具备智能计算能力的通用服务器通过高速网络,可将AI工作负载转发到远端“资源池”中的GPU/NPU算力卡中执行,实现通用算力与智能算力资源融合。

智能调度方面,Flex:ai智能资源和任务调度技术,可自动感知集群负载与资源状态,结合AI工作负载的优先级、算力需求等多维参数,对本地及远端的虚拟化GPU、NPU资源进行全局最优调度,满足不同AI工作负载对资源的需求。

比如高优先级AI工作负载可以获得更高性能算力资源支持,在出现算力资源已被全部占满的情况下,能直接抢占其他任务资源,确保最重要的任务能够完成。而优先级较低的AI工作负载,则可以在算力闲时如夜间执行,实现分时调度;针对增量训练场景,Flex:ai还可智能感知集群中增量数据的变化,达到一定阈值后,触发数据飞轮。

结语:AI容器技术升级,AI平民化提速

现如今,不同行业、不同场景的AI工作负载差异较大,Flex:ai的开源,可提供提升算力资源利用率的基础能力和部分实践案例,随着更多产业玩家的加入,业界必将完成更多基于这一技术结合场景的落地探索。

与此同时,开源的Flex:ai可以在产学研各界开发者的参与下,共同推动异构算力虚拟化与AI应用平台对接的标准构建,形成算力高效利用的标准化解决方案,进一步加速AI的平民化。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
医院一线医护被逼走投无路,霸权式管理闹剧何时休?

医院一线医护被逼走投无路,霸权式管理闹剧何时休?

峰哥跑交通
2026-11-21 16:39:17
就在刚刚,WTT马斯喀特球星赛:国乒五项全军覆没,男单独苗0-3负于日本,无缘决赛

就在刚刚,WTT马斯喀特球星赛:国乒五项全军覆没,男单独苗0-3负于日本,无缘决赛

篮球热嗖
2026-11-21 18:48:51
墨总统:墨西哥不打算与中国签署自贸协定

墨总统:墨西哥不打算与中国签署自贸协定

俄罗斯卫星通讯社
2026-11-21 16:09:51
选战倒数!宋楚瑜罕见表态 吁不分党派挺童子玮

选战倒数!宋楚瑜罕见表态 吁不分党派挺童子玮

金牛传声
2026-11-21 15:18:45
钱学森当年纳闷地问张爱萍:搞科研为啥要设政治部?张爱萍反问得他哑口无言:你当年到底为啥非要从美国回来?

钱学森当年纳闷地问张爱萍:搞科研为啥要设政治部?张爱萍反问得他哑口无言:你当年到底为啥非要从美国回来?

唠叨说历史
2026-11-20 14:05:41
大南山隧道研究了十年,到底什么时候动工

大南山隧道研究了十年,到底什么时候动工

娱乐的硬糖吖
2026-11-21 09:20:19
2025辽宁死亡第一,这个不敢造谣,任何人上网都能查

2025辽宁死亡第一,这个不敢造谣,任何人上网都能查

北京作家编剧肥猪满圈
2026-11-18 17:23:20
紧身短裤,是跑步最尴尬的装备

紧身短裤,是跑步最尴尬的装备

跑者排球视角
2026-11-20 06:59:54
A股:股民都准备好了,不出所料,后天11.23,A股或迎更大变盘调整吗?

A股:股民都准备好了,不出所料,后天11.23,A股或迎更大变盘调整吗?

趋势清风侠
2026-11-21 15:24:27
跟普京谈了30分钟!高市马不停蹄致函欧洲:日本将继续支援乌克兰

跟普京谈了30分钟!高市马不停蹄致函欧洲:日本将继续支援乌克兰

深蓝的航迹
2026-11-21 18:34:45
炸桥也没用,美欧要强逼泽连斯基低头特朗普挑明:乌克兰正在输

炸桥也没用,美欧要强逼泽连斯基低头特朗普挑明:乌克兰正在输

秋枫未语
2026-11-21 00:31:10
C罗回击滕哈赫:能接受穆里尼奥批评,为何不能接受前曼联主帅?

C罗回击滕哈赫:能接受穆里尼奥批评,为何不能接受前曼联主帅?

雅儿姐姐爱侃剧
2026-11-21 11:23:07
这TM十六岁?

这TM十六岁?

中场阴谋家
2026-11-21 16:06:19
库里要的帮手来了!一笔三方交易,让勇士从摆烂重返争冠行列

库里要的帮手来了!一笔三方交易,让勇士从摆烂重返争冠行列

小齐说球
2026-11-21 19:06:13
“全国最霸气的车次”?V587次列车火了!

“全国最霸气的车次”?V587次列车火了!

环球网资讯
2026-11-20 13:41:47
库什纳称俄方接受乌克兰获北约式安全保障,近40国柏林开会争取“上桌”

库什纳称俄方接受乌克兰获北约式安全保障,近40国柏林开会争取“上桌”

澎湃新闻
2026-11-20 17:44:40
余承东紧急纠正发布会不当言论:现在还是L2 开车不能睡觉!

余承东紧急纠正发布会不当言论:现在还是L2 开车不能睡觉!

快科技
2026-11-20 18:40:09
耻辱罚球!火箭124-133掘金,看数据:他是头号罪人!

耻辱罚球!火箭124-133掘金,看数据:他是头号罪人!

运筹帷幄的篮球
2026-11-21 12:17:53
CBA猛料!赵睿离开国家队原因曝光,深圳13+5+4国手赛季报销,巩晓彬丁彦雨航和解

CBA猛料!赵睿离开国家队原因曝光,深圳13+5+4国手赛季报销,巩晓彬丁彦雨航和解

中国篮坛快讯
2026-11-20 17:19:04
日方确认高市早苗与普京在深圳聊了30分钟,对话由日方主动提出

日方确认高市早苗与普京在深圳聊了30分钟,对话由日方主动提出

凤凰卫视
2026-11-20 16:23:06
2026-11-21 19:55:00
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12992文章数 117196关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

教育
艺术
时尚
手机
家居

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版