网易首页 > 网易号 > 正文 申请入驻

对标英伟达,华为开源AI容器技术Flex:ai 它可使算力平均利用率提升30%

0
分享至

来源:市场资讯

(来源:每日经济新闻)

AI(人工智能)产业高速发展正催生海量算力需求,但全球算力资源利用率偏低的问题日益凸显,“算力资源浪费”成为产业发展的关键桎梏。其具体表现为,小模型任务独占整卡导致资源闲置,大模型任务单机算力不足难以支撑,大量缺乏GPU(图形处理器)/NPU(神经网络处理器)的通用服务器甚至处于算力“休眠”状态,供需错配造成资源浪费。

11月21日,在2025AI容器应用落地与发展论坛上,华为公司副总裁、数据存储产品线总裁周跃峰发布了AI容器技术——Flex:ai。据悉,Flex:ai通过算力切分技术,将单张GPU/NPU算力卡切分为多份虚拟算力单元,切分粒度精准至10%。此技术实现了单卡同时承载多个AI工作负载,在无法充分利用整卡算力的AI工作负载场景下,算力资源平均利用率可提升30%。

在面临先进制程受限、单颗AI芯片性能与国外存在差距的现实下,Flex:ai延续了华为“以软件补硬件”的发展路径。

值得一提的是,华为这项新技术还将对标英伟达2024年底收购的以色列公司Run:ai。Run:ai的核心产品是基于“Kubernetes”(开源容器编排平台)构建的软件平台。其可通过动态调度、池化和分片等手段优化GPU资源使用。例如,自动驾驶公司Wayve就借助Run:ai将GPU集群效率从不足25%提升到80%以上。华为的Flex:ai同样聚焦于通过软件创新实现对英伟达、昇腾等其他第三方算力的统一管理与调度,屏蔽底层硬件差异,为AI应用提供更高效稳定的资源支撑。

此外,相比Run:ai主要服务于英伟达GPU生态,Flex:ai并没有生态限制,英伟达的GPU和华为昇腾NPU等算力卡都可以使用。

Flex:ai的能力已在真实产业场景中得到验证。瑞金医院与华为联合打造的多模态病理大模型“RuiPath”,被用于识别病理切片病灶区域,覆盖19个常见癌种。该模型基于103万张病理切片数据训练而成,但仅用16张昇腾910B算力卡便可完成大规模训练。这背后离不开Flex:ai的技术支撑,其通过算力资源切分、智能任务调度等技术,将XPU(CPU、GPU、DPU等芯片的统称)资源可用度从40%提升至70%,破解了有限算力下的大规模训练难题。

IT研究与咨询公司“Gartner”的分析师表示,目前AI负载大多都已容器化部署和运行。据预测,到2027年,75%以上的AI工作负载将采用容器技术进行部署和运行。

华为方面称,Flex:ai将在发布后同步开源在魔擎社区中,并与华为此前开源的多款AI工具共同组成完整的ModelEngine(华为推出的AI训推全流程工具链)开源生态。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
原来王京花没撒谎!这次,董子健和孙怡的“联手”,比复婚更体面

原来王京花没撒谎!这次,董子健和孙怡的“联手”,比复婚更体面

枫尘余往逝
2026-01-28 16:45:55
突击检查全国武器库!一定要严防被掉包,甲午战争悲剧绝不能重演

突击检查全国武器库!一定要严防被掉包,甲午战争悲剧绝不能重演

爱吃醋的猫咪
2026-01-27 20:31:00
解放军上将在京不幸去世:立战功、扳倒谷俊山,其亲弟弟身份曝光

解放军上将在京不幸去世:立战功、扳倒谷俊山,其亲弟弟身份曝光

博士观察
2026-01-27 14:10:13
聂远晒父女合照,11岁天天遗传爸爸大腮帮脸好宽,像妈妈会更漂亮

聂远晒父女合照,11岁天天遗传爸爸大腮帮脸好宽,像妈妈会更漂亮

八怪娱
2026-01-29 19:59:53
“继承权”无需再争!2026新规落地:父母房产按“这些规则”处理

“继承权”无需再争!2026新规落地:父母房产按“这些规则”处理

复转这些年
2026-01-27 03:00:03
你有“洗屁股”的习惯吗?忠告:经常清洗肛门,或可带来4种好处

你有“洗屁股”的习惯吗?忠告:经常清洗肛门,或可带来4种好处

DrX说
2026-01-29 14:09:02
“黄金配角”的逆袭!47岁靠《太平年》魔鬼演技,风头碾压男女主

“黄金配角”的逆袭!47岁靠《太平年》魔鬼演技,风头碾压男女主

喵喵娱乐团
2026-01-28 17:41:55
43岁香港过气艳星官宣生子!嫁威海农村小伙,出生便是香港户口

43岁香港过气艳星官宣生子!嫁威海农村小伙,出生便是香港户口

裕丰娱间说
2026-01-28 19:54:43
四川一中学校长受贿获刑五年半:从教辅材料、定制餐中“抽成”近百万元

四川一中学校长受贿获刑五年半:从教辅材料、定制餐中“抽成”近百万元

澎湃新闻
2026-01-29 18:19:05
美军发出通告,特朗普突然想明白:不能对中国来硬的?

美军发出通告,特朗普突然想明白:不能对中国来硬的?

爱吃醋的猫咪
2026-01-29 21:05:11
5球员落选首发!郭艾伦时代结束,周琦意外出局,赵继伟被顶替

5球员落选首发!郭艾伦时代结束,周琦意外出局,赵继伟被顶替

体坛大事记
2026-01-29 16:39:00
白骨案受害者儿子再曝扎心细节:当年凶手被抓后又放 原因很心酸

白骨案受害者儿子再曝扎心细节:当年凶手被抓后又放 原因很心酸

有范又有料
2026-01-29 11:20:59
不到24小时,美军连夜通告全球,伊朗没想到,特朗普敢做得这么绝

不到24小时,美军连夜通告全球,伊朗没想到,特朗普敢做得这么绝

书纪文谭
2026-01-29 13:21:56
比10倍上纬新材还猛!SpaceX确定7月上市  这7家实锤供应商要暴涨

比10倍上纬新材还猛!SpaceX确定7月上市 这7家实锤供应商要暴涨

元芳说投资
2026-01-28 06:00:07
大龄剩男已经开始退出相亲市场了

大龄剩男已经开始退出相亲市场了

爱吃糖的猫cat
2026-01-09 13:49:19
橙子再次被发现!医生发现:高血压患者常吃橙子,或出现3种变化

橙子再次被发现!医生发现:高血压患者常吃橙子,或出现3种变化

蜉蝣说
2026-01-28 11:07:41
就在今天!1月29日上午,男篮传来山西男篮、广东队和迪亚洛消息

就在今天!1月29日上午,男篮传来山西男篮、广东队和迪亚洛消息

行舟问茶
2026-01-29 13:02:02
20年来首次!特朗普发现:亚洲刺头不止中国一个,美5年阴谋泡汤

20年来首次!特朗普发现:亚洲刺头不止中国一个,美5年阴谋泡汤

军机Talk
2026-01-28 14:26:48
8国拒绝入群,联合国2.0版没戏了,中方另起炉灶,几十国建新组织

8国拒绝入群,联合国2.0版没戏了,中方另起炉灶,几十国建新组织

通文知史
2026-01-28 19:55:03
男子购一箱奶抽中4400元爱马仕围巾,有人抽中“马国”机票,客服:活动真实有效,但奖品不支持转赠

男子购一箱奶抽中4400元爱马仕围巾,有人抽中“马国”机票,客服:活动真实有效,但奖品不支持转赠

极目新闻
2026-01-29 15:20:54
2026-01-29 22:04:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
2057550文章数 5302关注度
往期回顾 全部

科技要闻

周亚辉的AI新赌局:国内太卷 出海另起炉灶

头条要闻

正部级孙绍骋被查 去年卸任内蒙古自治区党委书记

头条要闻

正部级孙绍骋被查 去年卸任内蒙古自治区党委书记

体育要闻

詹姆斯哭了!骑士视频致敬41岁超巨

娱乐要闻

曝金晨涉嫌交通肇事逃逸 本人尚未回应

财经要闻

崔东树:中国汽车未来年销或达5000万辆

汽车要闻

车长超5米还带后轮转向 比亚迪海豹08/海狮08将亮相

态度原创

游戏
亲子
本地
数码
艺术

春节肝不动?倩女端游这波春节减负福利直接让你躺赢三界

亲子要闻

农村孩子早当家,姐姐给弟弟吃土瓜,姐弟情深让人羡慕!

本地新闻

云游中国|拨开云雾,巫山每帧都是航拍大片

数码要闻

机械革命无界14X轻薄本32G / 1T预售,首发价4199元仅一天

艺术要闻

梵高全集(高清350张)震撼……

无障碍浏览 进入关怀版