网易首页 > 新闻中心 > 新闻 > 正文

范式智能推动GPU动态调度新进展 助力云原生AI基础设施更高效

0
分享至

(原标题:范式智能推动GPU动态调度新进展 助力云原生AI基础设施更高效)

第四范式2025年10月30日 继上月发布“虚拟显存”技术引发行业对GPU资源灵活分配的关注后,范式智能近日再次发布GPU动态调度新进展——基于Kubernetes动态资源分配(DRA)的GPU动态调度能力,实现对GPU算力与显存的一体化精细调度。该技术不仅是对用户关于“算力能否像显存一样动态切分”疑问的深入回应,更标志着GPU资源管理从容量扩展迈向多维资源协同调度的新阶段。知识点预置

什么是Kubernetes?

可理解为数据中心的“调度总管”,负责分配计算资源

什么是DRA?

像“灵活发牌手”,允许将一块GPU按需切分,动态分配给多个任务

什么是HAMi-Core?

由范式智能主导的开源项目,是容器内GPU的“资源控制器”,实现显存与算力的精细管控

随着Kubernetes v1.34的正式发布,其核心特性——动态资源分配(DRA)已稳定启用,标志着云原生资源调度进入更智能、更灵活的时代。在这一背景下,范式智能基于长期在AI基础设施领域的积累,率先完成了HAMi-Core与DRA的深度适配,并推出GPU动态资源驱动(DRA Driver),让GPU像CPU一样被灵活共享与调度,推动云原生算力管理体系不断完善与升级,为人工智能算力管理带来新的可能。

GPU更灵活让算力更高效

在AI任务中,GPU是模型训练和推理的“引擎”,但长期以来,传统使用方式常导致GPU资源浪费:要么“使用不满”,要么“独占浪费”。HAMi-Core结合DRA能力,实现了GPU的动态切分与多任务并行。简单来说,不同的任务可以同时使用同一块GPU,各自占用合适的算力与显存,就像多个应用共享CPU一样高效。这带来了两大改变:

1.任务分发调度:同一个GPU节点上,由原来的串行分配变为并行调度,显著提升整体效率如果用发牌来比喻这一变化,就是从“一人发完再发下一人”到“同时发牌给所有玩家”

过去:GPU节点上的任务必须串行执行,就像发牌员一张一张发,前一个任务不结束,后一个只能等待

现在:GPU可同时为多个任务“发牌”,实现真正的并行调度,任务等待时间大幅缩短,集群吞吐效率显著提升

2.任务申请资源:可以根据需求选择不同配置的GPU,更精细、更灵活还是用打牌来理解这个变化,就是选牌方式从“固定套餐”到“自由组合”

 过去:申请GPU像点套餐,只能选固定规格,比如申请三张数值相同的“10”牌,不管任务需要多强的算力,都只能用这一档配置

 现在:用户可以“自选组合”,根据任务需求自由搭配不同性能等级的GPU,就像同时选择“5、9、A”等不同数字的牌——量体裁衣,既精准匹配计算需求,又避免资源浪费

这种能力的提升,让GPU的调度更智能、利用更充分。在大规模集群场景下,系统复杂度明显降低,性能提升体现在调度效率和任务处理速度上,为企业带来更流畅的算力体验和更高的运维效率。

推动云原生AI基础设施的进化

HAMi-Core作为由范式智能主导贡献的开源项目,致力于提升GPU在容器化和云原生环境下的利用率。此次适配工作让HAMi-Core与Kubernetes的动态资源调度能力实现了结合,让算力资源的申请、分配和释放都能通过标准化方式自动完成,大幅降低了使用门槛。这一成果不仅体现了范式智能在AI基础设施层面的技术深耕,也展示了其对开源生态的持续投入。

开源共建释放更大的创新力

目前范式智能已将该演示项目开源至GitHub(Project-HAMi/k8s-dra-driver),并将与HAMi社区持续推进相关特性和生态建设,欢迎更多开发者和企业参与共建,共同推动GPU调度技术走向更智能、更开放的未来。

我们相信:算力的自由调度与高效利用,是推动AI普惠化的重要基石。我们将持续致力于AI基础设施的智能化与标准化,帮助更多企业以更低的成本、更高的效率,释放AI的真正价值。

相关推荐
热点推荐
谷爱凌与刘美贤的平行宇宙

谷爱凌与刘美贤的平行宇宙

美国华人杂谈
2026-02-21 05:49:05
42死300伤!北海道暴雪困住中国游客,有人喊话:祖国包机来接人

42死300伤!北海道暴雪困住中国游客,有人喊话:祖国包机来接人

青眼财经
2026-02-20 23:31:25
“看完瞬间没了性欲……”,请谨慎阅读!

“看完瞬间没了性欲……”,请谨慎阅读!

尚曦读史
2026-02-20 16:48:47
乌克兰的“坏消息”:破坏团结,扎卢日内公开指控泽连斯基

乌克兰的“坏消息”:破坏团结,扎卢日内公开指控泽连斯基

鹰眼Defence
2026-02-20 17:49:36
闪电航打包出售ipad,全都是苹果牌

闪电航打包出售ipad,全都是苹果牌

中国民航人
2026-02-20 19:54:05
英国议员加入乌军亚速旅,国际奥委会拒绝给俄罗斯运动员发手机

英国议员加入乌军亚速旅,国际奥委会拒绝给俄罗斯运动员发手机

史政先锋
2026-02-20 14:26:29
东北大妈偷菜谎称山东人后续:弟弟单位同事证明,脸都丢尽了

东北大妈偷菜谎称山东人后续:弟弟单位同事证明,脸都丢尽了

离离言几许
2026-02-20 15:57:01
当年这张照片,不要说王石心动,是个男人都会心动

当年这张照片,不要说王石心动,是个男人都会心动

情感大头说说
2026-02-21 00:20:52
《镖人》单日票房升至第2,观众催拍续集,吴京回应:争取有第二部;《镖人2》去年7月已备案公示,故事梗概公开

《镖人》单日票房升至第2,观众催拍续集,吴京回应:争取有第二部;《镖人2》去年7月已备案公示,故事梗概公开

极目新闻
2026-02-20 21:58:32
NBA总收入前十榜单:詹姆斯1.326亿美元居首 詹库杜全超1亿前三

NBA总收入前十榜单:詹姆斯1.326亿美元居首 詹库杜全超1亿前三

醉卧浮生
2026-02-21 00:31:25
毛奇、李佩霞2026年近况公布,两人服刑结局给所有人提了醒

毛奇、李佩霞2026年近况公布,两人服刑结局给所有人提了醒

娱乐督察中
2026-02-21 03:23:47
农民儿子刘和刚,为何用93天娶到小10岁的世界小姐?现况让人吃惊

农民儿子刘和刚,为何用93天娶到小10岁的世界小姐?现况让人吃惊

丰谭笔录
2026-01-13 07:25:09
看完天津春晚,心痛又感慨:不是岳云鹏不行了,是相声的舞台没了

看完天津春晚,心痛又感慨:不是岳云鹏不行了,是相声的舞台没了

悠悠说世界
2026-02-21 05:27:45
伊朗已经下定决心,抢在美国动手之前,把俄罗斯牢牢绑在战车上

伊朗已经下定决心,抢在美国动手之前,把俄罗斯牢牢绑在战车上

东极妙严
2026-02-20 15:17:46
9年前,那个3岁识千字、6岁夺央视冠军的神童王恒屹,如今怎样

9年前,那个3岁识千字、6岁夺央视冠军的神童王恒屹,如今怎样

娱说瑜悦
2026-02-19 17:50:07
女子除夕夜通过监控看到父亲对着空桌独自吃饺子,第二天与弟弟驱车800公里回家,“回家后爸爸哭了”

女子除夕夜通过监控看到父亲对着空桌独自吃饺子,第二天与弟弟驱车800公里回家,“回家后爸爸哭了”

极目新闻
2026-02-20 22:30:02
特朗普:将在常规关税基础上对全球商品加征10%关税

特朗普:将在常规关税基础上对全球商品加征10%关税

财联社
2026-02-21 02:58:06
一边撒钱,一边造梦:追觅俞浩55.5亿净利是如何“算”出来的?

一边撒钱,一边造梦:追觅俞浩55.5亿净利是如何“算”出来的?

极点PRO
2026-02-20 18:07:33
特斯拉新车正式下线:无方向盘、无踏板、无后视镜;定价不高于3万美元,“不需要人开,直接输入目的地即可”

特斯拉新车正式下线:无方向盘、无踏板、无后视镜;定价不高于3万美元,“不需要人开,直接输入目的地即可”

中国能源网
2026-02-20 19:18:19
俞敏洪:当你的孩子不尊重你、不理你时,不必翻脸,只需“乌鸦定律”就够了,这样处理才是有水平……

俞敏洪:当你的孩子不尊重你、不理你时,不必翻脸,只需“乌鸦定律”就够了,这样处理才是有水平……

乔话
2026-02-20 19:34:42
2026-02-21 09:15:00

头条要闻

被问征收的约1750亿美元关税是否需要退还 特朗普表态

头条要闻

被问征收的约1750亿美元关税是否需要退还 特朗普表态

体育要闻

金牌夫妻!王心迪徐梦桃赛后拥抱太甜了

娱乐要闻

镖人反超惊蛰无声拿下单日票房第二!

财经要闻

特朗普全球关税被推翻!有何影响?

科技要闻

莫迪举手欢呼 两大AI掌门人却握拳尴尬对峙

汽车要闻

比亚迪的“颜值担当”来了 方程豹首款轿车路跑信息曝光

态度原创

游戏
亲子
家居
艺术
公开课

小岛工作室技术官解释为何一直使用Decima引擎

亲子要闻

那些你不知道的育儿小知识!网友:不要随便把孩子的东西送人!

家居要闻

本真栖居 爱暖伴流年

艺术要闻

这幅草书让亲戚大吃一惊:书法入门真的要从楷书开始吗?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×