网易首页 > 网易号 > 正文 申请入驻

范式智能推动GPU动态调度新进展 助力云原生AI基础设施更高效

0
分享至

继上月发布"虚拟显存"技术引发行业对GPU资源灵活分配的关注后,范式智能近日再次发布GPU动态调度新进展——基于Kubernetes动态资源分配(DRA)的GPU动态调度能力,实现对GPU算力与显存的一体化精细调度。该技术不仅是对用户关于"算力能否像显存一样动态切分"疑问的深入回应,更标志着GPU资源管理从容量扩展迈向多维资源协同调度的新阶段。

随着Kubernetes v1.34的正式发布,其核心特性——动态资源分配(DRA)已稳定启用,标志着云原生资源调度进入更智能、更灵活的时代。

在这一背景下,范式智能基于长期在AI基础设施领域的积累,率先完成了HAMi-Core与DRA的深度适配,并推出GPU动态资源驱动(DRA Driver),让GPU像CPU一样被灵活共享与调度,推动云原生算力管理体系不断完善与升级,为人工智能算力管理带来新的可能。

让GPU更灵活 让算力更高效

在AI任务中,GPU是模型训练和推理的"引擎",但长期以来,传统使用方式常导致GPU资源浪费:要么"使用不满",要么"独占浪费"。

HAMi-Core结合DRA能力,实现了GPU的动态切分与多任务并行。简单来说,不同的任务可以同时使用同一块GPU,各自占用合适的算力与显存,就像多个应用共享CPU一样高效。

这带来了两大改变:

1.任务分发调度:同一个GPU节点上,由原来的串行分配变为并行调度,显著提升整体效率

如果用发牌来比喻这一变化,就是从"一人发完再发下一人"到"同时发牌给所有玩家"

过去:GPU节点上的任务必须串行执行,就像发牌员一张一张发,前一个任务不结束,后一个只能等待

现在:GPU可同时为多个任务"发牌",实现真正的并行调度,任务等待时间大幅缩短,集群吞吐效率显著提升

2.任务申请资源:可以根据需求选择不同配置的GPU,更精细、更灵活

还是用打牌来理解这个变化,就是选牌方式从"固定套餐"到"自由组合"

过去:申请GPU像点套餐,只能选固定规格,比如申请三张数值相同的"10"牌,不管任务需要多强的算力,都只能用这一档配置

现在:用户可以"自选组合",根据任务需求自由搭配不同性能等级的GPU,就像同时选择"5、9、A"等不同数字的牌——量体裁衣,既精准匹配计算需求,又避免资源浪费

这种能力的提升,让GPU的调度更智能、利用更充分。在大规模集群场景下,系统复杂度明显降低,性能提升体现在调度效率和任务处理速度上,为企业带来更流畅的算力体验和更高的运维效率。

推动云原生AI基础设施的进化

HAMi-Core 作为由范式智能主导贡献的开源项目,致力于提升GPU在容器化和云原生环境下的利用率。此次适配工作让HAMi-Core与Kubernetes的动态资源调度能力实现了结合,让算力资源的申请、分配和释放都能通过标准化方式自动完成,大幅降低了使用门槛。

这一成果不仅体现了范式智能在AI基础设施层面的技术深耕,也展示了其对开源生态的持续投入。


开源共建 释放更大的创新力

目前范式智能已将该演示项目开源至GitHub(Project-HAMi/k8s-dra-driver),并将与HAMi社区持续推进相关特性和生态建设,欢迎更多开发者和企业参与共建,共同推动 GPU 调度技术走向更智能、更开放的未来。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“一个人挺好”被撕碎!深圳一独居女博士在家晕倒6小时,引热议

“一个人挺好”被撕碎!深圳一独居女博士在家晕倒6小时,引热议

火山诗话
2025-11-15 14:46:29
京东双十一运动相机榜单揭晓:大疆包揽前五

京东双十一运动相机榜单揭晓:大疆包揽前五

一点财经
2025-11-15 18:33:35
高市死不悔改,国防部上场,日本急忙灭火,官员恳请中国坐下谈

高市死不悔改,国防部上场,日本急忙灭火,官员恳请中国坐下谈

时时有聊
2025-11-14 20:35:36
新甲午战争?这次中国要摧毁日本的军国意志,要击沉日本岛,要雪百年之耻!

新甲午战争?这次中国要摧毁日本的军国意志,要击沉日本岛,要雪百年之耻!

李光满说
2025-11-13 20:24:13
卓伟爆了一个新瓜!

卓伟爆了一个新瓜!

八卦疯叔
2025-11-15 10:16:28
6国外援候命,高市通知全球,对华打响第二枪,解放军被逼上硬菜

6国外援候命,高市通知全球,对华打响第二枪,解放军被逼上硬菜

桑启红原
2025-11-15 16:03:29
中方愤怒升级!24小时内两次“奉示约见”,新闻联播3分钟警告高市早苗......最新:日本还想发展核潜艇!

中方愤怒升级!24小时内两次“奉示约见”,新闻联播3分钟警告高市早苗......最新:日本还想发展核潜艇!

新民周刊
2025-11-15 18:35:44
川超太火爆!凉山卡马文加飞踹主裁,媒体人:不终身禁赛说不过去

川超太火爆!凉山卡马文加飞踹主裁,媒体人:不终身禁赛说不过去

奥拜尔
2025-11-15 19:31:12
燕梳楼:如果日本驱逐薛剑,就是向中国宣战!

燕梳楼:如果日本驱逐薛剑,就是向中国宣战!

燕梳楼频道
2025-11-13 12:44:36
河南一商人称遭民警逼迫签下千万元调解协议后又被抓,最新进展:获国赔近18万元,法院再判返其1200万元

河南一商人称遭民警逼迫签下千万元调解协议后又被抓,最新进展:获国赔近18万元,法院再判返其1200万元

大风新闻
2025-11-15 17:55:03
难怪高市搞事,原来中国历史上最大的错误就是:总习惯性低估日本

难怪高市搞事,原来中国历史上最大的错误就是:总习惯性低估日本

近史博览
2025-11-15 17:57:41
3300亿瓦特!超上海纽约东京迪拜电量总和!美国核聚变又有突破?

3300亿瓦特!超上海纽约东京迪拜电量总和!美国核聚变又有突破?

徐德文科学频道
2025-11-13 21:41:00
赵薇49岁突传逝世消息,胃癌去世传闻5个月前已证实

赵薇49岁突传逝世消息,胃癌去世传闻5个月前已证实

领悟看世界
2025-11-15 01:44:47
狂妄至极!日本大使:从未接受过“一个中国”政策,不需要撤回

狂妄至极!日本大使:从未接受过“一个中国”政策,不需要撤回

梁讯
2025-11-15 14:35:07
浙江大三甲出现一级甲等事故!

浙江大三甲出现一级甲等事故!

医脉圈
2025-11-14 12:20:54
金鸡奖红毯太精彩!钟楚曦穿粉色被嘲上春山,辛芷蕾被冻得直点头

金鸡奖红毯太精彩!钟楚曦穿粉色被嘲上春山,辛芷蕾被冻得直点头

萌神木木
2025-11-15 19:19:54
美国将拒绝肥胖外国人入境,白宫发言人安娜·凯利:美国国务院有权拒绝给纳税人带来经济负担的签证申请人

美国将拒绝肥胖外国人入境,白宫发言人安娜·凯利:美国国务院有权拒绝给纳税人带来经济负担的签证申请人

观威海
2025-11-15 15:26:04
唏嘘!38岁前国脚收35万踢假球 判刑1年罚款10万 曾随队夺东亚杯

唏嘘!38岁前国脚收35万踢假球 判刑1年罚款10万 曾随队夺东亚杯

我爱英超
2025-11-15 17:31:42
中国领事遭围攻,日本记者:要100多年前,我们就直接打过去了!

中国领事遭围攻,日本记者:要100多年前,我们就直接打过去了!

浅深说
2025-11-13 10:34:33
果然不出所料,茅台官宣:开放1499飞天无限购,黄牛一夜崩盘

果然不出所料,茅台官宣:开放1499飞天无限购,黄牛一夜崩盘

小蜜情感说
2025-11-15 07:08:17
2025-11-15 21:31:00
格隆汇 incentive-icons
格隆汇
中国领先的全球投资研究平台
587572文章数 143200关注度
往期回顾 全部

科技要闻

撕掉流量外衣,小米还剩什么?

头条要闻

玉渊谭天:中方已做好对日实质反制准备

头条要闻

玉渊谭天:中方已做好对日实质反制准备

体育要闻

樊振东和他的尖子班 勇闯地表最强乒乓球赛

娱乐要闻

钟嘉欣婚变风波升级!被骗婚?

财经要闻

小米之“惑”

汽车要闻

限时10.59万起 新款星海S9将11月19日上市

态度原创

房产
旅游
本地
公开课
军事航空

房产要闻

共话产业变革下的投资新思维与新机遇|蓝湾财富论坛精华

旅游要闻

全球最著名老鼠洞:有人扔硬币,有人来求婚

本地新闻

沈阳都市圈“冷资源”点燃“热联动” “组团”北上“圈粉”哈尔滨

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

解密福建舰电磁弹射背后的硬核支撑

无障碍浏览 进入关怀版