![]()
你日常接触的AI绘图、智能内容推荐、语音助手、企业智能客服……这些应用的背后,都离不开AI算力芯片的支撑。近些年国产AI芯片快速发展,以昇腾NPU为代表的国产算力已经在各行各业落地,但一个普遍的痛点始终存在:芯片算力常常陷入“大块闲置、小块不够”的矛盾——整块芯片分给一个任务,大半性能都被浪费;想给新任务腾出算力,又找不到空闲资源。
近日,海淀人工智能企业范式正式宣布
全面开源昇腾动态资源分配驱动
(Ascend DRA Driver)
![]()
这项源自企业真实生产环境的技术
相当于给昇腾NPU装上了“智能调度阀门”
能把算力拆成细粒度资源灵活分配
让国产算力像电脑的CPU、内存一样
实现“池化共享、按需取用”
为开发者和企业提供了
可直接落地的算力虚拟化方案
静态分配
让国产算力“用不满又不够用”
![]()
随着昇腾等国产NPU芯片在AI训练、推理场景的普及,行业总算力规模越来越大,但资源利用效率却没能同步跟上。
在当前主流的云原生容器环境中,传统算力采用的是静态分配模式:一张芯片的算力和显存往往要整块分配给一个任务。哪怕实际业务只需要20%的芯片性能,剩下80%的算力也没法共享给其他任务使用。这既造成了严重的算力浪费,也让资源调度缺乏弹性,不同任务的算力彼此割裂,形成了一个个“算力孤岛”。
![]()
要打破这个困局,就得从底层重构算力分配方式。依托多年生产项目中的技术积累,范式团队以Kubernetes(当前业界通用的容器编排调度系统)原生的DRA(动态资源分配)机制为顶层框架,结合华为团队基于该机制完成的昇腾NPU单卡管理原型验证,研发出了符合云原生标准的Ascend DRA Driver。
![]()
通过系统级的工程重构与功能扩充,这套驱动能在生产级云环境中,实现昇腾芯片显存与算力的细粒度动态隔离和分配。简单来说,就是让NPU资源不再是“只能整块售卖的蛋糕”,而是变成“可以按需接取的水池”,在不同容器任务之间灵活流转,从技术底层攻克了国产异构算力生产级高效管理的难题。
四大核心升级
真正释放算力弹性价值
![]()
本次开源的Ascend DRA Driver,核心代码来自范式在多家头部客户生产环境中经过严苛验证的成熟方案,企业可以零成本获取这套企业级驱动;同时它能通过HAMi抽象层,实现英伟达GPU与昇腾NPU统一的云原生运维体验。
![]()
它的核心突破主要有四点
· 底层架构对齐标准,稳定兼容更可靠。驱动架构严格遵循Kubernetes官方最新的驱动实现标准,优化了代码结构与资源生命周期管理逻辑。就像按照统一国家标准建造的基础设施,能适配各类复杂的企业集群环境,运行稳定性和兼容性更有保障。
· 软件实现算力软切分,突破硬件限制。驱动深度整合了软切分技术,无需依赖芯片硬件本身的切分能力,仅通过软件就能将一张物理NPU切分为多个相互隔离的虚拟NPU。每个虚拟NPU的算力和显存都独立分配、互不干扰,单张芯片就能承载多个任务,大幅提升了单卡的资源利用率。
· 支持碎片化算力整合,减少资源浪费。项目引入“可消费容量”调度特性,打破了传统静态资源切片的固定限制。系统可以用更细、更灵活的粒度分配虚拟NPU资源,哪怕是零散剩余的碎片化算力,也能整合起来分配给对应规模的小任务,进一步盘活闲置资源。
· 配套标准化演示环境,快速上手无门槛。为降低开发者和企业的评估成本,项目提供了可在本地Docker环境快速搭建的完整演示方案,技术团队无需搭建复杂的物理集群,在普通电脑上就能快速完成部署与功能验证。
这套方案让国产算力调度从“固定硬切分”转向“动态按需流动”,零散算力被整合为可弹性调度的资源池。在同等硬件规模下,能支撑更多AI业务运行,真正释放了国产算力基础设施的弹性调度价值。
拓展HAMi开源生态
筑牢国产算力云原生底座
![]()
据了解,HAMi源于范式内部技术实践,是进入CNCF孵化阶段的开源项目,也是业界领先的异构算力虚拟化标准。它的核心作用,是搭建一套统一的算力调度层,让不同品牌的AI芯片都能通过同一套体系管理,大幅降低企业的运维学习成本。
此次将Ascend DRA Driver开源并融入HAMi生态,是范式“云原生+国产算力”战略的关键落地。它不只是为昇腾芯片增加了一个驱动支持,更是补全了HAMi的整体生态架构,让国产算力能够接入成熟的世界级云原生软件栈。
![]()
目前,Ascend DRA Driver与HAMi-DRA主干的深度集成工作正在全速推进。未来用户通过HAMi的统一调度层,就能无缝使用基于DRA标准的昇腾算力池化管理能力。
范式相关负责人表示,未来将持续加大对HAMi及周边生态的投入,陆续开源故障容灾、多集群跨域调度等更多生产级核心功能,与全行业共同打造世界级的国产异构算力调度标准。目前该项目代码仓库已正式开放,欢迎广大开发者、科研机构及企业用户参与体验、共建生态。
记者:赵磊
编辑:李祎乔
推荐 · 阅读
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.