IT之家 9 月 30 日消息,DeepSeek 今天(30 日)上午通过官方公众号宣布,正式开源面向华为昇腾算力平台的基础设施组件,涵盖 TileLang 高级语言编译工具、计算库、分布式通信库。所有组件与此前面向英伟达平台的开源组件一一对应。
根据介绍,相对于英伟达的 CUDA 语言,TileLang 的编程更简单,能显著提高开发效率、简化代码逻辑。相对于其它同类高级语言,TileLang 的编程模型可以充分发挥芯片的特性,达到硬件的性能上限。TileLang 路线首先在英伟达成熟平台上得到了验证,目前已承载 DeepSeek V4 系列模型训练中大部分算子的实现,是探索 AGI 新范式、开发高性能算子的核心工具。
本次开源的 TileLang 昇腾版本,对昇腾 Ascend C 底层指令进行封装、提供高级语言的编程方式、同时不损失硬件性能。目前,DeepSeek 训练中用到的每一个 TileLang 算子,在昇腾上都有对应的高性能实现。
本次开源还包括昇腾平台核心计算与通信组件,为不同使用场景提供可复用的基础能力:
- DeepGEMM 加速通用矩阵运算;
- DeepEP 提供高效的大规模跨设备通信;
- TileKernels 提供数据处理所需的常规向量计算和访存算子;
- FlashMLA 提供稀疏注意力算子,提升长上下文处理效率;
- DeepSelect 则实现了高效的数据筛选。
在多项关键测试用例中,上述组件的计算与通信性能已接近硬件上限。
IT之家汇总开源项目链接:
- TileLang: https://github.com/tile-ai/tilelang
- DeepGEMM Ascend: https://github.com/deepseek-ai/DeepGEMM-Ascend
- DeepEP Ascend: https://github.com/deepseek-ai/DeepEP-Ascend
- TileKernels: https://github.com/deepseek-ai/TileKernels
- FlashMLA: https://github.com/deepseek-ai/FlashMLA
- DeepSelect: https://github.com/deepseek-ai/DeepSelect
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.