北京
分享至
7月27日月之暗面正式开源Kimi K3模型后，华为昇腾在第一时间完成了适配工作。
华为官方今日宣布，Kimi K3一经开源发布，昇腾即实现0day极速适配。时间点上看，模型开源次日便完成了这一流程。
在训练侧，昇腾基于MindSpeed MM在Atlas 800 A3、Atlas 900 A3 SuperPoD上完成减层训练基础功能适配，并在算子、并行加速、显存优化等方面进行了专项优化。推理侧则通过vLLM Ascend与SGLang开源推理引擎实现快速部署。昇腾950超节点支持FP8、MXFP8、MXFP4等全系列数值精度格式，原生支持Kimi K3的mxFP4量化权重。
Kimi K3总参数量达2.8万亿，是全球首个开源的3万亿级别模型，面向长程编程、知识工作和推理等前沿智能场景设计。Kimi官方此前公布了支撑该模型训练的三项Infra技术：MoonEP、FlashKDA和AgentEnv，覆盖从高性能通信、高性能算子到分布式RL环境的关键链路。其中FlashKDA此前已开源，MoonEP和AgentEnv随本次发布正式开源。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
