北京
分享至
2月25日，DeepSeek官宣，今日开源代码库为DeepEP，它是首个用于 MoE 模型训练和推理的开源EP通信库。
特点有：高效的全员沟通；节点内和节点间均支持 NVLink和RDMA；用于训练和推理预填充的高吞吐量内核；用于推理解码的低延迟内核；原生 FP8 调度支持；灵活的GPU资源控制，实现计算-通信重叠。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
