10月15日,阶跃星辰开源新一代大模型Step 5 Preview,同日,摩尔线程宣布旗下MTT S5000智算卡及MUSA软件栈已完成该模型的首日适配。Step 5 Preview采用稀疏MoE架构,总参数量600B,每Token激活27B参数,支持100万Token上下文窗口,摩尔线程此次适配涉及混合注意力、混合精度推理、投机解码等环节。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.