据阿里云消息,7月27日晚,阿里云灵骏真武M890超节点实例已成功适配2.8万亿参数大模型Kimi K3,基于芯片、推理平台和模型的联合优化,有效提升模型推理效率,双方将进一步展开国产算力合作。据实测结果统计,该超节点运行Kimi K3的首Token时延降低约35%,长上下文场景下用户体验更流畅。另外,千问AI平台和阿里云百炼也将提供Kimi K3的模型API。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.