月之暗面Kimi发布MoE架构基础模型K2并同步开源,总参数1T,激活参数32B,在自主编程、工具调用、数学推理等领域超越全球其他开源模型。Kimi K2使用MuonClip优化器实现万亿参数模型的高效训练,在高质量数据遇到瓶颈的背景下通过提升Token效率,找到新的预训练扩展空间。K2具备更强代码能力,擅长通用Agent任务,在多个实际场景中展现出更强的能力泛化及实用性,新模型目前已上线开放体验。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.