北京
分享至
3月16日，澎湃新闻记者获悉，月之暗面Kimi发布技术报告，对大模型十年没有变化的核心结构残差连接行重新设计，使每一层能够选择性地关注此前各层输出，而非统一求和，48B模型训练效率提升1.25倍，被行业解读为提前预告了下一代模型的关键模块。月之暗面三位联合创始人杨植麟、吴育昕、周昕宇带领数十名研究员完成了这项研究。论文发布后，马斯克评价Kimi的研究令人印象深刻，前OpenAI研究科学家Andrej Karpathy表示该研究真正践行了“Attention is All You Need”的理念，推理之父、前OpenAI研究副总裁Jerry Tworek认为，深度学习2.0来了。（澎湃新闻记者 范佳来）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
