河北
分享至
7月5日下午消息，盘古Pro MoE技术开发团队今天发布声明，表示注意到近期开源社区及网络平台关于盘古大模型开源代码的讨论。盘古Pro MoE开源模型是基于昇腾硬件平台开发、训练的基础大模型，并非基于其他厂商模型增量训练而来，在架构设计、技术特性等方面做了关键创新，是全球首个面向昇腾硬件平台设计的同规格混合专家模型，创新性地提出了分组混合专家模型（MoGE）架构，有效解决了大规模分布式训练的负载均衡难题，提升训练效率。其他技术特性创新，请参考昇腾生态竞争力系列技术报告披露内容。
声明称，盘古Pro MoE开源模型部分基础组件的代码实现参考了业界开源实践，涉及其他开源大模型的部分开源代码，严格遵循开源许可证的要求，在开源代码文件中清晰标注开源代码的版权声明。
转自：新浪科技
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
