北京
分享至
压缩幅度与核心参数
腾讯混元将 Hy4-preview 模型从 1.5TB 压缩至约 200GiB 的 GGUF 格式。该模型拥有 770B 参数、49B 激活，并支持 1M 上下文。
混合量化按层分配位宽
压缩通过 MIX-STQ1_0 混合量化实现，按层分配位宽。最低为 1.31-bit 的 STQ1_0，最高为 2.06-bit 的 IQ2_XXS。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
