2025 年 4 月 30 日,DeepSeek 发布 DeepSeek-Prover-V2-671B。
链接: https://huggingface.co/deepseek-ai/DeepSeek-Prover-V2-671B/tree/main
DeepSeek-Prover-V2-671B 使用了更高效的 safetensors 文件格式,并支持多种计算精度,方便模型更快、更省资源地训练和部署,参数达 6710 亿,或为去年发布的 Prover - V1.5 数学模型升级版本。
在模型架构上,该模型使用了 DeepSeek-V3 架构,采用 MoE 模式,具有 61层 Transformer 层,7168 维隐藏层。
同时支持超长上下文,最大位置嵌入达 163840,使其能处理复杂的数学证明,并且采用了 FP8 量化,可通过量化技术减小模型大小,提高推理效率。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.