观点网讯:9月1日,腾讯混元团队宣布推出Hy4 preview轻量版模型,将Hy4 preview的权重从1.5TB压缩到约214GB,压缩后体量显著减小。
据介绍,压缩后的模型长文理解能力几乎和原始模型持平,多轮长上下文检索和原版基本在同一水平,数学只有小幅回落,整体都在可接受范围内。
在应用层面,日常的编码辅助、工具调用、长文档处理和常规问答,该模型都能覆盖。
从产业部署角度看,权重体量从1.5TB降至约214GB,意味着模型对显存和存储资源的要求显著下降,有利于企业端在更低成本的服务器环境下完成私有化部署与推理。
对于需要处理长文档、多轮检索场景的机构用户而言,长上下文能力接近原版的同时部署成本下降,是该轻量版模型在企业AI应用落地中的主要看点。
腾讯混元此次未披露该模型的基准测试细节与商业化安排。
免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.