一个1.8B参数的翻译模型,量化后只有440MB。这个体积放在手机上不算夸张,但腾讯说它的翻译质量超过了微软和豆包的API。
腾讯发布了开源多语言翻译模型Hy-MT2,提供1.8B、7B、30B三种规格。其中1.8B版本经过AngelSlim 1.25-bit量化后,体积压缩到440MB,面向的是端侧部署场景。
![]()
三种规格,一个端侧目标
Hy-MT2由Gemma 4微调而来,支持33种语言。三种规格覆盖了从移动端到服务端的不同需求,但真正被拿出来说的是1.8B版本——它被压到了440MB,可以在内存受限的移动或边缘设备上运行。
压缩的手段是AngelSlim 1.25-bit极限量化,把浮点参数压到极低位宽。同时模型利用了KV-Cache优化来提高推理速度,目标是保证实时翻译体验。
不只是翻译,还要听指令
Hy-MT2的设计重点之一是对可控翻译指令的遵循。具体来说,它支持指定翻译风格、保持术语一致性、翻译特定文本部分(比如JSON键值对)、保留特殊分隔符。
这些能力在法律、金融、游戏等专业领域有实际意义——术语不能乱翻,格式不能破坏,风格要统一。模型不只是把一句话从A语言搬到B语言,还要按用户给的规则搬。
跑分超过了谁
在标准测试中,Hy-MT2的1.8B规格在BLEU和ChrF分值上超过了同等规模的微软和字节豆包API。这两个指标衡量的是翻译质量,腾讯拿它们来证明小模型在精度和资源效率上的综合表现。
对于做机器翻译、字幕翻译、本地化或出海业务的开发者来说,一个440MB、能跑在端侧、还支持指令控制的翻译模型,意味着多了一个可以本地部署的选项。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.