研究人员把 Transformer 的预测能力搬进了无损压缩领域,做出了一个叫 tufazip 的项目。它的成绩单很扎眼:1 GB 维基百科文本被压到约 10.5 MB,压缩率 89.46%。
![]()
代价同样扎眼。压缩一次要 7.3 天,解压要 7.5 天,全程依赖两块 B200 GPU 的并行算力。按目前的硬件条件,它还不适合当日常工具用。
原理并不复杂:Transformer 语言模型擅长预测文本序列里的下一个字符,tufazip 就把模型给出的未来字符预测概率当作压缩基础,再结合算术编码,把预测转成尽可能紧凑的无损数据表示。
换句话说,压缩效率来自模型对文本的“预判”,而预判本身要烧掉大量算力。压缩率上去了,时间成本也跟着上去了。
这个项目的意义不在于替代现有压缩工具,而在于把一条技术路径跑通了:预测概率分布加算术编码,确实能换来接近 90% 的体积缩减。至于它什么时候能变得实用,取决于算力成本什么时候降下来。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.