谷歌放大招！一项新技术，能节省6倍内存！

来源：市场资讯

（来源：半导体前线）

Google近日推出了新一代压缩算法TurboQuant，该技术可大幅降低人工智能系统对内存的需求。

根据谷歌介绍，TurboQuant压缩技术旨在降低大语言模型和向量搜索引擎的内存占用。该算法主要针对AI系统中用于存储高频访问信息的键值缓存（key-valuecache）瓶颈问题。随着上下文窗口变大，这些缓存正成为主要的内存瓶颈。

Google表示，TurboQuant透过新型量化方式，移除传统压缩所需的额外参数，提升效率并降低内存负担。在Gemma与Mistral等模型测试中，即使在高压缩情境下，仍能维持完整效能。

TurboQuant可在无需重新训练或微调模型的情况下，将键值缓存压缩至3bit精度，同时基本保持模型准确率不受影响。

对包括Gemma、Mistral等开源模型的测试显示，该技术可将内存使用量降低约6倍，并在英伟达H100GPU上带来最高达8倍的效能提升。市场因此担忧，若此类技术被广泛采用，将可能削弱未来对DRAM与闪存的需求。

研究人员也表示，这项技术的应用不局限于AI模型，还包括支撑大规模搜索引擎的向量检索能力。谷歌计划于4月的国际学习表征会议（ICLR2026）上展示TurboQuant技术。

此消息迅速引发市场关注，Cloudflare执行长MatthewPrince更将其形容为「Google的DeepSeek时刻」，意指AI技术效率出现重大突破。

华尔街分析指出，若该技术成功落地，意味AI模型在相同运算需求下，所需内存资源将大幅下降，可能削弱原本因AI热潮而大幅提升的DRAM与NANDFlash需求。

富国银行(WellsFargo)TMT分析师AndrewRocha指出，随着AI模型的上下文窗口持续扩大，键值快取所需的数据量急速增加，成为推升内存需求的重要因素，而TurboQuant正是针对这项成本瓶颈提出解决方案。

然而，也有分析师对影响持保留态度。

分析师KCRajkumar表示，在未来3至5年内，由于供应仍处于紧张状态，先进压缩技术仅能改善效率，并不会根本削弱内存与闪存需求。

不过，市场也关注该技术仍处于研究阶段，尚未在大规模商业环境验证，且仅适用于推论过程的暂存内存，并不涉及模型权重本身。