网易首页 > 网易号 > 正文 申请入驻

谷歌发布KV缓存压缩技术,存储需求预期遭冲击,美股存储板块集体下挫

0
分享至

美股存储芯片板块周三遭遇重挫。闪迪一度跌6.5%,美光科技跌4%,西部数据跌超4%,希捷科技跌超5%。

谷歌发布的新型AI内存压缩技术TurboQuant,引发市场对存储需求前景的担忧。据称,该技术可在不损失准确性的前提下,将大语言模型的缓存内存占用至少减少6倍,并实现最高8倍的加速,旨在解决AI推理与向量搜索中的内存瓶颈问题。


谷歌TurboQuant冲击存储需求

谷歌发布的TurboQuant是一种专为大型语言模型和向量搜索引擎设计的内存压缩技术核心目标是解决AI系统中键值缓存(Key-Value Cache)的存储瓶颈。

根据谷歌公告,TurboQuant可在无需模型训练或微调的前提下,将键值缓存压缩至3比特,在Gemma、Mistral等开源模型上实测达到键值内存6倍缩减效果。在英伟达H100 GPU加速器上,该算法较未量化键值方案性能提升最高达8倍。

该技术通过两步实现压缩:首先采用PolarQuant方法对数据向量进行旋转以实现高质量压缩,继而利用量化Johnson-Lindenstrauss算法消除残差误差。谷歌指出,传统向量量化方法每个数字会产生1至2比特的额外内存开销,部分抵消了压缩收益,而TurboQuant对此有所改善。

TurboQuant将于ICLR 2026发表,PolarQuant则计划在AISTATS 2026上亮相。谷歌已在LongBench、Needle In A Haystack、ZeroSCROLLS、RULER及L-Eval等多项基准测试中完成验证,并指出该技术同样适用于大规模搜索引擎的向量检索场景。

杰文斯悖论再现?TurboQuant或激活更多AI应用场景

摩根士丹利指出,谷歌TurboQuant技术仅作用于推理阶段的键值缓存,不影响模型权重所占用的高带宽内存(HBM),也与训练任务无关。因此,这并非存储总需求或硬件总量减少6倍,而是通过效率提升增加单GPU吞吐量——相同硬件可支持4至8倍更长的上下文,或在不触发内存溢出的前提下显著提升批处理规模。

尽管如此,存储板块今年以来累计涨幅显著,估值本已承压,任何可能削减硬件需求的技术进展都足以触发市场的防御性反应。摩根士丹利亦提示,由于该压缩技术可直接集成进平台基础设施,对软件层面可能形成边际利空。

在分析中,摩根士丹利援引杰文斯悖论,认为效率提升反而可能推升整体需求。其逻辑在于:TurboQuant通过压缩数据体积与传输量,大幅降低单次查询的服务成本,使AI部署更具盈利性。这意味着原本依赖云端集群的模型可迁移至本地硬件运行,有效降低AI规模化部署的门槛,从而激活更多应用场景,带动现有基础设施利用率提升。

摩根士丹利将TurboQuant称为“重塑AI部署成本曲线的突破”,并将其与DeepSeek的影响相提并论——对云服务商与模型平台构成积极信号,在长上下文推理与检索密集型应用中带来可观的投资回报价值,而对算力与内存硬件的长期影响则判断为“中性偏正面”。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
油价突变!5月12日柴油汽油价格,新一轮国内油价调整将大幅降价

油价突变!5月12日柴油汽油价格,新一轮国内油价调整将大幅降价

有料财经
2026-05-11 22:27:02
王暖暖曝无忧单方面解约!怒称自己赔不起500万,刚确诊脑动脉瘤

王暖暖曝无忧单方面解约!怒称自己赔不起500万,刚确诊脑动脉瘤

夜深爱杂谈
2026-05-11 21:09:55
李晨在《跑男》委屈到骨子里,被新嘉宾嘲讽、节目组针对,陈赫提他红了眼,刘浩存力挺

李晨在《跑男》委屈到骨子里,被新嘉宾嘲讽、节目组针对,陈赫提他红了眼,刘浩存力挺

科学发掘
2026-05-10 18:54:06
“你凭什么赢张国荣?”26年后,他用一句话回应,让所有人闭嘴!

“你凭什么赢张国荣?”26年后,他用一句话回应,让所有人闭嘴!

飘飘然的娱乐汇
2026-05-10 22:15:05
我穿便装到妻子家过年,被厅长大舅哥使唤,警卫员送来文件他愣了

我穿便装到妻子家过年,被厅长大舅哥使唤,警卫员送来文件他愣了

千秋文化
2026-05-08 10:29:06
紫牛头条|儿子车祸受伤生存希望不足0.1%仍绝不放弃!这位母亲生死守护已620天

紫牛头条|儿子车祸受伤生存希望不足0.1%仍绝不放弃!这位母亲生死守护已620天

扬子晚报
2026-05-10 20:20:42
从雷霆第六人到骑士老兵!37岁哈登一夜刷新五项历史纪录

从雷霆第六人到骑士老兵!37岁哈登一夜刷新五项历史纪录

田先生篮球
2026-05-10 22:50:24
他舍弃中国国籍加入日本队!助日乒逆袭崛起,如今成国乒头号威胁

他舍弃中国国籍加入日本队!助日乒逆袭崛起,如今成国乒头号威胁

八斗小先生
2026-05-11 15:40:40
搞垮中国交通的罪魁祸首,并非是车太多?这几座山不移除就白搭了

搞垮中国交通的罪魁祸首,并非是车太多?这几座山不移除就白搭了

原来仙女不讲理
2026-05-07 23:09:21
湖人最稳之人摊牌了!G4不是詹姆斯最后一舞?他才是第一个走的

湖人最稳之人摊牌了!G4不是詹姆斯最后一舞?他才是第一个走的

林子说事
2026-05-12 06:12:38
想安稳活到81岁?66岁起,两性关系这8句一定要听进去

想安稳活到81岁?66岁起,两性关系这8句一定要听进去

新时代的两性情感
2026-04-24 12:36:15
43岁身材还这么“满”?王心凌的身材到底是怎么保持的?

43岁身材还这么“满”?王心凌的身材到底是怎么保持的?

马拉松跑步健身
2026-05-04 19:32:40
几块钱的维生素B2,竟是高血压克星?提醒:还有助改善性生活

几块钱的维生素B2,竟是高血压克星?提醒:还有助改善性生活

橘子约定
2026-02-27 09:33:19
美股纳指低开0.3% 高通、英特尔、美光科技、AMD等再次刷新历史新高

美股纳指低开0.3% 高通、英特尔、美光科技、AMD等再次刷新历史新高

每日经济新闻
2026-05-11 21:41:10
王曼昱赛后哭了,感谢孙颖莎,是因为担心张本美和有爆冷的潜力

王曼昱赛后哭了,感谢孙颖莎,是因为担心张本美和有爆冷的潜力

子水体娱
2026-05-12 00:38:08
汉武帝为什么总选春天进攻匈奴?司马光:匈奴女子春天更容易怀孕

汉武帝为什么总选春天进攻匈奴?司马光:匈奴女子春天更容易怀孕

云霄纪史观
2026-05-08 00:57:48
段永平也发声!问责母亲节文案,OPPO发布“史上最狠”通告

段永平也发声!问责母亲节文案,OPPO发布“史上最狠”通告

正经社
2026-05-11 22:20:17
1987年,越军王牌飞行员陈尊闯入广西,赌我军不敢开火,结局如何

1987年,越军王牌飞行员陈尊闯入广西,赌我军不敢开火,结局如何

兴趣知识
2026-05-11 17:49:47
日本发射88式导弹,彻底炸毁中国最后的耐心!日首相向第三国下跪

日本发射88式导弹,彻底炸毁中国最后的耐心!日首相向第三国下跪

杰丝聊古今
2026-05-10 12:21:17
首架出口型歼-35亮相,买家并非巴基斯坦

首架出口型歼-35亮相,买家并非巴基斯坦

心灵的触动a
2026-05-11 06:54:26
2026-05-12 07:27:00
华尔街见闻官方 incentive-icons
华尔街见闻官方
中国领先的金融商业信息提供商
145913文章数 2653525关注度
往期回顾 全部

科技要闻

黄仁勋:你们赶上了一代人一次的大机会

头条要闻

母女二人一年用水量高达400多吨 警方发现背后隐情

头条要闻

母女二人一年用水量高达400多吨 警方发现背后隐情

体育要闻

梁靖崑:可能是最后一届了,想让大家记住这个我

娱乐要闻

“孕妇坠崖案”王暖暖称被霸凌协商解约

财经要闻

宗馥莉罢免销售负责人 部分业务将外包

汽车要闻

吉利银河“TT”申报图曝光 电动尾翼+激光雷达

态度原创

旅游
手机
教育
健康
军事航空

旅游要闻

打卡同色系风景 带火城市微旅行

手机要闻

苹果iOS/iPadOS 16.7.16正式版发布

教育要闻

有公费海外交换机会的院校(妈妈!免费旷野!

干细胞能让人“返老还童”吗

军事要闻

特朗普:伊朗的回应“完全不可接受”

无障碍浏览 进入关怀版