网易首页 > 网易号 > 正文 申请入驻

谷歌突破性算法震惊硅谷 华尔街激�...

0
分享至

来源:市场资讯

(来源:财联社)

财联社3月26日讯(编辑 刘蕊)美东时间周二,谷歌发布了一个炸裂硅谷科技圈的最新算法:超高效AI内存压缩算法TurboQuant。


谷歌声称,这项算法可以在在不损失准确性的前提下,将大型语言模型运行时的缓存内存占用至少减少6倍、性能提升8倍,本质上,可以让人工智能在占用更少内存空间的同时记住更多信息。

这一算法一经发布,美股芯片股应声下挫。谷歌和华尔街也掀起了一场热烈讨论:当前困扰众多科技巨头的内存芯片短缺灾难是否可以就此终结了?

TurboQuant是什么?

先来说说这项TurboQuant算法具体是什么。

根据谷歌在官方网站的介绍,TurboQuant是一种压缩方法,它能够在不损失任何精度的前提下大幅减小模型大小,因此非常适合支持键值缓存(KV Cache)压缩和向量搜索。它通过两个关键步骤实现这一点:

简单来说,TurboQuant本质上就是在保持AI模型核心结构不变的情况下压缩AI模型,而且无需预处理或特定的校准数据。

谷歌声称,他们使用开源的长上下文模型(Gemma和Mistral ),在包括LongBench、Needle In A Haystack、ZeroSCROLLS、RULER和L-Eval在内的多项基准测试中,对 TurboQuant、PolarQuant 和KIVI这三种算法进行了严格评估。

实验数据表明,TurboQuant在点积失真和召回率方面均达到了最优评分性能,同时最大限度地减少了键值(KV)内存占用。


上图展示了TurboQuant、PolarQuant 和KIVI基线算法在问答、代码生成和摘要等不同任务中的综合性能得分。

谷歌称,TurboQuant在所有基准测试中均取得了完美的下游结果,同时将键值内存大小至少减少了6倍。

他们计划在下个月的ICLR 2026会议上展示他们的研究成果,以及展示实现这种压缩的两种方法:量化方法PolarQuant和名为QJL的训练和优化方法。

谷歌迎来DeepSeek时刻?

谷歌的这一算法,令不少人联想到了HBO电视剧《硅谷》(2014年至2019年播出)中虚构的创业公司Pied Piper。在电视剧中,Pied Piper同样开发出一种突破性的压缩算法,能在近乎无损压缩的情况下大幅减小文件大小。


而现实中的谷歌研究院发布的TurboQuant技术,同样致力于在不损失质量的前提下实现极致压缩,但它应用于人工智能系统的核心瓶颈。

Cloudflare首席执行官Matthew Prince等人甚至称之为谷歌的DeepSeek时刻,认为其有望像DeepSeek一样,通过极高的效率收益大幅拉低AI的运行成本,同时在结果上保持竞争力。


他在X上的一篇文章中写道:“在速度、内存使用、功耗和利用率方面,AI推理还有很大的优化空间。”

内存芯片需求将会降温?

谷歌的这一算法发布之际,正值全球存储芯片短缺问题日趋严峻的时刻。

由于全球各大巨头全力兴建AI基础设施,内存需求不断攀升,供不应求的现象短期内难以缓解。各大科技公司开发人员已经想出各种创新方法来克服或至少应对内存短缺,而谷歌的TurboQuant,目前被科技界人士认为,很可能成为一种给内存需求降温的可持续方案。

这一预期对于致力于建设AI基础设施的科技巨头们来说,自然是一件好事。但对于内存芯片厂商们来说,可能结果就不同了。

受到内存需求可能降温预期的影响,美东时间周三,美股存储芯片板块在开盘后不久就集体跳水:闪迪一度跌6.5%,美光科技跌4%,西部数据跌超4%,希捷科技跌超5%。


闪迪周三早盘一度大跌

周四亚洲时段,截至发稿时SK海力士下跌4.42%,三星跌3.02%。

Futurum股票研究部门的Shay Boloor声称:

大摩提出相反观点

不过,也有华尔街巨头提出了相反的看法。

比如,Lynx Equity Strategies分析师KC Rajkumar就提出,TurboQuant的技术“颠覆性”可能并没有媒体描述的那么夸张。

他表示,谷歌所谓的“8倍性能提升”是建立在与老旧的32-bit模型对比之上的,然而当前的推理模型早已广泛采用4-bit量化数据,因此性能提升幅度并没有那么夸张。

此外,摩根士丹利还指出,谷歌TurboQuant技术仅作用于推理阶段的键值缓存,不影响模型权重所占用的HBM,也与训练任务无关。

因此,这并非存储总需求或硬件总量减少6倍,而是通过效率提升增加单GPU吞吐量——相同硬件可支持4至8倍更长的上下文,或在不触发内存溢出的前提下显著提升批处理规模。

更重要的是,摩根士丹利进一步援引了“杰文斯悖论”(Jevons Paradox),来解释内存需求不会降温的判断。

杰文斯悖论是经济学中的一个重要概念,指的是技术进步与资源消耗之间的一种反直觉关系。其定义是:当技术进步提高了效率,资源消耗不仅没有减少,反而激增。例如,瓦特改良的蒸汽机让煤炭燃烧更加高效,但结果却是煤炭需求飙升。

摩根士丹利认为,通过大幅降低单次查询的服务成本,TurboQuant能够让原本只能在云端昂贵集群上运行的模型迁移至本地,有效降低AI规模化部署的门槛,这可能反而能进一步提振整体需求。

实际上,Cloudflare首席执行官Matthew Prince等人提到的DeepSeek,就是杰文斯悖论的最鲜明例子:在DeepSeek去年年初刚刚发布时,市场也一度担忧AI硬件需求将会降温,但事实是,效率的提升带来了AI应用的进一步普及,AI硬件需求也再次升温。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
2010年,泰国将军儿子酒吧被打,对方称是大明星男友,结局如何?

2010年,泰国将军儿子酒吧被打,对方称是大明星男友,结局如何?

极品小牛肉
2024-10-24 16:11:10
27吨冻牛头牛蹄跨省运输后部分发霉,冻库、冷链车送检样品均超标,多部门介入

27吨冻牛头牛蹄跨省运输后部分发霉,冻库、冷链车送检样品均超标,多部门介入

红星新闻
2026-03-28 19:53:39
张爱玲:人生最大的悲哀不是选错伴侣,也不是没挣到钱,而是人到中年才发现,从未真正为自己活过

张爱玲:人生最大的悲哀不是选错伴侣,也不是没挣到钱,而是人到中年才发现,从未真正为自己活过

四行书
2026-03-27 12:33:32
巴伦德拉宣誓就任尼泊尔总理,印媒关注:标志着尼泊尔政治格局重大转变

巴伦德拉宣誓就任尼泊尔总理,印媒关注:标志着尼泊尔政治格局重大转变

环球网资讯
2026-03-28 07:00:38
云南省发展和改革委员会享受一级调研员待遇退休干部许建平接受审查调查

云南省发展和改革委员会享受一级调研员待遇退休干部许建平接受审查调查

界面新闻
2026-03-28 15:06:35
宝妈委屈,请儿子全班参加他10岁生日宴却无人到!网友:你的问题

宝妈委屈,请儿子全班参加他10岁生日宴却无人到!网友:你的问题

素十三儿
2026-03-21 11:07:58
广东1男子卖猪肉35年,一贫如洗,却被网友称为“最富有的人”

广东1男子卖猪肉35年,一贫如洗,却被网友称为“最富有的人”

小怪吃美食
2026-03-28 10:31:51
心如死灰!一乳腺癌患者哭诉抗癌1年,在丈夫外套翻出他达拉非…

心如死灰!一乳腺癌患者哭诉抗癌1年,在丈夫外套翻出他达拉非…

火山詩话
2026-03-27 06:26:22
特朗普宣布访华新日期,不到48个小时,中方不留情面,连续反制

特朗普宣布访华新日期,不到48个小时,中方不留情面,连续反制

小舟谈历史
2026-03-29 06:28:30
全国中小学严查开始!这些事一律不许做,发现就处理

全国中小学严查开始!这些事一律不许做,发现就处理

马蹄烫嘴说美食
2026-03-28 03:55:27
大涨价第一周,国内市场变天,利好苹果、小米等

大涨价第一周,国内市场变天,利好苹果、小米等

科技锋说
2026-03-28 05:44:57
知名乐评人批周杰伦新歌:嗓子粗糙、歌词幼稚,还在那“我最强我最屌”

知名乐评人批周杰伦新歌:嗓子粗糙、歌词幼稚,还在那“我最强我最屌”

老吴教育课堂
2026-03-27 12:48:19
大S灵魂缠着具俊晔!翻白眼女星玩剧组夫妻!

大S灵魂缠着具俊晔!翻白眼女星玩剧组夫妻!

八卦疯叔
2026-03-27 16:16:34
张本智和父亲:请中国人不要骂我儿子,他比你们99%的人都优秀!

张本智和父亲:请中国人不要骂我儿子,他比你们99%的人都优秀!

拳击时空
2026-03-29 04:58:33
曾精准预判金价狂飙的人,再发末日危言

曾精准预判金价狂飙的人,再发末日危言

亿通电子游戏
2026-03-28 17:13:02
米利唐前女友卡罗琳社媒:受罗纳尔多团队邀请报道世界杯幕后

米利唐前女友卡罗琳社媒:受罗纳尔多团队邀请报道世界杯幕后

懂球帝
2026-03-28 10:53:06
巴基斯坦也没有想到,跟着中国混来混去,结果自己也混了一个霸主

巴基斯坦也没有想到,跟着中国混来混去,结果自己也混了一个霸主

忠于法纪
2026-02-12 09:56:59
哈勃与韦布为土星拍下绝美写真

哈勃与韦布为土星拍下绝美写真

NASA爱好者
2026-03-28 00:30:09
末代港督彭定康夫妇,带3个漂亮女儿回英国,29年过去今过得咋样

末代港督彭定康夫妇,带3个漂亮女儿回英国,29年过去今过得咋样

揽星河的笔记
2026-03-26 00:26:09
美军集结地遭袭击伤亡惨重!美媒:美国军力遭受二战后最严重削弱

美军集结地遭袭击伤亡惨重!美媒:美国军力遭受二战后最严重削弱

乡野小珥
2026-03-29 02:21:42
2026-03-29 07:55:00
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
2668459文章数 6212关注度
往期回顾 全部

科技要闻

华为盘古大模型负责人王云鹤确认离职

头条要闻

上海爷叔在家"打伞做饭" 自嘲掏空三代400万买了个啥

头条要闻

上海爷叔在家"打伞做饭" 自嘲掏空三代400万买了个啥

体育要闻

“我是全家最差劲的运动员”

娱乐要闻

陈牧驰陈冰官宣得子 晒一家三口握拳照

财经要闻

卧底"科技与狠活"培训:化工调味剂泛滥

汽车要闻

置换补贴价4.28万起 第五代宏光MINIEV正式上市

态度原创

本地
健康
艺术
家居
军事航空

本地新闻

在潍坊待了三天,没遇到一个“潍坊人”

干细胞抗衰4大误区,90%的人都中招

艺术要闻

毛泽东手笺惊现美国拍卖会,满纸峥嵘往事......

家居要闻

曲线华尔兹 现代简约

军事要闻

美军中东基地损失最新披露

无障碍浏览 进入关怀版