2025年圣诞节的凌晨,硅谷炸了。
英伟达宣布以200亿美元拿下AI推理芯片公司Groq的核心技术与团队。
三个月前Groq的估值还只有69亿美元,黄仁勋直接给出了将近三倍的溢价。
![]()
这不是一次传统收购,Groq仍然作为独立公司运营,但Groq的创始人Jonathan Ross带着几乎所有核心成员集体加盟英伟达。
伯恩斯坦的分析师一针见血:本质是英伟达用金钱换时间,把最危险的颠覆者变成自己人。
![]()
![]()
Groq这家公司2016年成立,创始人Jonathan Ross的经历相当传奇——高中辍学,没正经读完大学,却在谷歌设计出了第一代TPU芯片的核心架构。
TPU是谷歌用来跑AI的定制芯片,现在被不少公司当作英伟达GPU的替代方案。
![]()
Groq早期推出的产品叫TSP(张量流处理器),出发点跟TPU类似——在GPU之外专门做一个更专一、更高效的推理硬件。
![]()
Groq当时也没想到,自己捣鼓出来的这个架构,在多年后的生成式AI大爆发中突然变得格外吃香。
![]()
Groq随后把TSP重新包装成LPU(语言处理单元)推向市场。
这两年谷歌TPU已经在抢英伟达的饭碗了,Meta被曝考虑大规模采用谷歌TPU,消息一出英伟达股价单日暴跌8%。
![]()
加上微软、亚马逊都在搞自研芯片,黄仁勋坐不住了,快速出手把Groq收编。
有投资人评价说,黄仁勋这200亿美元买的其实就是Jonathan Ross这个人,押注未来可能赚回三倍的钱。
![]()
![]()
直接看图。
LPU芯片的结构很有意思,以中间的VXM为中轴上下对称分布。
VXM是向量计算单元,负责激活函数、点运算等;上下两侧的MXM是张量单元,负责矩阵运算——这部分占了整个计算量的93%。
这两个核心电路分别对应英伟达GPU里的CUDA Core和Tensor Core。
![]()
中间的SXM是数据移动引擎,负责调度数据流转。
但LPU最特别的地方在于它的存储设计——整个芯片没有缓存这个概念。
中间那一块叫MEM的存储单元,用的也是SRAM技术,但扮演的是主内存的角色。
![]()
单颗Groq 3 LPU集成了500MB的片上SRAM,一个机架256颗LPU加起来就是128GB纯SRAM。
运行时直接把权重等数据加载到MEM里,根本不用像GPU那样频繁去片外HBM搬数据。
这就大大降低了“内存墙”带来的数据搬运开销。
![]()
SRAM的读写延迟极低,单颗芯片带宽能达到150TB/s,而英伟达Blackwell GPU用的HBM4带宽只有8TB/s——差距接近20倍。
在主流大语言模型上,LPU推理速度能达到H100的5到18倍,首Token响应时间仅0.2秒。
硬件设计只是基础,真正让LPU跟其他芯片拉开差距的是它的软件哲学。
![]()
LPU运行前先用编译器把所有计算任务排成一个静态调度,形成固定的计算图。
每条指令、每个数据流什么时候到、走哪条路,全是提前算好的,不存在临时调度。
![]()
如果说GPU像一条随时调整节奏的汽车产线,那LPU就是固定好每颗螺丝、每个部件的具体装配时间,一气呵成。
这种“确定性执行”带来的好处是延迟极其稳定,不会像GPU那样时快时慢。
![]()
GPU在推理时有一个先天问题:它自己不主动计算,得靠CPU给它发指令(kernel)。
CPU频繁给GPU“派活”,这个过程本身就带来巨大开销。
每接到一个任务,GPU内部还存在动态调度,任务分给各个SM(流式多处理器),出现分支发散惩罚——这些都会拖慢速度。
![]()
LPU的设计就是为了解决这个问题——用静态调度干掉动态调度的开销,用片上SRAM干掉数据搬运的延迟。
但LPU也不是万能的。
SRAM虽然快,但成本高、容量小,没法像HBM那样动不动堆几百GB。
![]()
所以LPU不能独立运行大模型,必须和GPU配合——GPU负责并行计算和大内存需求,LPU负责低延迟的前向传播。
在GTC 2026上,英伟达正式发布了Groq 3 LPU芯片和搭载256颗LPU的LPX机架,黄仁勋说GPU加LPU协同后,推理吞吐量与功耗比能提升35倍。
![]()
分析师预测2026到2027年LPU总出货量将达400万到500万颗。
大洋彼岸的中国,北京芯片公司清微智能在2025年12月完成了超20亿元融资,走的也是类似的可重构数据流技术路线。
中美两边的资本,几乎同时把重注押在了同一个方向上。
![]()
这笔交易之后还出了个插曲——2026年3月,两名美国民主党参议员联名致信黄仁勋,质疑英伟达通过“技术授权+人才吸纳”的方式规避反垄断审查。
![]()
联邦贸易委员会也在跟进调查这类“变相收购”。
用200亿美元把最危险的对手变成自己人,还绕开了监管——这步棋走得精,但后续的麻烦恐怕才刚刚开始。
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.