详解Nvidia GPU和Google TPU

一份报告声称，Facebook 和 Instagram 的母公司 Meta 正在与谷歌合作，利用这家搜索巨头的 Tensor Processing Units（TPU）来训练其人工智能模型。这一消息导致 Nvidia 的市值大幅缩水，损失数十亿美元。作为 Nvidia 最大的客户之一，Meta 向替代硬件方向的转变对整个半导体巨头造成了冲击，引发了连锁反应。本文将探讨 Nvidia 的 GPU 与谷歌 TPU 之间的主要差异，同时考察 Groq 的 LPUs——Nvidia 近期以战略性 200 亿美元的防御举措收购的一家初创企业。

Nvidia GPU 与 Google TPU：架构与用途

英伟达最初设计图形处理器（GPU）是为了渲染3D图形。它们拥有数千个小型核心，可以同时处理多个任务。由于它们是通用型的，因此可用于人工智能、游戏、加密货币挖矿和科学模拟等领域。

另一方面，谷歌的 TPU 是一款专用集成电路，它是谷歌从零开始专门设计的，其唯一目的就是加速驱动机器学习的“张量”数学运算。

英伟达的GPU是可以购买的。无论是售价1000美元的游戏显卡，还是售价3万美元的H100企业级芯片，企业都可以购买并在自己的数据中心运行。芯片数量越多，处理能力越强，模型训练效果也越好。说到谷歌的TPU，无法直接购买。谷歌不出售实体芯片，而是通过谷歌云平台提供“租赁”服务，允许合作伙伴训练模型。这意味着，如果想要使用TPU，就必须留在谷歌的生态系统中，而不能在自己的数据中心运行这些硬件。

Nvidia GPU 与 Google TPU：训练和推理

关键区别在于速度。英伟达GPU在训练方面堪称“王者”，这意味着它们能够从零开始训练AI模型。大多数主流AI实验室，例如OpenAI、Meta、xAI以及谷歌自身，都使用庞大的英伟达H100/B200集群来构建模型。

谷歌的TPU在推理（运行模型并得出答案）方面占据主导地位。由于TPU专为速度而设计，因此它们可以比GPU更快地同时为数百万用户提供AI“答案”，延迟更低。

其中一个原因是软件差异。人工智能研究人员熟知如何使用英伟达的CUDA，因为它是人工智能的“语言”。而迁移到谷歌的TPU通常需要重写代码或切换框架。谷歌云首席执行官托马斯·库里安最近表示，该公司已使其模型与英伟达GPU兼容，并且双方是合作伙伴。

Groq 语言处理单元是一种新型处理器，它采用 AI 推理技术，据称能够“大规模地提供 AI 计算速度、质量和经济性”——就像 Google TPU 一样。

“Groq 从零开始创建并构建了 LPU，以满足人工智能的独特需求。LPU 运行大型语言模型 (LLM) 和其他领先模型的速度显著提升，并且在架构层面，其能效比 GPU 最高可提升 10 倍，”该公司表示。通过同时提供 LPU 和 GPU，英伟达旨在提供集强大性能、高速性能和卓越能效于一体的一站式解决方案。

英伟达GPU市场需求目前仍然非常强劲。根据最新数据，Blackwell GPU已出货600万块，预计未来五个季度将额外增加1400万块Blackwell和Rubin GPU。这一出货量远超上一代Hopper架构全生命周期400万块的规模。英伟达CEO黄仁勋在GTC大会上披露，Blackwell GPU的累计订单金额已达5000亿美元，且这一数据不含中国及亚洲市场。英伟达对未来需求的展望非常乐观。公司管理层强调，对2025-2026年基于Blackwell和Rubin系统的数据中心累计收入拥有5000亿美元的可见性，这一数字比市场普遍预期（4470亿美元）高出12%。花旗认为，这一预测“非同寻常”，强烈表明公司对未来18个月的强劲需求拥有高度可见性。

光模块需求的持续上调也印证了GPU需求的增长。800G光模块的需求从十一前的4400万只上调至5000万只以上，1.6T光模块的需求从十一前的1000万只调整至2000万只以上。如果考虑到英伟达和博通后续芯片出货量的潜力，2026年1.6T的需求可能达到3300万只。

尽管需求强劲，供应链的产能瓶颈仍是挑战。台积电的CoWoS封装产能是AI市场需求增长下的重要瓶颈。英伟达正在与台积电协商将Rubin的产能从200万片提升至300万片，以满足新增的1.6T光模块订单需求。如果双方达成一致，英伟达可能会进一步追加500万只光模块订单，将1.6T光模块总需求提升至2000万只。

想要获取半导体产业的前沿洞见、技术速递、趋势解析，关注我们！