北京
Google 首次向 Agentic Inference Benchmark（智能体推理基准测试）提交了测试结果。这份结果用的是 FP8 精度、基于 vLLM 的 TPU v7，对标的是 NVIDIA GB300 NVL72 在 FP4 精度下的运行表现。
结论有点扎眼：Google 的方案实现了高达 1.67 倍的每美元性能优势。
精度低一档，吞吐量没输
TPU v7 的代号是 Ironwood。这次测试的场景是做量子校准实验分析，属于典型的大吞吐量 AI 推理任务。
精度差异是这次对比的关键。TPU v7 用的是 FP8，NVIDIA GB300 用的是 FP4——前者精度更低一档。但即便在精度不占优的情况下，TPU v7 在每秒处理的 qubit 数量和总体吞吐量上完全不落下风，最终把成本性能优势拉到了 167%。
这说明 Google 在硬件微架构和指令集优化上拿到了实质进展，靠这些优化补上了精度上的差距。
1.67 倍不只是芯片便宜
成本效率的来源不止一个。TPU 本身可能更便宜是一方面，另一方面是 Google 优化的软件栈和集群管理能力——这两块叠加起来，让数据中心运营商在总拥有成本上省下真金白银。
换句话说，这不是单点硬件的胜利，是硬件加软件加集群调度的组合拳。
NVIDIA 的默认选项地位被撬动
长期以来 NVIDIA 一直是 AI 加速器的市场领导者。Google 这次的强劲表现意味着，大型科技公司可以开始选择 TPU 来满足自己的 AI 需求，减少对 NVIDIA 的依赖。
可能出现的连锁反应有两条：
- 触发价格战，成本效率成为竞争焦点
- 迫使 NVIDIA 在未来的产品中更加注重成本效率
对企业和研究机构来说，多了一个可比的选项。对 NVIDIA 来说，市场份额的护城河第一次被摆到了台面上。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
