![]()
据《The Information》今日报道,Meta Platforms Inc.已同意一项价值数十亿美元的协议,租用谷歌云的定制人工智能芯片。
报道援引匿名消息源称,这些被称为张量处理单元的芯片将被Meta用于训练和运行其下一代大语言模型。
像Meta这样的大型企业正在先进处理器上投入数十亿美元,竞相构建支持AI工作负载所需的基础设施,谷歌已将此视为重要的增长机遇。AI芯片行业目前由英伟达公司的图形处理单元主导,为当今世界绝大多数AI应用提供动力,但谷歌的TPU是一个引人注目的低成本替代方案。
近年来,TPU已成为谷歌云基础设施平台最重要的增长引擎之一,公司相信有真正的机会来增加其市场份额。谷歌在11月推出了其最先进的TPU,称为Ironwood。客户可以选择将多达9,216个Ironwood TPU扩展为单个服务器群组,通过高速互连连接,提供高达9.6太比特每秒的带宽。这些芯片可以连接到高达1.77拍字节的共享高带宽内存或HBM。
根据谷歌的数据,Ironwood芯片可以提供比其最接近竞争对手超过118倍的FP8 ExaFLOPS,在训练和推理方面比其上一代TPU Trillium性能提升四倍。
首批采用新TPU的公司之一是Anthropic PBC,该公司称赞了这些芯片提供的巨大价格性能收益,使其能够大规模服务大型Claude模型。此前,谷歌宣布与Anthropic达成了价值"数百亿美元"的协议,通过其云基础设施平台为其提供100万个TPU的访问权限。
今日的协议对Meta来说很重要,因为它希望使其AI硬件远离英伟达实现多元化。这家社交媒体巨头是英伟达最大的客户之一,本月早些时候宣布了一项数十亿美元的协议,购买数百万块该公司的下一代Vera Rubin GPU,这些GPU将在今年晚些时候上市。
但Meta不想被绑定在单一芯片供应商上,还与英伟达最大竞争对手之一的超微半导体公司建立了关系。本周早些时候,这家Facebook母公司表示将购买价值数十亿美元的AMD AI芯片,包括其最新的Instinct MI400系列GPU。此外,Meta还获得了购买AMD 10%股份的选择权,但只有在与芯片制造商的合作达到约定的性能里程碑时才会发生。
Meta与谷歌的协议使其能够进一步多元化AI硬件供应商基础,有充分的理由这样做。每种类型的AI处理器都有其优缺点,因此这家社交媒体巨头将能够为每种AI工作负载配对最优的硅芯片。此外,通过让不同的芯片制造商相互竞争,它可能在构建AI基础设施时获得有利的价格。
与此同时,谷歌有雄心打破英伟达对AI芯片市场的垄断。它知道企业希望有英伟达GPU的替代品,并决心利用这一点。从历史上看,其TPU只能通过谷歌云平台获得,意味着客户只能租用访问权限。
但现在谷歌希望直接向客户销售芯片,以便他们可以在自己的私有数据中心运行。通过这样做,它相信在未来几年内可以抢占英伟达数据中心收入的10%。
《The Information》的报告称,Meta目前正在与谷歌谈论为其自己的数据中心购买数百万个TPU。这将是与今日协议分开的交易,后者仅涉及云访问。然而,报告称目前还未达成协议。
不太清楚的是今日的协议对Meta自己的内部芯片意味着什么。该公司最后一次更新其定制的Meta训练和推理加速器或MTIA芯片是在2024年,据报道一直在与台积电合作开发新设计,预计今年某个时候推出。
据报道,下一代MTIA芯片针对AI模型训练进行了优化,这是其第一代处理器表现不佳的领域。然而,据信该公司在新芯片方面遇到了"技术挑战",似乎延迟了它们的推出。
Q&A
Q1:Meta为什么要与谷歌签署AI芯片租用协议?
A:Meta希望使其AI硬件供应商多元化,不想被绑定在单一芯片供应商上。通过与谷歌合作,Meta可以为不同类型的AI工作负载配对最优的芯片,同时通过让不同芯片制造商竞争来获得更有利的价格。
Q2:谷歌TPU芯片相比英伟达GPU有什么优势?
A:谷歌的TPU是英伟达GPU的低成本替代方案。最新的Ironwood TPU可以提供比最接近竞争对手超过118倍的FP8 ExaFLOPS,在训练和推理方面比上一代TPU性能提升四倍,并能连接到高达1.77拍字节的共享高带宽内存。
Q3:这次协议对谷歌的市场战略有什么意义?
A:这次协议是谷歌打破英伟达AI芯片市场垄断战略的重要一步。谷歌不仅通过云平台提供TPU租用服务,还计划直接向客户销售芯片供其在私有数据中心使用,目标是在未来几年抢占英伟达数据中心收入的10%。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.