去年末,Groq与英伟达就其推理技术达成非排他性许可协议,共同推进授权技术的升级与规模化应用。传闻英伟达花费了约200亿美元,是其最大一笔外部投资项目,打算在下一代数据中心Feynman架构GPU加入Groq的LPU模块,以提升推理性能。
![]()
据Wccftech报道,近日英伟达创始人兼首席执行官黄仁勋在季度财报电话会议上被问及Groq相关内容,表示有些绝妙的想法会接下来的GTC 2026大会上与大家分享,将通过Groq实现这样的目标:以类似Mellanox的方式,将Groq作为加速器来扩展英伟达的架构。
英伟达投资Groq的理念很简单,主要针对延迟敏感的工作负载,现今推理阶段已经占据了主导地位。绑定在代理环境中的应用需要超高响应速度,这也是延迟开始成为计算提供商的主要瓶颈的原因。对于英伟达而言,过去的Hopper和Blackwell训练中占据了主导地位,但是即将到来的Rubin在推理领域尚未巩固其领先优势,为此需要Groq的LPU单位,希望能发挥关键作用。
当初英伟达收购Mellanox是为了解决网络连接的问题,为InfiniBand技术奠定了基础,极大推动了英伟达的数据中心战略。预计英伟达将借助Groq继续扩展架构设计,或许会以某种形式提供LPU机架级集成方案。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.