北京
分享至
NVIDIA在获得Groq非独家授权8个月后，首次将Groq技术整合进机架级产品。搭载Groq的机架产品将于今年上线，标志着双方合作从授权阶段进入产品落地阶段。
工作负载如何拆分
NVIDIA将智能体AI工作负载按任务类型拆分处理：Rubin GPU负责重计算任务，Groq 3 LPX处理对延迟敏感的token生成环节，Vera CPU则运行代码与数据处理。三者各司其职，形成分工明确的处理链路。
性能对比
相比Cerebras的方案，Groq 3 LPX声称带来4倍响应速度提升，这一优势在长任务场景中表现得尤为明显。不过该数据为厂商声称，实际表现有待产品上线后验证。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
