北京
分享至
AIPress.com.cn报道
2月28日消息，据《华尔街日报》披露，OpenAI将导入英伟达最新基于Groq技术的AI推理芯片。
英伟达计划在下个月于圣何塞举办的 GTC 开发者大会上，发布一款全新的处理器。这款产品的核心使命非常明确：全力加速 AI 推理过程。
据悉，新产品将集成 Groq 设计的芯片技术。这一举措旨在帮助 OpenAI 等头部客户构建运行速度更快、能效比更高的 AI 系统，以应对日益庞大的模型推理需求。
有消息称，英伟达已与 Groq 签署了一项价值约 200 亿美元的技术授权协议。
AI 推理是指模型在训练完成后实际运行和响应用户请求的过程。随着大模型应用场景不断扩大，推理环节的算力需求也在快速增长。过去几年，英伟达凭借 GPU 在模型训练领域占据主导地位，如今将推理单独拎出来作为产品方向，显示出行业重心正在发生变化。
Groq 此前以自研的 LPU 推理芯片受到关注，主打低延迟、高吞吐的推理性能。此次与英伟达合作，意味着其技术路线获得了行业巨头的认可，同时也为英伟达在推理领域补充了新的能力。
目前，双方尚未就此事公开回应。更多细节预计将在 GTC 大会期间披露。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
