北京
分享至
“ 我们造了一颗芯片，它速度很快。” 8 月 26 日，OpenAI 首席执行官山姆·奥特曼在社交媒体上官宣。
当天，OpenAI 公布首颗定制推理芯片 Jalapeño 的技术细节，Jalapeño 意为 “ 墨西哥辣椒 ”，在峰值吞吐量方面，这枚芯片的每瓦峰值性能是参照系统的 1.5 至 1.9 倍，凭借单一架构同时实现高吞吐量和低延迟，单位功耗下可处理更多 AI 任务，响应速度更快。据彭博社报道，OpenAI 芯片部门负责人 Richard Ho 在接受采访时表示，Jalapeño 的参照对象是英伟达的 GB300 芯片。
混合Token 吞吐量峰值。在最大公开模型 Kimi K2.5 1T 上，Jalapeño 每瓦峰值性能约为参照系统的 1.5 倍。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
