当地时间8月18日,Cerebras发布新一代AI加速器CS-4,称其推理速度最高可达基于GPU方案的30倍。CS-4采用三颗新型WSE-3 Turbo晶圆级引擎,AI算力达750 PFLOPS,内存带宽达129.6 PB/s。
Cerebras表示,在GPT-OSS-120B测试中,CS-4每用户每秒生成超过4400个Token,最高达到GPU方案的30倍;其每瓦吞吐量最高为CS-3的10倍,并可支持超过50万亿参数的模型。CS-4预计将于今年第三季度开始出货。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.