北京
分享至
芯片初创公司Cerebras发布新一代AI推理系统CS-4，没有更换制程工艺，仅通过重新设计供电与散热方案，就将时钟速度提升一倍，AI推理性能近乎翻番。
关键性能指标
单晶圆方案提供250 PFLOPs算力与43.2 PB/s内存带宽；单机柜集成三片晶圆，总算力达750 PFLOPs。在GPT-OSS-120B模型上，每用户每秒可处理超4,400 tokens，推理速度较GPU系统最高快30倍。
这一成绩意味着，在未依赖先进制程迭代的情况下，系统架构层面的优化仍能带来显著性能跃升。对于运行大模型推理负载的团队而言，CS-4提供了另一种性能提升路径。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
