山东
分享至
IT之家 6 月 16 日消息，北美-欧洲 AI 芯片初创企业 Tensordyne 当地时间 15 日宣布推出 AI 推理系统 Tensordyne Napier (TDN)，宣称其可实现 NVIDIA Blackwell 系统 17 倍的按 Token（词元）计能效和 13 倍的吞吐量。
TDN 平台由 Tensordyne 与博通、HPE 瞻博网络合作开发。其核心 Napier 处理器已成功流片，正以台积电 3nm 制程工艺生产。
IT之家了解到，Napier 芯片采用对数数学设计，这意味着可用更简单的加法运算替代 AI 推理中的大规模乘法操作；此外其芯片集成大量 SRAM 缓存和 HBM 内存，处理器间通信延迟＜1μs。
基于 Napier，Tensordyne 构建了集成 72 颗算力芯片 TDN 的 TDN72“推理舱”，而一个机架 / 机柜可容纳四个“推理舱”，从而集成 288 颗芯片。机架级 TDN 系统可以 1000 Token/s/user 的速率进行 T 级 LLM 推理，每年额外创造多达 3300 万美元的收入。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
