Meta推出最新的AI芯片MTIA v2

2023 年 5 月，Meta 推出了采用台积电 7nm 工艺的第一代自研 AI 训练和推理芯片 MTIA v1，专为深度学习推荐模型而设计，这些模型正在改善其应用和技术的各种体验。

近日，Meta 宣布推出了其专为 AI 工作负载设计的最新款定制芯片 MTIA v2，这标志着 Meta AI 工具的性能改进，有助于为 Facebook 和 Instagram 上的推荐广告模型提供支持。

MTIA 是为 Meta 对 AI 基础设施不断增长的投资的一部分。随着 AI 工作负载对产品和服务变得越来越重要，这种效率将成为其为全球用户提供最佳体验的核心。MTIA v1 是提高 Meta 基础设施计算效率的重要一步，能更好地支持软件开发人员构建 AI 模型，以促进更好的用户体验。

Meta 表示公司下一代大规模基础设施正在以 AI 为基础进行建设，包括支持全新的生成式 AI 产品、推荐系统和先进的 AI 研究。随着支持 AI 模型的计算需求随着模型的复杂性而增加，他们预计这项投资将在未来几年增长。

据悉，MTIA v2 采用台积电 5nm 工艺，每 PE 缓存从上一代的 128KB 增加到 384KB，频率从 800MHz 提升到 1.35GHz，INT8 精度下的稠密算力达到上一代的近 3.5 倍，稀疏算力达到上一代的近 7 倍，达到 708TFLOPS。不过，MTIA v2 的面积变大了 13%，而功耗则增加到上一代的 3.6倍，达到 90W（上一代只有 25W）。

Meta 表示，MTIA 已部署在数据中心，现在正在为生产中的模型提供服务。

到目前为止的结果表明，该 MTIA 芯片可以处理低复杂度和高复杂度的排名和推荐模型，这是 Meta 产品的关键组成部分。与市售的 GPU 相比，MTIA 可以获得更高的效率。

MTIA 将成为 Meta 为独特 AI 工作负载构建和扩展最强大、最高效的基础设施的长期路线图的重要组成。

Meta 表示：“我们正在设计定制芯片，以便与现有的基础设施以及未来可能利用的新的、更先进的硬件（包括下一代 GPU）配合工作。实现我们对定制芯片的雄心意味着不仅要投资于计算芯片，还要投资于内存带宽、网络和容量以及其他下一代硬件系统。”

这家公司指出，目前有多个旨在扩大 MTIA 范围的项目正在进行中，包括对 GenAI 工作负载的支持。