创纪录的HBM3新品将打破内存带宽对数据中心的限制

随着人工智能和机器学习（AI/ML）在数据中心的使用率不断提升，对内存和I/O带宽的需求激增，促使业界不断发展出新的技术，HBM3就在这种背景下发展起来。作为HBM（高带宽存储器，High Bandwidth Memory）的最新版本，HBM3将承载让数据更快、更安全传输的使命。

近日，Rambus率先在业界推出支持HBM3的内存子系统，速率可达8.4Gbps，可提供超过1TB/s的内存带宽。

作为业界领先的IP供应商，Rambus在2016年就已经进入了HBM市场，“这也得益于我们之前在行业领域长期的专业知识累积，其中包括高速接口、芯片以及2.5D等复杂IP的提供。”Rambus IP核产品营销高级总监Frank Ferro表示。

Rambus本次推出的HBM3有很多技术亮点，除了高传输速率和高带宽外，其采用了标准的16通道设置，可以达到1024位宽接口，实现了更高的内存颗粒度。其次，该产品支持市面上所有主流的供应商所提供的DRAM，并大幅提高整个产品的密度。

Frank Ferro详细解说了Rambus的HBM3-Ready内存子系统的架构：“最上方有4块DRAM内存条通过TSV堆叠的方式叠加在一起，下面是SoC，再往下是中介层，在中介层下面就是绿色的封装，这些部分组成了整个2.5D的系统架构。”

HBM3与竞品最大的不同就在这种3D堆栈的架构，“不同于其他产品将DDR进行平铺，HBM选择堆叠，其直接结果就是其接口变得更宽，DDR的接口位宽只有64位，而HBM通过DRAM堆叠的方式可以将位宽提升到1024位，这就是HBM与其他竞争技术相比最大的差异。”Frank Ferro表示。

不过，采用2.5D系统架构也拉高了HBM3的成本。Frank Ferro坦言对成本比较敏感的客户或应用就不会选择HBM。“针对这个问题，Rambus已经在与整个行业和生态系统协作，希望进一步加速我们技术的发展和迭代，降低HBM的成本，让更多的客户可以应用HBM产品。”

回顾HBM性能的演进历史，HBM1的数据传输速率大概可以达到1Gbps左右，2016年的HBM2让数据传输速率可以达到2Gbps，接下来是2018年的HBM2E，最高数据传输速率可以达到3.6Gbps。今年海力士已经发布的HBM3产品，数据传输率已经达到了5.2Gbps。Rambus发布的新品，又将数据传输速率提升到新高。

Frank Ferro指出：“之所以在数据传输速率上比海力士更高，就是希望能够未雨绸缪，更好地为客户做好预先准备，应对后续更高的DRAM要求。”

目前，Rambus在市场份额上排名第一，同时已经赢得了超过50个设计订单，这些订单来自数据中心、ASIC的设计方等。

据Frank Ferro介绍，Rambus提供的不仅是IP，同时也提供泛IP，以及整个系统的具体设计，包括经过验证的PHY以及数字控制器。“Rambus的PHY产品是通过完全集成的硬核方式进行交付，在交付之时已经包括了完整的PHY、I/O以及Decap，方便客户进行系统集成。”

对于I/O设备产品来说，客户也需要厂商提供非常强大的技术以及相关的调试纠错支持，Rambus不仅可以将产品提供给客户，还可提供针对ASIC power up的现场客户支持，帮助客户进行现场纠错，实现更好的设备调试启动。

还有重要的一点，Rambus可以同时支持OSAT和CoWoS生产2.5D流程，可以满足不同客户的生产需求。

数据中心是HBM3的主要应用场景，但随着设备越来越多的边缘化，HBM3也可能被应用在未来的5G设备上，特别是那些对带宽有更高要求的5G设备。另外两个应用场景是AI/ML和HPC，它们都都可以充分发挥HBM3在功耗以及性能上的强大优势。

对于HBM3将在数据中心有怎样的实际表现，Frank Ferro表示：“HBM3在数据中心实际应用的速度如何，其实现在还没有具体数字，因为任何高速SoC芯片的开发基本上都会需要18个月左右的时间。按照我们正式发布HBM3的时间来估算，这些高速芯片的正式流片预计会在2022年末或者2023年初的时候，到那时会在数据中心有更加广泛的应用。”

原来制约HBM发展的因素主要集中在中介层上。Frank Ferro认为状况已经发生了改变，“在HBM2的时代，中介层本身的技术是有限制的，即一代和二代的中介层最高只能做到两层，它设计的线宽、金属层的厚度都是非常有限的。随着中介层技术的发展，其本身的厚度、金属层和线宽都有了一定的增加，这也进一步推动了HBM未来的发展。”

因此，Rambus对于HBM未来的发展有着非常乐观的预期。“HBM的发展很大程度上是由不断上升的带宽需求驱动的，而对带宽的需求几乎没有上限，换句话说，目前来看HBM的发展可能不会遇到障碍。”Frank Ferro说。（校对|Andrew）