定制HBM业务将如何运作

AI芯片领域正迎来一场内存定制化浪潮。随着HBM4的到来，超大规模云服务商（超算中心）获得了一项此前从未有过的能力：定制高带宽内存的底层逻辑芯片。这一变化正在重塑整个内存产业链的分工格局。

HBM4带来的转折点

高带宽内存（HBM）由多层芯片堆叠而成，其中绝大多数是存储芯片，只有最底层是逻辑芯片，负责管理、寻址等非存储任务。在HBM3及之前的版本中，美光、三星、SK海力士等存储厂商负责设计并制造堆栈中的所有芯片，包括底层逻辑芯片。

但HBM4改变了这一格局。为了满足功耗和性能需求，底层逻辑芯片需要迁移到更先进的FinFET工艺（可能是4nm或更先进），而DRAM芯片并不采用这类工艺。因此，虽然存储厂商仍负责设计标准底层逻辑芯片，但制造工作将交由逻辑代工厂完成。更重要的是，HBM4及后续版本允许用定制底层逻辑芯片替换标准版本，以更高效地处理特定工作负载。

为何要定制HBM？

理论上，各行各业的许多公司都可能对定制内存感兴趣。存储层本身不做定制，但控制逻辑可以定制，这对芯片和系统架构师而言极具价值。

然而，定制化意味着需要自行投资和管理一个芯片设计项目，这立刻将潜在参与者的范围大幅收窄。事实上，这项能力主要面向超算中心，原因有三：

第一，超算中心有足够的资金。第二，AI计算的工作负载类型相对单一，可以将大量机器专门用于某一特定任务，这使得定制化的投入产出比更高。第三，JEDEC等标准化组织的推进速度远跟不上AI计算的演进节奏。Marvell数据中心内存解决方案副总裁Khurram Malik表示："JEDEC的标准化进程较慢，而超算中心的推进速度要快得多，问题在于如何根据工作负载定制HBM底层逻辑芯片。"

除超算中心外，企业级客户也开始进入这一领域。Malik指出："我们越来越多地看到企业客户也在尝试构建自己的XPU，相关讨论目前仍处于早期评估阶段。"

具体案例：Marvell的实践

Marvell是目前已推进定制HBM实施的公司之一。该公司设有专门的定制云计算部门，为客户定制XPU（CPU/GPU/NPU的统称）。

"这是为了支持我们正在开发的定制XPU，"Marvell定制云解决方案高级副总裁Jim Rogers解释道。

不同超算中心的需求各不相同，Malik表示："不同的超算中心希望拥有各自的芯片间互联接口。"为降低设计成本，Marvell尝试打造一个能兼容所有定制XPU的单一定制HBM方案。

接口封装的技术逻辑

在定制底层逻辑芯片时，即便不做其他改动，内存控制器也会从主芯片迁移至底层逻辑芯片。这相当于用一个定制接口"封装"了标准接口。

Synopsys产品管理总监Rob Kruger解释说："如果采用定制HBM，需要定义与HBM控制器的接口方式，可以是AXI（Arm的高级可扩展接口），也可以是其他方式，双方需要就数据传输格式和接口达成一致。"

这一迁移带来了显著的面积和成本收益。内存控制器体积较大，且拥有大量连接点，占用了主芯片宝贵的"海岸线"（即芯片边缘可用于连接的焊球区域）。将控制器迁移至底层逻辑芯片后，虽然增加了底层芯片的面积，但底层芯片采用的工艺节点成本低于主芯片，因此整体上是净成本收益。

Malik进一步量化了这一收益："将内存控制器迁移至定制HBM底层逻辑芯片，并移除PHY（物理层接口），改用UCIe或其他芯片间互联接口，可使接口面积缩小约70%，为主计算芯片释放约25%的计算能力，同时降低整体功耗，提升XPU的整体效率。"

此外，"海岸线"的释放还意味着可以连接更多HBM堆栈，从而为计算单元提供更大的内存容量。

谁来设计？谁来制造？

定制HBM涉及四个核心环节：设计、制造（含晶圆测试）、封装和最终测试。其中，设计是最难的环节，因为它需要专业团队、工具和对内存如何影响性能与功耗的深刻理解。

存储厂商在这方面面临资源约束。SK海力士美国公司封装工程副总裁Jaesek Lee坦言："现在客户的需求都是定制化的，因为他们想要更高带宽，但存储厂商需要承担定制HBM的设计和制造工作，而我们的资源是有限的。"

Kruger也指出了规模门槛问题："这些公司没有闲置团队等着做定制设计，需要足够大的出货量才能支撑定制开发的投入，这本身就会限制项目数量。"

因此，设计工作更可能由超算中心自身或专业设计公司（如Marvell）承担。

在封装环节，同样没有统一模式。每个项目都需要在存储厂商、逻辑代工厂和封装厂之间协商确定分工。近期，台积电宣布与华邦电子合作，由华邦提供存储晶圆，台积电负责堆栈封装，这在一定程度上缓解了其他三家主要存储厂商的压力。

"穷人版HBM"：普通DRAM的堆叠方案

面对内存短缺，一些设计师开始探索替代方案：将标准DRAM芯片堆叠在主芯片之上。这类堆叠虽然层数不及真正的HBM，但可以集成多达四层DRAM芯片，且已率先采用混合键合技术。

Kruger指出，这一方案的核心优势并非仅仅是应对短缺，更在于性能："采用混合键合或间距更小的凸点进行传输，可以显著降低延迟，同时降低功耗。"Synopsys预计每年采用这种方式实施的项目不超过20个。

各环节分工总结

综合来看，定制HBM各环节的分工如下：

设计：因项目而异，通常由消费方（如超算中心）或专业设计公司承担。

制造与晶圆测试：在逻辑代工厂完成，不一定与标准底层逻辑芯片使用同一家代工厂。

封装：因项目而异，由项目协议确定责任方。

最终测试：与标准HBM流程相同，但需定制测试程序。

目前已有项目在推进中，定制HBM堆栈预计将在一到两年内进入数据中心。

对内存供应的影响

定制HBM并不会额外增加内存需求总量，因为行业对内存的需求是以总量计算的，不区分标准版还是定制版。但Malik提醒："内存目前严重短缺，价格持续攀升，存储厂商的产能已经售罄至未来一年半到两年。"定制版与标准版之间的产能分配，将给供应规划带来新的不确定性。

Q&A

Q1：定制HBM（cHBM）和标准HBM有什么区别？

A：标准HBM的底层逻辑芯片由存储厂商统一设计制造，而定制HBM允许超算中心或设计公司将底层逻辑芯片替换为针对特定工作负载优化的定制版本。核心变化是内存控制器从主芯片迁移至底层逻辑芯片，并可替换为更紧凑的芯片间互联接口，从而为主芯片释放更多计算面积，提升整体效率。

Q2：定制HBM主要面向哪些客户？普通企业能用吗？

A：目前定制HBM主要面向超算中心（大型云服务商），原因是他们有足够的资金、工作负载类型相对单一且对标准化进程的等待成本极高。普通企业客户目前也开始评估构建自己XPU的可能性，但相关讨论仍处于早期阶段，短期内定制HBM仍是超算中心的专属能力。

Q3：定制HBM的设计和制造由谁负责？

A：没有统一答案，每个项目都是一次独立协商。设计通常由超算中心自身或Marvell这类专业设计公司承担，存储厂商因资源有限难以大规模承接定制设计。制造由逻辑代工厂完成，封装责任方则由项目协议决定，可能是存储厂商、代工厂或专业封装厂，台积电与华邦电子的合作就是其中一种模式。