DRAM危机，短期无解

公众号记得加星标⭐️，第一时间看推送不会错过。

如果感觉如今科技领域的一切都与人工智能息息相关，那是因为事实的确如此。而计算机内存市场更是如此。用于为人工智能数据中心中的GPU和其他加速器供电的DRAM内存需求巨大，利润丰厚，以至于挤占了其他用途的内存供应，导致价格飙升。据Counterpoint Research的数据显示，本季度DRAM价格已上涨80%至90%。

最大的人工智能硬件公司表示，他们已经确保了芯片供应到 2028 年，但这让其他所有人——个人电脑制造商、消费电子产品制造商以及其他所有需要临时存储十亿比特数据的设备制造商——都不得不争先恐后地应对供应短缺和价格上涨的问题。

电子行业是如何陷入如今这般困境的？更重要的是，它又该如何摆脱困境？IEEE Spectrum采访了经济学家和存储器专家，请他们对此进行解释。他们认为，如今的局面是 DRAM 行业历史上长期存在的繁荣与衰退周期，以及规模空前的 AI 硬件基础设施建设相互碰撞的结果。而且，除非 AI 领域出现重大崩盘，否则新增产能和新技术需要数年时间才能使供应与需求相匹配。即便如此，价格也可能依然居高不下。

要了解事情的来龙去脉，你需要知道造成供需波动的主要原因——高带宽内存（HBM）。

什么是 HBM？

HBM是DRAM行业试图利用3D芯片封装技术来减缓摩尔定律发展速度的尝试。每个HBM芯片由多达12个超薄DRAM芯片（称为“芯片”）组成。每个芯片包含许多称为硅通孔（TSV）的垂直连接。这些芯片彼此堆叠，并通过排列在TSV上的微型焊球阵列连接。这个DRAM塔——实际上，它的厚度约为750微米，与其说是塔，不如说更像一座粗犷的办公楼——堆叠在称为基座芯片的芯片之上，基座芯片负责在内存芯片和处理器之间传输数据。

这项复杂的技术被安装在距离GPU或其他AI加速器仅一毫米的范围内，并通过多达2048个微米级的连接与之相连。HBM（高显存显存）安装在处理器的两侧，GPU和显存则封装成一个整体。

这种与GPU紧密集成、高度互联的设计理念旨在突破所谓的“内存墙” 。内存墙指的是将运行大型语言模型所需的每秒TB级数据导入GPU所面临的能量和时间瓶颈。内存带宽是限制语言模型运行速度的关键因素。

HBM 技术已经存在超过 10 年了，DRAM 制造商一直在努力提升其性能。

随着人工智能模型规模的增长，HBM 对 GPU 的重要性也日益凸显。但这同时也带来了高昂的成本。据 SemiAnalysis 估计 ，HBM 的成本通常是其他类型内存的三倍，并且占 GPU 总成本的 50% 甚至更多。

内存芯片短缺的根源

内存和存储行业的观察人士一致认为，DRAM 行业周期性极强，既有巨大的繁荣期，也有毁灭性的衰退期。存储和内存专家、 Coughlin Associates总裁Thomas Coughlin解释说，由于新建晶圆厂的成本高达 150 亿美元甚至更多，企业极不愿扩张，可能只有在繁荣时期才有资金进行扩张。但建设这样一座晶圆厂并使其投入运营可能需要 18 个月或更长时间，这实际上意味着新增产能的到来远远晚于最初的市场需求高峰期，导致市场供过于求，价格下跌。

科夫林表示，如今这轮价格周期的根源可以追溯到新冠疫情期间引发的芯片供应恐慌。他指出，为了避免供应链中断并支持向远程办公的快速转型，超大规模数据中心巨头——例如亚马逊、谷歌和微软——大量购入内存和存储设备，推高了价格。

但随后供应趋于稳定，数据中心扩张在2022年放缓，导致内存和存储设备价格暴跌。科夫林表示，这场衰退持续到2023年，甚至导致三星等大型内存和存储设备公司减产50%，以试图防止价格跌破制造成本。这是一种罕见且相当无奈的举措，因为企业通常需要满负荷运转才能收回成本。

Coughlin表示，在2023年末开始复苏之后，“所有存储器和存储公司都非常谨慎地对待再次扩大产能的问题”。“因此，2024年和2025年的大部分时间里，几乎没有对新的产能进行投资。”

人工智能数据中心蓬勃发展

新投资的匮乏与新建数据中心需求的激增形成了鲜明对比。据数据中心地图（Data Center Map）的数据显示，目前全球有近2000个新建数据中心正在规划或建设中。如果这些数据中心全部建成，全球数据中心供应量将增长20%，而目前全球数据中心数量约为9000个。

如果目前的建设速度持续下去，麦肯锡预测，到2030年，企业将在数据中心建设上投入7万亿美元，其中大部分——5.2万亿美元——将用于人工智能数据中心。该公司预测，在这5.2万亿美元中，33亿美元将用于服务器、数据存储和网络设备。

迄今为止，人工智能数据中心热潮的最大受益者无疑是GPU制造商英伟达。其数据中心业务的收入从2019年第四季度的不足10亿美元飙升至2025年10月结束的季度的510亿美元。在此期间，其服务器GPU不仅需要越来越多的DRAM，而且需要越来越多的DRAM芯片。最近发布的B300使用了8个HBM芯片，每个芯片由12个DRAM芯片堆叠而成。竞争对手对HBM的使用也与英伟达的做法大体相同。例如，AMD的MI350 GPU也使用了8个或12个die的芯片。

由于需求旺盛，HBM在DRAM制造商的收入中所占比例越来越高。美光（Micron，排在SK海力士和三星之后的第三大DRAM生产商）报告称，HBM和其他云相关内存产品在其DRAM收入中的占比将从2023年的17%增长到2025年的近50%。

美光科技首席执行官桑杰·梅赫罗特拉 (Sanjay Mehrotra) 在去年12月向分析师表示，该公司预测HBM市场总规模将从2025年的350亿美元增长到2028年的1000亿美元，这一数字将超过2024年整个DRAM市场的规模。这一数字比美光此前的预期提前了两年达到。他表示，在可预见的未来，整个行业的需求将“大幅超过供应”。

未来DRAM供应和技术

Mkecon Insights的经济学家Mina Kim解释说：“解决DRAM供应问题有两种方法：一是创新，二是建设更多晶圆厂。随着DRAM规模化变得越来越困难，业界转向了先进封装技术……而这实际上就是使用更多的DRAM。”

美光、三星和SK海力士三家公司占据了内存和存储市场的大部分份额，而且这三家公司都在筹建新的晶圆厂和生产设施。然而，这些举措不太可能对降低价格产生实质性影响。

美光正在新加坡建设一座HBM晶圆厂，预计将于2027年投产。同时，该公司正在对其从台湾PSMC收购的一座晶圆厂进行改造，该晶圆厂也将于2027年下半年投产。上个月，美光在纽约州奥农达加县破土动工兴建一座DRAM晶圆厂，该厂预计要到2030年才能全面投产。

三星计划于 2028 年在韩国平泽市的新工厂开始生产。

SK 海力士正在印第安纳州西拉法叶建设HBM 和封装工厂，预计将于 2028 年底开始投产；其在清州建设的 HBM 工厂预计将于 2027 年完工。

英特尔首席执行官陈立武上周在思科人工智能峰会上谈到他对DRAM市场的看法时表示：“到2028年之前，情况都不会有所好转。”

由于这些扩建项目在未来几年内无法发挥作用，因此需要其他因素来增加供应。“缓解供应紧张的途径包括现有DRAM领先企业逐步扩大产能、先进封装工艺的良率提升以及供应链的多元化，”全球电子协会（前身为IPC）首席经济学家肖恩·杜布拉瓦克表示。“新建晶圆厂会起到一定作用，但更快速的提升将来自工艺学习、更高的DRAM堆叠效率以及存储器供应商和AI芯片设计商之间更紧密的合作。”

那么，一旦这些新工厂投产，价格就会下降吗？别抱太大希望。“一般来说，经济学家发现价格下降的速度远比上涨的速度慢得多，而且下降的幅度也小得多。如今DRAM芯片不太可能成为这一普遍规律的例外，尤其是在计算需求如此旺盛的情况下，”金说道。

与此同时，一些正在研发中的技术有望使HBM成为更大的硅片消耗者。HBM4标准可以容纳16个堆叠的DRAM芯片，而目前的芯片仅使用12个芯片。实现16个芯片的堆叠高度很大程度上取决于芯片堆叠技术。如何有效地将热量传导至由硅、焊料和支撑材料组成的HBM“层叠结构”是限制芯片堆叠高度以及重新定位封装内HBM以获得更高带宽的关键因素。

SK海力士声称，其名为先进MR-MUF（回流焊注塑成型底部填充）的制造工艺能够带来导热优势。展望未来，一种名为混合键合的芯片堆叠技术有望通过将芯片间的垂直距离几乎降至零来提升导热性能。2024年，三星的研究人员证明，他们能够利用混合键合技术制造出16层高的芯片堆叠，并表示20层芯片堆叠并非遥不可及。

https://spectrum.ieee.org/dram-shortage

（来源：编译自IEEE）

*免责声明：本文由作者原创。文章内容系作者个人观点，半导体行业观察转载仅为了传达一种不同的观点，不代表半导体行业观察对该观点赞同或支持，如果有任何异议，欢迎联系半导体行业观察。

今天是《半导体行业观察》为您分享的第4315期内容，欢迎关注。

加星标⭐️第一时间看推送

求推荐