丁奇：2024年AI行业投资指南

中信证券云基础设施首席分析师 丁奇，资料图。本文为丁奇在新经济学家智库研讨会的发言节选。‍

丁奇：2024年AI行业投资指南

60s速读：

AI技术的快速发展推动了算力需求的指数级增长，大型语言模型的参数量预计将达到千亿甚至万亿级别。

NVIDIA、AMD和谷歌TPU在算力芯片领域展开激烈竞争，NVIDIA的GPU产品在AI市场占据主导，AMD和谷歌TPU则在寻求突破。

HBM存储技术预计将从HBM2e升级到HBM3e，提升存储带宽和降低功耗，以支持AI模型的增长需求。

服务器制造商推出更高性能产品以满足AI模型对处理能力和内存的不断增长需求。

光模块制造商研发新一代产品以满足AI模型对更高带宽和更低延迟的需求。

AI技术在图像生成、视频制作、教育和翻译等领域的应用预计将带来显著变革。算力国产替代、华为产业链和传媒行业对AI技术的迫切需求为投资者提供了新的投资机会。

正文：

2024年算力市场展望： 算力需求指数级增长

随着AI技术的飞速发展，算力需求正以指数级速度增长，这一增长速度远超摩尔定律。

2024年，预计大型语言模型尤其是千亿参数甚至万亿参数的模型将成为市场的主导力量。多模态技术的兴起，即模型能够同时处理多种类型的数据（如文本、图像、声音等），将进一步推动算力需求的增长。

存储技术的革新：HBM2e将升级到HBM3e

2024年，存储技术将从HBM2e升级到HBM3e，这将显著提升存储容量和速度，以支持算力的持续迭代和升级。

这不仅将提高数据处理的速度，还将为新的应用场景和技术创新打开大门。随着HBM3e技术的成熟和广泛应用，我们有理由相信，它将在未来几年内成为推动AI和数据密集型应用发展的关键技术之一。

芯片巨头的竞争格局：NVIDIA将占主导

在算力芯片领域，NVIDIA、AMD和谷歌TPU的竞争日益激烈。NVIDIA以其GPU产品在AI训练和推理领域占据主导地位，预计2024年的GPU营收将达到800亿美元。

AMD通过MI300在大模型软件优化上取得显著进展，市场份额虽小，但积极扩大AI领域存在感。谷歌TPU专注于专用AI芯片设计，以低功耗和高效率为目标，为AI应用提供另一种选择。

NVIDIA 2024年营收的wind一致预期已经将近600亿美金。AMD推出新产品MI300并表现出雄心，公司预计2024年出货量会达到30-40万颗，会努力建立自己的生态和应用循环。

谷歌专注于专用AI芯片设计，瞄准大模型方向，注重专用性，满足单一应用需求。专用AI芯片可能是大模型应用的更好解决方案。谷歌的专用设计可满足大模型的特定需求，提高性能和效率。随着技术进步和应用发展，大模型领域将更稳定和成熟。

AI芯片目前不是大模型最优解，但从长期角度看可能是一个理想选择。谷歌选择开发专用AI芯片，特别是TPU，持续迭代，每年都有所改进。国内厂商寒武纪和华为等可借鉴谷歌路线，推出面向大模型优化的专用芯片，以低功耗竞争并切分市场。

服务器市场：AI服务器市场规模将继续增长

服务器市场规模预计在2024年将继续增长，尤其是AI服务器市场，因为AI模型的计算需求不断增加。液冷技术将在2024年得到广泛应用，以解决高功耗和散热问题，提高服务器的稳定性和效率。

2023年，服务器市场表现强劲，与芯片市场形成鲜明对比。在全球范围内，包括美国超威、中国台湾英业达、工业富联和浪潮等公司在资本市场表现优异。随着技术进步和应用发展，预计该领域将更加稳定和成熟。咨询机构如The Next Platform预测，AI服务器在2023年的市场规模将达到400亿美金，实际可能更高。NVIDIA芯片支撑的服务器市场潜力巨大。

然而，服务器市场整体处于景气阶段。AI的出现使服务器市场更加集中。大型模型和大集群需要大量资金投入，提高了进入门槛。头部公司在AI浪潮中受益更多，市场集中度高。

AI服务器的毛利率比通用服务器更好，厂商之间的竞争相对没有那么激烈，这是一个值得持续关注的赛道。

2024年，预计液冷技术将在服务器领域得到大规模应用。当前千卡集群散热功耗大，故障率高，液冷成为解决方案。根据赛迪顾问数据，预计到2024年，液冷市场可能达到千亿级别。到2025年，市场规模可能进一步扩大到1300亿的水平。

主流液冷方式是以冷板为主，通过金属板和液体带走热量。浸没式液冷将服务器浸泡在液体中，但目前应用较少。随着功耗增加和散热要求提高，浸没式液冷散热效率更高，未来占比可能提升。

通信网络与光模块的演进

2024年光模块将继续迭代，提高速率并降低功耗，以支持更高的数据传输需求。网络层面将采用内存直接互联（RDMA）方式降低时延，以满足AI时代对低延迟的要求。

光模块、通信网络和AI需求形成当前强势板块。追求高HBM和数据吞吐量，减少计算资源浪费，提高传输效率。随着计算能力提升，各层级间吞吐量增加，涉及存储、板卡和网络升级。

AI网络需高带宽和低延迟。单卡能力和多卡效率重要。高效集群能显著提高加速比。为满足高吞吐量需求，需强化通信网络建设。

光模块吞吐率上升，但功耗和故障率问题随之而来。今年趋势是通过降低功耗提高光模块可靠性。光模块与交换芯片间损耗需减少，提升交换芯片话语权。

为满足AI时代低延迟需求，数据传输方式变革。存在多种硬件解决方案，如基于NVIDIA Mellox的方案和以太网方案。

算力方面将有大的变化，首先是芯片迭代，其次是服务器和存储升级。光模块持续迭代，高速率和低功耗为主要方向。网络层面采用RDMA方式降低延迟。市场上存在两种路线并存的局面。

应用领域：AI图文视频公司会率先崛起

AI应用这个领域的关注度非常高，大家都在关注什么样的公司和应用能够首先跑出来。

AI绘图和视频生成是率先崛起的应用领域，因其对容错率要求较低，能大幅提升效率。后续办公、医疗、教育等严谨性要求高、容错率低的领域会逐渐跟进。AI画图等高容错、效率提升数十倍的领域易于率先应用。其他机会包括AI助力教育领域英语口语对话和翻译等。AI应用将从易入难，我们会关注图文视频等领域表现优异的公司。

未来，人力密集型行业如客服、创意设计和编程等领域将首先受益于AI技术，因为这些领域可以通过AI自动化来显著降低人力成本。

行业趋势与投资机会

2024年，AI技术将在多个领域展现出其增长潜力，特别是在游戏、教育、医疗等行业。在游戏领域，AI技术的应用将提升游戏体验，通过自动化和智能化的方式，如AI生成的游戏角色和环境，以及智能游戏设计工具，来创造更加丰富和沉浸式的游戏体验。教育行业也将受益于AI，通过个性化学习平台和智能教学助手，提高教育质量和效率。医疗领域中，AI将在疾病诊断、患者监护和药物研发等方面发挥重要作用，提高医疗服务的精准度和响应速度。

自动驾驶技术的快速发展将推动相关产业链的繁荣。激光雷达、毫米波雷达和算法公司将因其在自动驾驶系统中的应用而获得显著增长。这些技术对于实现车辆的自主导航和安全行驶至关重要，随着自动驾驶技术的成熟和法规的完善，相关公司将迎来更多的市场需求。

传媒行业将经历由AI技术带来的变革。AI在内容创作、编辑和分发中的应用将大幅降低制作成本，提高内容生产的效率。游戏行业的原画制作和直播领域的虚拟主播将显著受益于AI技术，这些技术的应用将改变传统的内容生产和消费模式。

随着AI技术的广泛应用，投资机会也随之增多。算力国产替代成为趋势，华为和中科院相关产业链中的公司将受到投资者的青睐，特别是在服务器和存储技术领域。这些公司在提供高性能计算解决方案和存储解决方案方面具有潜力，随着国内对自主可控技术的需求增加，这些公司的市场前景看好。

华为产业链中的服务器制造商也将是投资的热点。随着华为在全球市场的扩张，为其提供服务器的厂商将获得稳定的订单和增长机会。这些公司在满足华为日益增长的服务器需求的同时，也可能通过技术创新和市场拓展来提升自身的竞争力。

传媒行业受到AI技术影响的公司同样值得关注。那些能够利用AI技术降低内容制作成本、提升内容质量和分发效率的公司，将在未来市场中占据优势。随着AI技术的不断进步，这些公司有望在内容创作、编辑和分发等领域实现新的突破。■

入群即可参加全年至少12场精彩闭门研讨