AI芯片利用率低？其实是存储系统的问题

大多数技术领导者在谈论如何构建高性能、成本效益的AI应用时，会详细讨论大语言模型、数据集和专用芯片。这些确实很重要，但他们往往忽视了技术栈中一个不那么引人注目但却至关重要的部分：存储。存储是最大化AI系统性能和投资回报率的关键。

AI系统消耗和产生大量数据，设计不当的存储架构会显著增加成本。根据Meta和斯坦福大学的白皮书，存储可能消耗深度学习模型训练所需功耗的三分之一。对于规划AI部署的CIO和工程领导者来说，理解存储的作用以及如何优化存储对确保项目成功至关重要。

AI加速器，特别是GPU，是现代数据中心中最昂贵和稀缺的资源之一。当GPU因等待数据而闲置时，您的组织实际上是在烧钱。错误的存储配置会大大降低GPU的有效吞吐量，将高性能计算变成昂贵的等待游戏。

存储瓶颈如何破坏AI芯片性能

根本问题在于GPU和TPU（张量处理单元）处理数据的速度远快于传统存储系统提供数据的速度。这种速度不匹配会产生一连串性能问题，直接影响您的计算投资。当存储系统无法跟上加速器的需求时，GPU会花费宝贵的周期等待而不是处理数据。

这种影响贯穿整个AI管道。在训练过程中，加速器可能会闲置等待来自多TB数据集的下一批数据。数据准备工作负载会产生数百万次随机I/O操作，这些操作会累积成显著延迟。检查点操作需要吸收大量写入突发而不中断正在进行的训练。

每个瓶颈都会将高效的AI开发变成昂贵的等待游戏。

最大化加速器效率的存储架构

不同类型的AI工作负载需要不同的存储方法来保持加速器忙碌。关键是将利用模式与不同的存储需求相匹配，而不是部署一刀切的存储系统。

例如，数据密集型训练工作负载受益于包含分层命名空间功能的对象存储。这为大型数据集提供了所需的大规模容量，同时维持了AI框架期望的类文件访问模式。使用对象存储可以控制成本，而分层命名空间有助于确保GPU在长期训练周期中获得一致的数据源。

对延迟要求严格的应用，如实时推理，极大受益于Lustre等并行文件系统，这些系统提供了在毫秒级响应对GPU响应性至关重要时所需的超低延迟。这些系统防止昂贵的计算资源在交互式模型开发或生产服务期间等待存储。

横向扩展AI基础设施越来越依赖新兴连接标准，如用于纵向扩展架构的超加速器链路（UAL）和用于横向扩展部署的超以太网。这些技术使存储系统能够与计算资源更紧密地集成，减少可能在大规模GPU集群中产生瓶颈的网络限制。

智能存储管理：缺失的环节

除了选择正确的存储架构外，智能存储管理系统还能主动优化GPU利用率。这意味着实施不仅存储数据，还主动管理数据以最大化加速器效率的存储系统。

实时优化涉及监控GPU和TPU活动模式的系统，并根据实际计算需求自动调整数据放置和缓存。当这些系统检测到某些数据集被训练作业频繁访问时，它们可以主动将该数据移动到更靠近计算资源的位置，消除导致加速器闲置的延迟。

在管理跨多个AI项目的PB级数据集时，生命周期管理变得至关重要。自动分层策略可以将完成的训练数据集移动到成本较低的存储，同时将活跃数据集保持在高性能层上。版本跟踪确保团队能够快速访问模型迭代所需的确切数据集版本，而无需减慢开发周期的人工干预。

这种智能方法将存储从被动存储库转变为优化加速器利用率的主动参与者。

存储在AI成功中的关键作用

即使是最好的AI模型和最强大的AI芯片也无法克服糟糕存储架构的限制。将存储视为事后考虑的企业会发现其计算资源的运行远低于潜力，延长的训练时间会延迟模型部署，基础设施成本会超出预期。

在大规模部署AI的竞赛中，存储系统可能不会成为头条新闻，但它们确实能帮助决定谁会获胜。

Q&A

Q1：为什么GPU会因为存储问题而闲置？

A：GPU和TPU处理数据的速度远快于传统存储系统提供数据的速度。这种速度不匹配导致GPU花费宝贵的周期等待数据而不是处理数据，特别是在训练过程中等待来自多TB数据集的下一批数据时。

Q2：不同类型的AI工作负载需要什么样的存储方案？

A：数据密集型训练工作负载适合使用包含分层命名空间功能的对象存储，既能提供大规模容量又能控制成本。而对延迟要求严格的实时推理应用则需要Lustre等并行文件系统，提供超低延迟响应。

Q3：智能存储管理系统如何提高AI芯片利用率？

A：智能存储管理系统能监控GPU和TPU活动模式，自动调整数据放置和缓存。当检测到数据集被频繁访问时，主动将数据移动到更靠近计算资源的位置，消除导致加速器闲置的延迟，还能进行自动分层和版本管理。