北京
分享至
AI数据中心里最紧俏的东西，正在从算力变成内存。超大规模云厂商开始重新思考一件事：内存到底该怎么分配。
一种叫"可组合内存"的方案浮出水面。它把内存容量从单台服务器里抽出来，汇成一个池子，再按需分配给具体的工作负载。换句话说，内存不再焊死在某台机器上，而是跟着任务走。
为什么现在盯上内存
压力来自AI工厂。当模型规模往上走，单机内存很快见底，而每台服务器各自为战的内存配置，利用率并不理想。可组合内存被看作应对这种挤压最务实的答案之一。
微软在这一方向上下注。它的逻辑不难理解：与其让每台机器囤着用不满的内存，不如让容量流动起来，谁需要就给谁。
内存跟着负载走意味着什么
对运维者来说，这改变的是资源调度的颗粒度。内存从"固定资产"变成"可调度资源"，闲置容量可以被重新指派给正在跑的任务。
在AI供给持续收紧的背景下，这种思路的价值在于把已有硬件的潜力再榨一遍，而不是单纯靠堆新机器。至于它能缓解多少缺口，取决于池化和按需分配在实际负载下的表现。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
