北京
分享至
IT时代网9月2日消息，据媒体报道，美光正在研究高耐久性NAND闪存模块，计划将其部署在距离GPU更近的位置，而非像传统方案那样通过多个协议连接到较远的存储池。
这种产品当前被称为近GPU NAND，可用于处理非低延迟、高带宽工作负载，让GPU直接访问数百GB的NAND存储池，可直接放置在GPU封装内部或PCB上，工作方式类似HBM、GDDR7。与传统TLC或QLC NAND相比，该芯片存储密度更低，重点在于提升I/O速度与带宽。该存储层位于显存和普通存储之间，可充当高速缓冲层，适合运行更大规模的AI大语言模型，落地后LLM推理将不再受显存容量限制。
注：本文综合自IT之家等，文中包含AI辅助创作的内容。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
