福建
《科创板日报》8月4日讯 组建HBF联盟6个月后，SK海力士与闪迪今日宣布，推出高带宽闪存（HBF）的行业首套标准规范，进一步推动HBF标准化工作，以满足AI推理时代的需求。
该技术规范由OCP（开放计算项目）旗下HBF技术工作组负责开发，闪迪和SK海力士作为主要贡献者参与其中。值得注意的是，在标准化推进过程中，谷歌与Tenstorrent也加入了SK海力士与闪迪的HBF联盟，并在技术验证和标准制定方面发挥了重要作用。
该规范为设计AI推理系统和AI加速器的企业及开发者提供了一套通用技术框架，使其能够在需要更大容量的近计算存储以及更高带宽的场景中引入HBF技术，从而提升系统功耗和性能指标，并帮助降低成本。其定义了与HBF技术交互并使用HBF技术的系统接口、电气规范以及其他技术指南，包括基础性能预期、xPU-HBF主机接口、HBF裸片堆叠的可靠性和封装指导，以及针对读写操作的软件用户指南等内容。
现代AI推理系统需要将高带宽存储器部署在靠近计算核心的位置，而随着AI和大模型发展，对靠近计算单元的更大容量存储需求也随之持续增长。
HBF属于下一代存储技术，是介于高带宽内存（HBM）与固态硬盘之间的新型存储层级；其通过类似HBM的封装/互连方式把多个NAND闪存芯片堆叠起来，兼具接近HBM的高速数据传输能力，同时依托NAND闪存技术实现存储容量大幅扩容。
闪迪首席技术官（CTO）Alper Ilkbahar表示：“AI推理正在带来一系列新的存储需求，而HBF技术正是为满足这一需求而设计的。这项规范为系统设计者提供了一条切实可行的路径，使高容量、高带宽存储能够更加靠近计算单元，同时支持更加灵活的系统架构。这是HBF生态系统发展的重要里程碑，也是下一代AI系统提升大规模Token经济效益的重要基础。”
HBF应用优势显著。一方面，成本与容量上，在相同的物理空间内，单个HBF堆栈可提供高达512GB的容量，较HBM提升一个数量级，显著降低系统单位容量成本。另一方面，读取带宽高、能效高：根据闪迪数据显示，首代HBF目标参数包括：16-die堆叠、单堆栈512GB容量，1.6TB/s读取带宽，读取带宽可接近HBM水平，同时由于无需DRAM持续刷新，其静态功耗明显更低。
不过，HBF读取侧寿命约束相对较弱，而写入/擦除寿命是主要限制，更适合承接读多写少、可预取的数据层，如共享KV Cache中的部分历史块、以及部分权重/参数分片等；而时延最敏感、更新最频繁的数据仍应优先由HBM承接。
国信证券认为，在大模型推理和 Agent 智能体全面爆发的场景下，HBF能将数百GB的基础模型权重、海量向量数据库以及不断膨胀的多模态上下文完美承载，极大缓解了长文本、大并发下HBM溢出及频繁向外存调用数据的I/O阻塞。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
