网易首页 > 网易号 > 正文 申请入驻

SK海力士探索H3存储:发挥HBM、HBF各自优势,优化推理能效

0
分享至

IT之家 2 月 12 日消息,SK 海力士在一篇发布于本月 4 日的论文中提出了 H3 混合存储架构,其混合配置 HBM 高带宽内存与 HBF 高带宽闪存,充分发挥两种介质各自的优势而避免其短板。

SK 海力士在论文中表示,HBF 与 HBM 相比,带宽相当、容量更大、访问延迟更长、写入耐久更差、功耗更高,因此 H3 将 HBF 作为 HBM 的“二级扩展”,HBF 存储只读数据、HBM 则负责其余数据。

▲ 简略手绘概念图,H3 即 HBM+HBF 的整体

具体在结构方面,H3 上 GPU 与 HBM 的 Base Die 通过中介层互联,HBM Base Die 内置了 HBM 控制器和与 HBF 系统配套的“延迟隐藏缓冲”,HBM Base Die 再通过中介层与 HBF Base Die 连接,后者则包含 HBF 堆栈的控制器。

这一设计使得 H3 能存储大量只读数据,适合 LLM 推理工作负载环境,特别是那些采用共享预计算键值缓存的用例。仿真测试结果表明,相较于仅使用 HBM 的传统系统,配备 H3 的 GPU 单位功耗的吞吐量提高了 2.69 倍,显示出该架构在处理具有海量只读数据的 LLM 推理方面的成本效益。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
越来越多年轻人卧室不买床了?看了上海人做法,真高级!

越来越多年轻人卧室不买床了?看了上海人做法,真高级!

绘本家居
2026-11-22 10:59:21
四川一卤肉饭大叔闭店前给学生们写信:不要删叔叔,叔叔看你们顺利毕业,幸福过一生,我会偷偷点赞

四川一卤肉饭大叔闭店前给学生们写信:不要删叔叔,叔叔看你们顺利毕业,幸福过一生,我会偷偷点赞

环球网资讯
2026-11-22 15:59:07
国内油价,有望再下调!

国内油价,有望再下调!

新浪财经
2026-11-22 15:12:26
波兰和丹麦等地接连发生一系列“严重事件”,法国总统马克龙谴责俄罗斯称俄方相关行动是“不负责任的赌博,只会让俄罗斯更加孤立”

波兰和丹麦等地接连发生一系列“严重事件”,法国总统马克龙谴责俄罗斯称俄方相关行动是“不负责任的赌博,只会让俄罗斯更加孤立”

扬子晚报
2026-11-21 17:42:16
全面战争五年来,乌克兰无人机可能首次袭击俄罗斯飞地加里宁格勒

全面战争五年来,乌克兰无人机可能首次袭击俄罗斯飞地加里宁格勒

山河路口
2026-11-22 14:09:18
韩路回应被Tim超越:承认差距,但不存在无力感

韩路回应被Tim超越:承认差距,但不存在无力感

阿废冷眼观察所
2026-11-21 11:56:53
我刚被辞退,妻子就提出离婚,儿子听完笑着说:爸,答应她!

我刚被辞退,妻子就提出离婚,儿子听完笑着说:爸,答应她!

笑谈文史
2026-11-22 21:02:13
特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光;被征用的总统套房和主席套房位于高层,面积分别为232㎡、389㎡;目前酒店已正常营业

特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光;被征用的总统套房和主席套房位于高层,面积分别为232㎡、389㎡;目前酒店已正常营业

空间设计
2026-11-22 11:35:02
山东济阳推进丧俗改革:有村子推行“一日丧”,去世到安葬不超24小时

山东济阳推进丧俗改革:有村子推行“一日丧”,去世到安葬不超24小时

澎湃新闻
2026-11-21 22:20:40
红果短剧有多离谱?套路千篇一律,逻辑全崩,为何还让人上瘾

红果短剧有多离谱?套路千篇一律,逻辑全崩,为何还让人上瘾

浩渺青史
2026-11-20 01:27:26
原来梁文锋很早就开始做准备了:DeepSeek成功避开英伟达垄断风险

原来梁文锋很早就开始做准备了:DeepSeek成功避开英伟达垄断风险

互联鱼
2026-11-21 00:10:08
2004年,日本,43岁高市早苗的婚礼时刻

2004年,日本,43岁高市早苗的婚礼时刻

娱你同欢
2026-11-19 21:51:16
油车销量已经够吓人了,更可怕的是:价格失控的情况下,仍在继续

油车销量已经够吓人了,更可怕的是:价格失控的情况下,仍在继续

白米饭怎么吃
2026-11-22 14:00:48
广东多地将有大雨!新冷空气明起到货,气温最高再降5℃

广东多地将有大雨!新冷空气明起到货,气温最高再降5℃

城事特搜
2026-11-22 19:14:42
山姆上架的这款新产品,引爆话题!第一批抢到的人已经有后悔的了……能退款吗?多方回应:有条件退款

山姆上架的这款新产品,引爆话题!第一批抢到的人已经有后悔的了……能退款吗?多方回应:有条件退款

江西晨报
2026-11-21 16:41:16
涉嫌性侵女童,托马斯再度被捕,称儿子“设局陷害”

涉嫌性侵女童,托马斯再度被捕,称儿子“设局陷害”

中国新闻周刊
2026-11-21 18:03:26
美股周末链上交易:AI股集体反弹,英伟达较周五收盘价高约4%

美股周末链上交易:AI股集体反弹,英伟达较周五收盘价高约4%

北美商业电讯
2026-11-22 14:04:07
“中国服务”迈上新台阶——中国经济三季报亮点解析

“中国服务”迈上新台阶——中国经济三季报亮点解析

中国经济网
2026-11-22 07:21:02
丹麦驱逐俄罗斯外交官!特朗普发图“我的朋友”,俄罗斯人“有福了”

丹麦驱逐俄罗斯外交官!特朗普发图“我的朋友”,俄罗斯人“有福了”

鹰眼Defence
2026-11-22 16:50:11
什么是黎曼猜想?为什么它的解决如此意义重大?

什么是黎曼猜想?为什么它的解决如此意义重大?

林子说事
2026-11-22 03:14:16
2026-11-22 22:28:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380821文章数 607748关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

百万粉丝主播被指私闯他人果园直播糟蹋苹果 警方回应

头条要闻

百万粉丝主播被指私闯他人果园直播糟蹋苹果 警方回应

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨颖姐弟烧香被偶遇,清秀少年变粗犷大叔

财经要闻

沪深交易所、中国结算推出一揽子降费措施

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

本地
旅游
家居
数码
公开课

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

旅游要闻

山西临汾洪洞:一树藏千年文脉,一域系万家根魂

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

消费电子内卷下的封装破局:板级封装为音频芯片按下小型化加速键

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版