网易首页 > 网易号 > 正文 申请入驻

HBM价格暴涨之际,华为开源AI推理加速关键技术

0
分享至

(文/观察者网 吕栋 编辑/张广凯)

高带宽内存(HBM)的价格又要大涨了。

当地时间11月5日,熟悉韩国存储巨头SK海力士的人士确认,该公司明年向英伟达供应的HBM4单价约为560美元(约合人民币3991元),比目前供应的HBM3E(约合370美元)价格高出50%以上。

高端的HBM这么贵,并且中国还遭受出口管制,有没有办法减轻对这种产品的依赖?

华为刚开源的技术或许能成为其中一个解决之道。11月5日,华为宣布针对AI推理加速的关键技术——UCM(Unified Cache Manager)推理记忆数据管理正式开源。

这种技术的关键之处在于,可以根据记忆热度,在不同存储介质中分级缓存数据。比如在HBM中存储“实时记忆数据”,在DRAM中存储“短期记忆数据”,在SSD中存储“长期记忆数据与外部知识”。

这么做的好处是,可以分级管理推理过程中产生的KV Cache记忆数据(优化计算效率、减少重复运算),充分利用不同存储介质的特性,提高HBM的利用率,还能平衡成本。

华为透露,UCM架构包含了多个协同工作的关键功能模块,比如UCM稀疏化模块(UcmSparseBase)、稀疏化KV管理器(SparseKVManager)、KV Cache存储组件 (UcmKVStoreBase)和UCM连接器(UC Connector)等。基于该架构,UCM目前具备四大关键能力:稀疏注意力、前缀缓存、预填充卸载和异构PD解耦,可实现首Token时延最高降低90%,系统吞吐最大提升22倍,并达到10倍级上下文窗口扩展。

图源:华为数据存储

配合UCM技术,华为今年8月曾经推出多款高性能AI SSD。比如,Huawei OceanDisk EX 560的随机写性能最高可达1500K IOPS,适用于AI一体机训练场景;Huawei OceanDisk LC 560最大单盘物理容量245TB,读带宽可达14.7GB/s,适用于集群训练场景等。

“AI SSD聚焦提升训练效率和推理体验, 存储器领域不会仅有HBM一枝独秀,有望形成百花齐放的竞争态势。华为计划与一体机厂商合作,改变现有局面,为AI存储器市场注入新活力,带来更多可能性。”有知情人士对观察者网说道。

当下,国外厂商在HBM领域仍然拥有技术和价格的主导权。Counterpoint Research的报告显示,SK海力士在二季度的全球HBM市场上以62%的出货量占据首位,美光科技(21%)和三星电子(17%)紧随其后。按照SK海力士的产品计划表,HBM4已于9月完成开发并投入量产,将于今年第四季度开始出货,并计划于明年全面扩大销售。

HBM4是HBM第六代产品,其2048位接口和最高16层的堆叠将带来带宽和容量的巨大提升,带宽目标超过2 TB/s,容量可达64GB。业界特别是三星和SK海力士正在探索将HBM堆栈更直接地连接到处理器(如GPU)芯片上,甚至研究在中间层使用光子技术以追求极致的传输速度和能效。这种深度融合可能会模糊逻辑芯片和存储芯片之间的界限,让两者更紧密地集成在一起。

在出口管制和技术追赶下,中国企业难以获得充足的高端HBM。而UCM作为一种记忆数据分级管理技术,开源的关键意义,在于能让更多开发者和企业通过记忆数据分级管理,降低对高端HBM的依赖。但它不是为了取代,也无法取代HBM,而更像是华为的另一种“系统补单点”,把HBM的优势发挥在更合适的地方,实现降本增效。

除了推出UCM,华为在今年的全连接大会上还公布了自研HBM。

华为轮值董事长徐直军当时表示,华为自研了两种HBM,分别是:HiBL 1.0和HiZQ 2.0。不同的自研HBM与Ascend 950 Die合封,分别构成芯片Ascend 950PR:面向Prefill和推荐场景,以及Ascend 950DT:面向Decode和训练场景。其中Ascend 950PR采用了华为自研的低成本HBM,HiBL 1.0,相比高性能、高价格的HBM3e/4e,能够大大降低推理Prefill阶段和推荐业务的投资。

本文系观察者网独家稿件,未经授权,不得转载。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
又轰下43+9+3!抱歉科比:你保持10年的纪录被打破了

又轰下43+9+3!抱歉科比:你保持10年的纪录被打破了

篮球大视野
2026-11-16 15:03:26
高盛对2027年中国经济判断:中国房地产最坏时刻,可能已经过去了

高盛对2027年中国经济判断:中国房地产最坏时刻,可能已经过去了

城事堂
2026-11-17 09:03:52
国际油价16日显著下跌

国际油价16日显著下跌

新华社
2026-11-17 04:21:03
王力宏同款羽绒服仅售16件,网友吐槽海报上的穿搭造型

王力宏同款羽绒服仅售16件,网友吐槽海报上的穿搭造型

韩小娱
2026-11-17 07:08:03
罕见画面:我国沙漠腹地发现一棵巨树,高16米,七八个成年人才能合抱,依靠不定期的极端洪水,以及渗入沙层的地下水顽强生存

罕见画面:我国沙漠腹地发现一棵巨树,高16米,七八个成年人才能合抱,依靠不定期的极端洪水,以及渗入沙层的地下水顽强生存

极目新闻
2026-11-15 20:14:15
中方两小时“送客令”:高市早苗不收回那句话,日本连装糊涂的资格都没有

中方两小时“送客令”:高市早苗不收回那句话,日本连装糊涂的资格都没有

浯江孤舟
2026-08-31 10:07:56
全网群嘲的“妈妈有50w存款”事件,撕开了多少家庭最大的悲哀

全网群嘲的“妈妈有50w存款”事件,撕开了多少家庭最大的悲哀

凡知
2026-11-16 08:32:54
为啥某多多的商品很便宜?网友:做电商的都知道,其实货都是一样的

为啥某多多的商品很便宜?网友:做电商的都知道,其实货都是一样的

带你感受人间冷暖
2026-11-16 10:34:09
派出所、民政部门联合入户排查,上门主要核查这五项内容

派出所、民政部门联合入户排查,上门主要核查这五项内容

江启
2026-11-17 10:57:26
张怡宁参加婚礼哭了,64岁丈夫一直咳嗽,看着很老,还是袁立前任

张怡宁参加婚礼哭了,64岁丈夫一直咳嗽,看着很老,还是袁立前任

一娱三分地
2025-06-11 20:53:37
太阳7人上双击溃掘金:约基奇28+15+7+7失误 穆雷28分

太阳7人上双击溃掘金:约基奇28+15+7+7失误 穆雷28分

醉卧浮生
2026-11-17 12:27:28
穆里尼奥彻底看走眼!皇马头号水货耻辱崩盘!哈维被他坑惨了

穆里尼奥彻底看走眼!皇马头号水货耻辱崩盘!哈维被他坑惨了

奶盖熊本熊
2026-11-17 08:39:55
波司登高端线首发遇冷:LV设计师请到了,队伍去了山姆抢加拿大鹅

波司登高端线首发遇冷:LV设计师请到了,队伍去了山姆抢加拿大鹅

木禾商业财经
2026-11-17 09:24:56
你抛美债,我抛中债!外资纷纷减持中国债,大量资金流向美国?

你抛美债,我抛中债!外资纷纷减持中国债,大量资金流向美国?

明天见灌装冰块
2026-11-17 09:33:32
特朗普身边人一致决定,28年总统大选之前,先合力把万斯做掉?

特朗普身边人一致决定,28年总统大选之前,先合力把万斯做掉?

军机Nova
2026-11-17 00:22:29
油价大跌!一夜降温,11月17日全国92,95汽油“2连涨、大涨近8.5毛/升”后降下来,11月已降近0.55元/升后,下次11月26日调价“或大降”!

油价大跌!一夜降温,11月17日全国92,95汽油“2连涨、大涨近8.5毛/升”后降下来,11月已降近0.55元/升后,下次11月26日调价“或大降”!

猪友巴巴
2026-11-17 09:18:13
袁大头一共铸造了10亿枚,如今只剩不到1亿,那9亿枚都去哪了?

袁大头一共铸造了10亿枚,如今只剩不到1亿,那9亿枚都去哪了?

文史达观
2026-11-15 22:11:09
油价贵到没人愿意买单了?全球石油开始供过于求,接下来还跌吗?

油价贵到没人愿意买单了?全球石油开始供过于求,接下来还跌吗?

混沌录
2026-11-16 22:46:07
连续开局崩盘,先遭18-0 再遇21-0,勇士的天崩开局到底根源在哪?

连续开局崩盘,先遭18-0 再遇21-0,勇士的天崩开局到底根源在哪?

南海浪花
2026-11-17 11:06:11
扎哈罗娃辟谣:约翰逊自愿喝酒,还要续杯

扎哈罗娃辟谣:约翰逊自愿喝酒,还要续杯

参考消息
2026-11-16 16:04:07
2026-11-17 13:24:49
观察者网 incentive-icons
观察者网
全球视野,中国关怀
157073文章数 1851584关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

女子电梯内遭陌生男搭肩搂抱 拒绝赔偿后被骂"装什么"

头条要闻

女子电梯内遭陌生男搭肩搂抱 拒绝赔偿后被骂"装什么"

体育要闻

从上链接到上领奖台 34岁方博绝非等闲之辈

娱乐要闻

后会友期大瓜:3位女演员被迫换车厢

财经要闻

最新经济数据,释放关键信号

汽车要闻

多面新方盒捷途环游者EV开启预售 9.99万元起

态度原创

艺术
手机
数码
时尚
旅游

艺术要闻

缅怀 | 当代著名油画家尹国良逝世,享年95岁

手机要闻

苹果iOS 27.3 Beta 2发布:iPhone Duo新增外屏人脸解锁

数码要闻

赛睿T1《英雄联盟》战队联名款QcK Cloth XXL鼠标垫预售,后续还有主题键帽

老钱风、静奢风失宠了?“繁荣主义”穿搭突然爆火

旅游要闻

问顶状元楼领取专属“熊猫”奖牌 “登超”巴山大峡谷站第二波福利来啦!

无障碍浏览 进入关怀版