网易首页 > 网易号 > 正文 申请入驻

“存力中国行”探讨AI推理挑战,华为开源UCM技术为破局关键

0
分享至

中国信息通信研究院组织召开的“存力中国行”北京站活动于11月4日举行,吸引了来自中国移动、华为、硅基流动等近20家产业代表齐聚一堂。随着AI产业发展重心从“追求模型能力极限”转向“追求推理体验最优化”,先进存力如何为AI推理“降本增效”,成为全场关注焦点。

“当前,AI推理面临KVCache存储需求升级、多模态数据协同、存算协同带宽不足、负载潮汐性及成本控制等挑战。”中国移动云能力中心项目总师周宇在座谈会上直言。华为数据存储产品线战略与业务发展部总裁王旭东则用三个“不”点明了行业痛点:“管不好”的数据、“喂不饱”的算力和“降不下”的成本。

在此背景下,华为开源的UCM(UnifiedCacheManager)推理记忆数据管理技术被视为破局的关键方案之一。该技术以KVCache多级缓存和推理记忆管理为中心,通过推理框架、算力、存储的三层协同,融合了多类型缓存加速算法工具,可分级管理在推理过程中产生的KVCache记忆数据,有效破解长序列推理效率与成本瓶颈。

据悉,UCM技术已于近日在魔擎社区开源,开源内容包含稀疏注意力、前缀缓存、预填充卸载、异构PD解耦四大关键能力,可使首轮Token时延最高降低90%,系统吞吐最大提升22倍,并达到10倍级上下文窗口扩展,显著提升AI推理性能。同时,其基础框架与工具链已在ModelEngine社区开放,开发者可通过社区获取源代码与技术文档,共同完善技术架构与产业生态。

业界普遍认为,UCM开源超越了单纯的技术共享,能让广大开发者和企业以更低的成本、更便捷的方式,获取业界领先的AI推理加速能力,推动AI推理技术走向规模化、普惠化落地。

编辑 杨娟娟

校对 赵琳

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
总想着成为万众瞩目的女神,没想到成为了一个普通女子

总想着成为万众瞩目的女神,没想到成为了一个普通女子

疾跑的小蜗牛
2026-11-16 20:17:47
1948年叶子龙喊徐向前徐总,毛主席立军规:全军仅三人可称老总

1948年叶子龙喊徐向前徐总,毛主席立军规:全军仅三人可称老总

赫埰足球解说
2026-10-13 12:59:41
快憋疯了,空仓三个月,只为等这致命一击!

快憋疯了,空仓三个月,只为等这致命一击!

星图金融研究院
2026-11-12 01:30:41
这是中国最不要脸的一个群体,无耻之极,世所罕见!

这是中国最不要脸的一个群体,无耻之极,世所罕见!

晓楖科普
2026-11-11 13:09:39
抢在参议院易主前冲刺司法布局,特朗普密集提名保守派法官,却遭多名共和党参议员动用蓝单规则出手抵制

抢在参议院易主前冲刺司法布局,特朗普密集提名保守派法官,却遭多名共和党参议员动用蓝单规则出手抵制

14号观星辰
2026-11-16 19:47:46
西班牙专家曾一语道破中日冲突的根本:他说中日冲突反复爆发,不是因为日本不知道自己打不过中国,而是因为二战有几笔账根本没有算清

西班牙专家曾一语道破中日冲突的根本:他说中日冲突反复爆发,不是因为日本不知道自己打不过中国,而是因为二战有几笔账根本没有算清

扶苏聊历史
2026-11-16 17:41:51
首位来访的国家元首,已经抵达深圳,央视画面中还有5架伊尔-76

首位来访的国家元首,已经抵达深圳,央视画面中还有5架伊尔-76

罗富强说
2026-11-16 16:18:31
郑丽文立大功!“2号人物”透露1事,“内鬼”先服软?赖清德急了

郑丽文立大功!“2号人物”透露1事,“内鬼”先服软?赖清德急了

风雨与阳光
2026-11-16 08:38:23
1979年,翁美玲与男友罗柏前往威尼斯出游,1米58的她穿吊带裙与罗柏牵手漫步,镜头下甜蜜画面却藏着不为人知的结局

1979年,翁美玲与男友罗柏前往威尼斯出游,1米58的她穿吊带裙与罗柏牵手漫步,镜头下甜蜜画面却藏着不为人知的结局

磊子讲史
2026-11-04 15:53:33
“希望4个老人长命百岁”,女子晒3万多退休金,普通人的心却凉了

“希望4个老人长命百岁”,女子晒3万多退休金,普通人的心却凉了

番外行
2026-09-22 16:10:14
研究发现:人每天多吃两个水煮蛋,肝脏的代谢异常风险或会升高

研究发现:人每天多吃两个水煮蛋,肝脏的代谢异常风险或会升高

路医生健康科普
2026-10-15 13:46:51
攻守反转!美国开始怕中国芯片了

攻守反转!美国开始怕中国芯片了

普陀动物世界
2026-11-17 03:42:59
美国慌了神,日本急得跳脚,印度也看懵了,因为他们发现,歼-20还不是中国最顶尖的装备,中国的真实实力远不止表面上这些

美国慌了神,日本急得跳脚,印度也看懵了,因为他们发现,歼-20还不是中国最顶尖的装备,中国的真实实力远不止表面上这些

人生录
2026-11-01 19:39:53
戴笠的手下,因任务失败逃到香港,生了个儿子成国际巨星,家喻户晓

戴笠的手下,因任务失败逃到香港,生了个儿子成国际巨星,家喻户晓

旧时楼台月
2026-11-05 16:36:04
山东日照篮球教练安新宇去世!年仅22岁,身高达2米,因腰疼确诊

山东日照篮球教练安新宇去世!年仅22岁,身高达2米,因腰疼确诊

老踝是个手艺人
2026-11-16 15:37:35
作家陈岚点评大S之死,如果汪小菲带大S去旅游,估计连灰都没有了

作家陈岚点评大S之死,如果汪小菲带大S去旅游,估计连灰都没有了

小人物看尽人间百态
2025-02-09 09:12:11
孩子不会记住你带他去过多少地方玩,给他买了多少玩具,但是永远会记得…

孩子不会记住你带他去过多少地方玩,给他买了多少玩具,但是永远会记得…

上海女性
2026-10-13 13:09:33
20年首次失败:一枚火箭报销40颗亚马逊卫星

20年首次失败:一枚火箭报销40颗亚马逊卫星

算力游侠
2026-11-16 05:18:13
一名入伍才三个月的俄军逃兵,在乌东村落枪杀了五名熟睡的乌军无人机操作员,得手后端着枪一头扎进了乌克兰控制的百万人口大城市

一名入伍才三个月的俄军逃兵,在乌东村落枪杀了五名熟睡的乌军无人机操作员,得手后端着枪一头扎进了乌克兰控制的百万人口大城市

扶苏聊历史
2026-10-26 11:49:51
秦海璐变卖房产,清空全部资产,凑出近亿身家,绝境兜底救下刘涛

秦海璐变卖房产,清空全部资产,凑出近亿身家,绝境兜底救下刘涛

秋别离
2026-06-13 15:50:00
2026-11-17 05:08:49
贝壳财经 incentive-icons
贝壳财经
新京报旗下财经品牌
71521文章数 14091关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

官宣离婚不到1月,李小冉进医院

财经要闻

10万人逼宫英伟达 黄仁勋要复职了?

汽车要闻

多面新方盒捷途环游者EV开启预售 9.99万元起

态度原创

艺术
时尚
教育
健康
公开课

艺术要闻

这些“绝版合影”几乎永不再来,一张比一张震惊,最后一张直接看呆

大风降温,穿羊羔毛啊!

教育要闻

又来抱佛脚了捏ᗜ ᴗ ᗜ|30个视听传播知识点总结(小学科看这里!!!)

情绪真能让健康人"伤心至死"?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版