网易首页 > 网易号 > 正文 申请入驻

AI推理进入深水区,先进存力成“提速降本”关键

0
分享至

当前,人工智能正迈向场景落地的关键阶段。随着大模型数量逐渐收敛、推理应用爆发式增长,以Token数为量纲的AI推理成本与效率问题日益凸显。在这一背景下,先进存力作为数据要素的核心载体,成为提升AI推理效能、控制成本的关键。

11月4日,在中国信息通信研究院组织的“存力中国行”北京站活动上,来自信通院、中国移动云、华为、硅基流动等机构与企业的嘉宾,深入探讨了AI时代下先进存力对AI大模型发展的支撑作用和未来发展趋势。

AI推理面临成本与效率之困

“大模型落地元年”中,各行各业不再满足于拥有庞大的模型,而是迫切希望将模型能力无缝融入实际业务场景。从投研分析、卷宗分析到智能客服、医疗影像辅助诊断等,AI推理正深入千行百业发挥作用。然而,随着Token调用量爆发式增长,推理成本持续攀升,“推不动、推得慢、推得贵”成为行业共性难题。

与会专家指出,当前,AI推理已不再是简单的单次问答,而是处理海量、多模态、动态增长数据的持续过程。数据类型的多样性要求存储系统能同时高效处理文、图、音、视频乃至传感器数据。同时,构建高质量数据集也成为关键。

“AI时代,IT基础设施能力面临‘管不好’的数据、‘喂不饱’的算力、‘降不下’的成本三大挑战。”在华为数据存储产品线战略与业务发展部总裁王旭东看来,推理数据来源多样难以形成高质量、可持续供应的数据集,存储系统的带宽和IOPS(每秒读写次数)不足,导致GPU等昂贵算力资源长时间空闲。传统存储架构难以兼顾高吞吐、低时延及异构数据融合的需求,造成业务发展瓶颈,阻碍AI应用落地。

要打破推理困境,还需突破“内存墙”与“容量墙”两道技术关卡。与会专家介绍,昂贵的HBM(高带宽内存)虽然性能强悍,但价格极高,无法无节制扩展,这限制了模型的理解长度,也推高了硬件成本,可以通过高性能的AI SSD,对HBM进行更好的扩展,同时,用大容量AI SSD替代HDD。

除此之外,绿色、可靠、安全的数据存储解决方案,也成为企业的刚性需求。

先进存力成破局关键

新京报贝壳财经记者从会上了解到,在AI场景中,我国存储技术取得技术突破,并具备全球领先的实力。通过技术创新和生态协同的模式,加速在千行百业的落地应用。

中国移动云能力中心项目总师周宇表示,移动云针对性采用分层缓存调度、高速数据互联技术提升带宽、多模数据专属存储与标准化、架构池化重组等技术破局,还通过高密全闪存储、数据缩减、自研SPU高密服务器提高存储效能和降低成本。未来趋势上,移动云推动存储从被动存储转向智算协同,分阶段落地高密全闪存储、数据高速互联、存算一体等技术,长远构建池化多体存储体系,同时强调技术整合与生态协同。

王旭东介绍,华为发布了针对AI推理的UCM推理记忆数据管理技术,通过“集中高质数据、提速AI训练、优化推理效能”三个角度,打造AI推理加速解决方案。据悉,UCM可将首Token时延最高降低90%,系统吞吐率最高可提升22倍,上下文推理的窗口扩展10倍以上。

北京硅基流动科技有限公司解决方案总监唐安波表示,硅基流动构建的AI infra工具链,核心推理框架适配多模态模型与国内外算力,适配昇腾并优化DeepSeek模型实现性价比提升。从推理框架延伸至MaaS服务平台,部署主流开源模型,通过推理加速和API向开发者提供服务,聚焦提升算力利用率。解决方案上,结合UCM技术卸载KVCache释放显存、提升性能,还通过智能网关优化调度、弹性扩缩容应对长上下文等痛点,基于存储的KVCache方案可大幅提升系统吞吐。

中国信息通信研究院首席专家石友康表示,信通院在政策研究、标准制定、测试服务等方面开展多项工作,并联合产业链企业成立“算力产业发展方阵先进存力AI推理工作组”。同时,他提出了三点建议:鼓励前沿存储技术研发创新,推动存算运深度融合,加强存算协同产业生态建设。其呼吁业界同仁凝聚共识,共同推动我国存算协同发展。

新京报贝壳财经记者 韦博雅

编辑 杨娟娟

校对 穆祥桐

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
监控画面曝光!莫桑比克一中国人经营的超市遭4名持枪男子抢劫,两名保安被逼跪地

监控画面曝光!莫桑比克一中国人经营的超市遭4名持枪男子抢劫,两名保安被逼跪地

扬子晚报
2026-11-16 12:06:10
为啥某多多的商品很便宜?网友:做电商的都知道,其实货都是一样的

为啥某多多的商品很便宜?网友:做电商的都知道,其实货都是一样的

带你感受人间冷暖
2026-11-16 10:34:09
太惨烈,都是跌停!中际旭创市值少了1万亿,不少股民爆仓了

太惨烈,都是跌停!中际旭创市值少了1万亿,不少股民爆仓了

金融界
2026-11-16 15:22:01
官宣通告!11月11日至21日,深圳全市区域开展低空飞行管控!

官宣通告!11月11日至21日,深圳全市区域开展低空飞行管控!

深圳梦
2026-11-16 19:53:11
原上海医科大学附属妇产科医院党委书记花俊生逝世,享年91岁

原上海医科大学附属妇产科医院党委书记花俊生逝世,享年91岁

澎湃新闻
2026-11-16 09:20:27
A股:午后突然加速跳水,信号已经非常强烈!周二将有三大变数

A股:午后突然加速跳水,信号已经非常强烈!周二将有三大变数

云鹏叙事
2026-11-16 14:56:33
争议!19岁亚马尔转发辱华视频,遭质疑删帖,网友:第2个姆巴佩

争议!19岁亚马尔转发辱华视频,遭质疑删帖,网友:第2个姆巴佩

大秦壁虎白话体育
2026-11-16 08:27:29
1987年邓小平召集小型会议,众目睽睽之下,猛地指向刘华清与洪学智问杨尚昆:命令究竟有没有下达

1987年邓小平召集小型会议,众目睽睽之下,猛地指向刘华清与洪学智问杨尚昆:命令究竟有没有下达

唠叨说历史
2026-11-16 16:13:14
打平即出线!意大利又崩盘 1-4遭比利时逆转+双杀 从头名跌第3出局

打平即出线!意大利又崩盘 1-4遭比利时逆转+双杀 从头名跌第3出局

我爱英超
2026-11-16 06:56:13
昨晚陪闺蜜去汗蒸,她脱光的瞬间我破防:女人差距不止看脸蛋

昨晚陪闺蜜去汗蒸,她脱光的瞬间我破防:女人差距不止看脸蛋

皓皓情感说
2026-11-16 07:51:03
扫码抽中免费平板,贵阳男子称被要求108次电话回访,漏接一次罚300!改掏7800元买平板和酒,回家一看发现不对劲

扫码抽中免费平板,贵阳男子称被要求108次电话回访,漏接一次罚300!改掏7800元买平板和酒,回家一看发现不对劲

大风新闻
2026-11-16 13:50:06
被骂“滚回中国”后,华人家庭谢绝“当面道歉”!“没有必要,希望她自己想想为什么”

被骂“滚回中国”后,华人家庭谢绝“当面道歉”!“没有必要,希望她自己想想为什么”

发现新西兰
2026-11-16 11:23:23
消瘦如柴!成龙独子房祖名近况罕见曝光,传已秘婚生子...

消瘦如柴!成龙独子房祖名近况罕见曝光,传已秘婚生子...

港港地
2026-11-15 12:05:35
2000年,与李泽楷结束恋情的林慧仪独坐车内,情绪崩溃

2000年,与李泽楷结束恋情的林慧仪独坐车内,情绪崩溃

娱你同欢
2026-11-16 19:43:01
前省委常委掌掴副市长,副市长不堪受辱辞官!

前省委常委掌掴副市长,副市长不堪受辱辞官!

兵叔评说
2026-11-16 14:24:20
批评黄仁勋最狠的人身份扒出!不是白人黑人,不是印度人,是以华裔女记者为主的《纽约时报》

批评黄仁勋最狠的人身份扒出!不是白人黑人,不是印度人,是以华裔女记者为主的《纽约时报》

小徐讲八卦
2026-11-16 09:27:43
亚马尔辱华!网友要求蒙牛发声明解约 3大代言人翻车:刚解约姆巴佩

亚马尔辱华!网友要求蒙牛发声明解约 3大代言人翻车:刚解约姆巴佩

念洲
2026-11-16 07:49:47
生父姓泽连斯基!俄媒曝普京小女儿再添一子,近11个月才登记

生父姓泽连斯基!俄媒曝普京小女儿再添一子,近11个月才登记

麓谷隐士
2026-11-16 00:05:08
亚马尔辱华,比姆巴佩更恶劣

亚马尔辱华,比姆巴佩更恶劣

鸣金网
2026-11-16 17:59:49
蔡英文任命的台军前“防长”冯世宽,公开与台独分子划清界限:

蔡英文任命的台军前“防长”冯世宽,公开与台独分子划清界限:

果妈聊娱乐
2026-11-16 11:34:10
2026-11-16 20:19:00
贝壳财经 incentive-icons
贝壳财经
新京报旗下财经品牌
71515文章数 14091关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

两架大型飞机停田野9年锈迹斑斑 机舱有床还有星空顶

头条要闻

两架大型飞机停田野9年锈迹斑斑 机舱有床还有星空顶

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

官宣离婚不到1月,李小冉进医院

财经要闻

10万人逼宫英伟达 黄仁勋要复职了?

汽车要闻

小升级大体验 2027款岚图知音让家用更便捷

态度原创

家居
教育
亲子
旅游
艺术

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

没招了,只能这样证明啦

亲子要闻

黄桷坪安全微剧场|安全小侦探出发啦(新市场社区)

旅游要闻

赴川感受藏乡风情 尼泊尔网红:一见如故 想把中国的美景分享出去

艺术要闻

颜真卿罕见的楷书真迹,这字揭露他的真实水平,比《多宝塔》更值得学!

无障碍浏览 进入关怀版