网易首页 > 网易号 > 正文 申请入驻

聚焦Token经济时代痛点 解锁AI推理高效发展新范式

0
分享至

11月4日,由中国信息通信研究院组织召开的“存力中国行”北京站在信通院顺利举行。活动通过座谈会和实地调研的形式,深入探讨AI时代下先进存力赋能AI大模型发展的支撑作用。

中国信息通信研究院首席专家石友康出席研讨会并致辞,中国信息通信研究院云大所总工程师郭亮主持。中国移动云能力中心项目总师周宇,华为数据存储产品线战略与业务发展部总裁王旭东,北京硅基流动科技有限公司解决方案总监唐安波发表主题演讲。

当前,AI推理在各行各业大规模使用,大模型数量开始收敛,推理应用快速增长,Token调用量爆发式增长,推理成本持续攀升。进入“大模型落地元年”,各行各业不再满足于拥有一个庞大的模型,而是迫切需要将模型能力无缝融入到实际业务场景中,如投研分析、卷宗分析、智能客服、医疗影像辅助诊断等。这些场景对Token的消耗越来越大,特别是在AI推理的性能指标中,都是以“Token数”为量纲。AI的到来意味着“Token经济”的时代也到来了。近两年AI技术快速发展,当前虽已在文档处理等场景体现价值,但仍需解决推理效率、存力等突出问题,而存储对大模型训练与推理效果至关重要。

座谈会上,石友康深刻阐述了当前AI规模化应用推进,推理环节的成本、效率、质量问题凸显,先进存力成为提升AI推理效能、控制成本的关键。当前,国家高度重视先进存力发展,在《算力基础设施高质量发展行动计划》等政策中明确提出“加速存力技术研发应用”、“持续提升存储产业能力”、“推动存算网协同发展”,为产业发展指明了方向。信通院在政策研究、标准制定、测试服务等方面开展多项工作,并联合产业链企业成立“算力产业发展方阵先进存力AI推理工作组”,同时提出了三点建议:鼓励前沿存储技术研发创新,推动存算运深度融合,加强存算协同产业生态建设,呼吁业界同仁凝聚共识,共同推动我国存算协同发展。

周宇分享了面向推理的存储技术趋势与实践,围绕推理挑战、存储破局及趋势判断展开。当前推理面临KVCache存储需求升级、多模态数据协同、存算协同带宽不足、负载潮汐性及成本控制等挑战。移动云针对性采用分层缓存调度、高速数据互联技术提升带宽、多模数据专属存储与标准化、架构池化重组等技术破局,还通过高密全闪存储、数据缩减、自研SPU高密服务器提高存储效能和降低成本。未来趋势上,移动云推动存储从被动存储转向智算协同,分阶段落地高密全闪存储、数据高速互联、存算一体等技术,长远构建池化多体存储体系,同时强调技术整合与生态协同。

王旭东介绍了AI时代,IT基础设施能力面临三大挑战:“管不好” 的数据、“喂不饱” 的算力、“降不下”的成本。推理数据来源多样难以形成高质量、可持续供应的数据集,存储系统的带宽和IOPS(每秒读写次数)不足,导致GPU等昂贵算力资源长时间空闲。传统存储架构难以兼顾高吞吐、低时延及异构数据融合的需求,造成业务发展瓶颈,阻碍AI应用落地。华为针对AI推理训练研发的UCM推理记忆数据管理技术在行业落地中的核心作用,通过“集中高质数据、提速AI训练、优化推理效能”三个角度,打造AI推理加速解决方案。

唐安波在会上围绕大模型推理“推不动、推得慢、推得贵”问题展开分享,硅基流动构建的AI infra工具链,核心推理框架适配多模态模型与国内外算力,适配昇腾并优化DeepSeek模型实现性价比提升。从推理框架延伸至MaaS服务平台,部署主流开源模型,通过推理加速和API向开发者提供服务,聚焦提升算力利用率。解决方案上,结合UCM技术卸载KVCache释放显存、提升性能,还通过智能网关优化调度、弹性扩缩容应对长上下文等痛点,基于存储的KVCache方案可大幅提升系统吞吐。

座谈会后,与会专家走进科大讯飞、华为北京研究所达芬奇展厅,实地调研存力技术如何促进AI推理应用、AI推理框架、先进存力和智能算力协同发展,助力AI普惠应用,推动我国存储产业高质量发展。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
医生:希望你的血脂报告里,永远不要出现这2项异常

医生:希望你的血脂报告里,永远不要出现这2项异常

垚垚分享健康
2026-09-17 14:10:16
19岁阿根廷天才新星闪耀意甲,超级多面手,引得3大意甲豪强哄抢

19岁阿根廷天才新星闪耀意甲,超级多面手,引得3大意甲豪强哄抢

零度眼看球
2026-11-17 06:40:13
男子和女子睡后很满意,想长期白嫖假装是富豪,被揭穿后闹大了

男子和女子睡后很满意,想长期白嫖假装是富豪,被揭穿后闹大了

江山挥笔
2026-11-17 08:55:44
马斯克的妹妹从小就坚信,跟着哥哥有肉吃,瞒着妈妈把南非家里的房和车都卖了去加拿大投奔哥哥!妈妈哭笑不得的承认是事实!

马斯克的妹妹从小就坚信,跟着哥哥有肉吃,瞒着妈妈把南非家里的房和车都卖了去加拿大投奔哥哥!妈妈哭笑不得的承认是事实!

大白聊IT
2026-08-14 01:29:05
中国正式改口!以后不叫“日本政府”了,新称呼传递的信号不一般

中国正式改口!以后不叫“日本政府”了,新称呼传递的信号不一般

潘冹旅行浪子
2026-06-23 00:04:49
在劫难逃!乌克兰远程袭击俄罗斯旧鲁萨机场,IL-76运输机一毁三伤!

在劫难逃!乌克兰远程袭击俄罗斯旧鲁萨机场,IL-76运输机一毁三伤!

军迷战情室
2026-11-16 21:37:17
回家倒计时,神舟二十三号女航天员黎家盈还能出舱吗?神二十四将发射

回家倒计时,神舟二十三号女航天员黎家盈还能出舱吗?神二十四将发射

环球科学猫
2026-11-16 11:03:56
威尔逊:成为伟大冠军需要让人有点讨厌,面对赵心童时我只想重创他

威尔逊:成为伟大冠军需要让人有点讨厌,面对赵心童时我只想重创他

世界体坛观察家
2026-11-16 17:08:49
留学生的顶级能力:择偶

留学生的顶级能力:择偶

英国大学申请中心
2026-11-13 21:25:10
终于知道为什么大家都说农学是抑郁率最低的专业了!

终于知道为什么大家都说农学是抑郁率最低的专业了!

另子维爱读史
2026-10-18 11:46:21
中文主场绝不能丢!人民日报定调:在中国,绝不允许英文取代中文

中文主场绝不能丢!人民日报定调:在中国,绝不允许英文取代中文

寻墨阁
2026-11-06 22:54:32
谷歌华人工程师杀妻案再曝怪事!14万美元资金流出存疑,被关期间股票也被卖了

谷歌华人工程师杀妻案再曝怪事!14万美元资金流出存疑,被关期间股票也被卖了

北美省钱快报
2026-11-17 02:30:39
大爷退休后给侄子看厂门,5年只拿了6万,离开时收到侄子短信泪崩

大爷退休后给侄子看厂门,5年只拿了6万,离开时收到侄子短信泪崩

五元讲堂
2025-04-07 12:21:23
大家早做准备!明年开始,六七十岁的老人或面临“三个现实问题”

大家早做准备!明年开始,六七十岁的老人或面临“三个现实问题”

兴趣知识
2026-11-01 09:08:14
“说一堆荤话、拍一堆丑照”,年轻人嫌油腻的「摄影老头」咋让阿姨花上万拍写真?

“说一堆荤话、拍一堆丑照”,年轻人嫌油腻的「摄影老头」咋让阿姨花上万拍写真?

Vista氢商业
2026-11-16 14:48:37
国家级名单公示,内蒙古3处拟入选!

国家级名单公示,内蒙古3处拟入选!

娱乐圈的笔娱君
2026-11-17 06:00:26
港媒曾言:两岸已步入到“准统一”阶段,“西藏模式”更具参考!

港媒曾言:两岸已步入到“准统一”阶段,“西藏模式”更具参考!

起喜电影
2026-11-17 13:10:20
想钱想疯了!记者把燃气灶里的电池换成没电的,然后通过啄木鸟平台下单报修,结果5个师傅只有2个说了实话

想钱想疯了!记者把燃气灶里的电池换成没电的,然后通过啄木鸟平台下单报修,结果5个师傅只有2个说了实话

扶苏聊历史
2026-11-12 16:31:35
基层实情!推行公务零接待后,应酬没了,新负担却慢慢浮出水面?

基层实情!推行公务零接待后,应酬没了,新负担却慢慢浮出水面?

半路友人之他
2026-11-17 01:16:38
根据马云对未来房价预言:200万买来的房子,到2030年能值多少钱

根据马云对未来房价预言:200万买来的房子,到2030年能值多少钱

云景侃记
2026-09-08 11:29:48
2026-11-17 16:35:00
脑极体 incentive-icons
脑极体
从智能密钥到已知尽头
3860文章数 167662关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

美国"火神"火箭发射失败致40颗卫星损失 美军有点慌了

头条要闻

美国"火神"火箭发射失败致40颗卫星损失 美军有点慌了

体育要闻

从上链接到上领奖台 34岁方博绝非等闲之辈

娱乐要闻

后会友期大瓜:3位女演员被迫换车厢

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

教育
时尚
旅游
房产
亲子

教育要闻

连乘解方程,不用硬展开,找对诀窍秒算

老钱风、静奢风失宠了?“繁荣主义”穿搭突然爆火

旅游要闻

只卖风景的海岛,已经很难打动中国游客

房产要闻

5381亩之后,三亚绿谷,等一个500强!

亲子要闻

当你有个听不懂反话的儿子

无障碍浏览 进入关怀版