网易首页 > 网易号 > 正文 申请入驻

IBM把AI部署的坑踩了18个月,70%预算全花在GPU上

0
分享至

过去18个月,IBM坐在无数场企业预算会议里,记录了一个反复出现的畸形比例:GPU采购吃掉70%的讨论时间,模型选型占20%,而真正喂养这些模型的数据基础设施,只剩10分钟和一句"存储后面再说"。

这就是为什么大多数企业AI项目在概念验证后集体熄火。

概念验证的幻觉

一个典型场景:团队用精选数据集在开发环境跑通了检索增强生成(RAG)或微调流水线,模型表现亮眼。一旦接入生产数据规模,系统瞬间崩溃——不是模型错了,是存储层根本喂不饱数据,流水线无法跨混合环境统一数据源,也没人提前规划过AI工作负载的I/O特征。

AI训练和推理的存储画像与传统企业应用完全不同。训练任务需要跨海量数据集的持续顺序吞吐,推理需要低延迟随机读取,微调有时两者兼得。你那套跑ERP很稳的存储区域网络(SAN),面对试图饱和8块GPU的分布式训练任务会直接窒息。

IBM近期对"AI就绪基础设施"的重新定位抓住了要害:系统层——存储、计算架构、自动化——才是企业AI成败的分水岭,而非模型层。

数据引力陷阱

存储对AI的关键性不止于吞吐,更在于数据引力(Data Gravity)。

企业数据从不扎堆。它们散落在本地数据库、云对象存储、SaaS平台、边缘设备,以及某个没人敢碰的PostgreSQL实例里。IBM将企业AI定义为"AI在大型组织中的整合"——但整合的前提是数据可访问。现实中,大多数公司做不到,至少无法用统一且高性能的方式做到。

这引发级联故障。你的RAG流水线需要SAP的产品数据、Salesforce的客户交互记录、Confluence的技术文档。每个源有不同的访问模式、延迟特征、安全边界。用API调用和批量ETL任务拼凑,会引入数小时延迟,制造出脆弱的流水线——每次有人改个表结构就断裂。

IBM的观察是:成功部署企业AI的公司,优先解决的是这个问题。它们构建能服务多种AI工作负载的统一存储层,避免六种不同的集成模式。IBM的Storage Fusion和FlashSystem瞄准的正是这一点——高性能、统一存储,能处理混合环境下AI工作负载的混合I/O画像。无论你是否采用其技术栈,架构原则成立:若AI工作负载无法以统一、高性能的方式访问数据,模型再先进也是摆设。

被忽视的I/O现实

企业AI基础设施的讨论长期被算力霸权绑架。NVIDIA的财报数字、GPU集群的规模、模型参数量,这些构成了行业话语的显性部分。但IBM的实地记录显示,当预算会议把70%精力投入GPU时,真正决定项目生死的存储架构被压缩成"后面再说"的脚注。

这种失衡有其心理根源。GPU是可见的、可量化的、可向董事会展示的"AI投入"。存储则像水电——只有当停水停电时,人们才意识到它的存在。问题在于,AI工作负载的"停电"不是二进制的中断,而是性能衰减的慢性死亡:训练时间从预计的3天拖到3周,推理延迟从200毫秒涨到2秒,RAG检索从实时变成"等一下"。

这些衰减不会触发警报,只会慢慢消磨掉业务部门对AI项目的耐心。

IBM提出的"AI就绪基础设施"框架,本质上是对这种认知偏差的矫正。它将存储层重新定义为AI工作负载的调度中心,而非被动容器。具体而言,这意味着存储系统需要同时满足三种冲突需求:为训练提供高吞吐顺序读取,为推理提供低延迟随机访问,为数据准备提供高并发混合负载——且不能通过三套独立系统拼凑实现。

FlashSystem的架构设计反映了这种整合压力。其硬件层针对NVMe协议优化,软件层通过Storage Fusion提供跨本地、多云、边缘环境的统一数据平面。技术细节不是重点,关键是IBM试图解决的问题:当企业数据被引力撕裂成孤岛时,如何让AI流水线无视物理位置,以一致的性能特征访问数据。

这解释了为什么"数据基础设施"在预算会议里只配10分钟——它不是一个产品,而是一组需要重新谈判的组织边界。统一存储意味着打破数据库团队、云团队、安全团队各自的领地意识。GPU采购是写支票,存储整合是改流程。后者阻力更大,回报周期更长,在季度财报压力下天然处于劣势。

但IBM的18个月观察记录表明,跳过这一步的企业,最终会在概念验证后陷入"试点炼狱":项目活着,但无法扩展;模型存在,但无法接入生产数据;预算花了,但业务价值无法兑现。这不是技术失败,是基础设施债务的到期偿付。

当下一波预算会议召开,70-20-10的比例会改变吗——还是说,我们注定要重复同样的分配错误,直到足够多的项目死在同一个坑里?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
潘玮柏去四川吃路边摊,干5大碗面鼻涕往下流,还加了蒸蛋和抄手

潘玮柏去四川吃路边摊,干5大碗面鼻涕往下流,还加了蒸蛋和抄手

冷紫葉
2026-04-05 19:46:51
再恩爱也没用!上海38岁陈成去世,烟酒不沾,死因曝光,妻儿悲痛

再恩爱也没用!上海38岁陈成去世,烟酒不沾,死因曝光,妻儿悲痛

北纬的咖啡豆
2026-03-09 16:55:53
大量的大学生无法就业,为什么教育还要逼着孩子们拼命学习?

大量的大学生无法就业,为什么教育还要逼着孩子们拼命学习?

李老师讲最真教育
2026-04-05 19:09:33
确认离队!广东队迎来换帅最佳人选,比李春江更适合取代杜锋?

确认离队!广东队迎来换帅最佳人选,比李春江更适合取代杜锋?

绯雨儿
2026-04-05 15:13:41
菲尔兹奖得主牵头近2000名数学家拒绝赴美,数学家大会陷入争议

菲尔兹奖得主牵头近2000名数学家拒绝赴美,数学家大会陷入争议

DeepTech深科技
2026-04-04 12:10:59
笑麻了!清明上坟熊孩子把老祖宗的金砖豪车顺走,网友:赶紧管管

笑麻了!清明上坟熊孩子把老祖宗的金砖豪车顺走,网友:赶紧管管

另子维爱读史
2026-04-05 22:57:23
火腿肠三巨头的衰落告诉我们什么:产品没变,时代变了

火腿肠三巨头的衰落告诉我们什么:产品没变,时代变了

富贵说
2026-04-05 18:42:13
美论坛:为什么中国在明确我们不会偿还的情况下还要购买美债?

美论坛:为什么中国在明确我们不会偿还的情况下还要购买美债?

共工之锚
2026-04-06 00:15:47
吴邦国委员长之父吴忠性简介:解放前拒绝去台湾,被誉为测绘将军

吴邦国委员长之父吴忠性简介:解放前拒绝去台湾,被誉为测绘将军

兴趣知识
2026-03-24 16:24:08
田曦薇从小就是班花级别,这美貌不要太出众!

田曦薇从小就是班花级别,这美貌不要太出众!

动物奇奇怪怪
2026-04-05 17:08:34
4月10-15号,属兔人三件事跑不掉!尤其第二件,再忙也要看

4月10-15号,属兔人三件事跑不掉!尤其第二件,再忙也要看

叮当当科技
2026-04-06 02:38:28
4.5日晚间,多家上市公司,突发重磅利好,下周二,要起飞了

4.5日晚间,多家上市公司,突发重磅利好,下周二,要起飞了

风风顺
2026-04-06 01:00:03
尘埃落定…… 齐达内多年等待,终于圆梦!执掌法国国家队

尘埃落定…… 齐达内多年等待,终于圆梦!执掌法国国家队

夜白侃球
2026-04-05 21:50:34
川崎毫无征兆,车价暴降!张雪机车让日系车商集体慌了!

川崎毫无征兆,车价暴降!张雪机车让日系车商集体慌了!

达文西看世界
2026-04-05 20:14:06
发现一个奇怪现象:越是独来独往、没有朋友、不合群的人,人品往往越没问题,慢慢你就知道了

发现一个奇怪现象:越是独来独往、没有朋友、不合群的人,人品往往越没问题,慢慢你就知道了

LULU生活家
2026-01-11 17:53:51
33岁程序员午休健身时猝死!公司:属于工作时间,人社局:不算工伤!法院判了……

33岁程序员午休健身时猝死!公司:属于工作时间,人社局:不算工伤!法院判了……

环球网资讯
2026-04-05 13:56:06
活久见!考上公务员的堂弟,在家宴沉默寡言,面对镜头却侃侃而谈

活久见!考上公务员的堂弟,在家宴沉默寡言,面对镜头却侃侃而谈

火山詩话
2026-04-06 10:42:06
特朗普帮了中国大忙,中国首次成为全球第一,日本完全被踩在脚下

特朗普帮了中国大忙,中国首次成为全球第一,日本完全被踩在脚下

小小科普员
2026-03-26 00:27:10
求你了红星新闻:打假前,先学点循证医学常识

求你了红星新闻:打假前,先学点循证医学常识

不正确
2026-04-04 11:54:47
8500亿美债无人接盘!中方明确表态:已彻底告别“救美时代”

8500亿美债无人接盘!中方明确表态:已彻底告别“救美时代”

傲傲讲历史
2026-04-05 20:55:19
2026-04-06 11:52:49
报错免疫体
报错免疫体
一名在需求评审和数据异常中反复横跳的产品运营。
807文章数 6关注度
往期回顾 全部

科技要闻

前同事被蒸馏成Token,AI能否偷走职场经验

头条要闻

媒体:美军拯救大兵有奇怪之处 未展示飞行员获救照片

头条要闻

媒体:美军拯救大兵有奇怪之处 未展示飞行员获救照片

体育要闻

CBA最老球员,身价7500万美元

娱乐要闻

乔任梁离世10年 父母曝舞台光鲜的背后

财经要闻

118吨!这家央行,大幅抛售黄金!

汽车要闻

家用SUV没驾驶乐趣?极氪8X第一个不同意

态度原创

健康
旅游
亲子
公开课
军事航空

干细胞抗衰4大误区,90%的人都中招

旅游要闻

露营经济升温 威海户外装备市场火热

亲子要闻

40+妈妈产后,不焦虑不内卷、真实做法

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美飞行员获救细节:美伊发生激烈交火 至少4死1伤

无障碍浏览 进入关怀版