北京
企业AI正在进入一个算成本的阶段，而混合基础设施就是这笔账最终落地的地方。推理支出往上走，企业管理者开始重新盘算三件事：模型跑在哪里、用哪一类模型、以及愿意把多少数据交到别人手里。
戴尔高级销售副总裁凯尔·杜弗雷斯内（Kyle Dufresne）在戴尔科技纽约峰会上给出了一个变化速度惊人的观察。他在接受theCUBE Research的戴夫·韦兰特（Dave Vellante）采访时说，仅仅三个月前，还有80%的token由前沿模型生成；三个月后，全球80%的token已经由开放模型生成。
他把原因直接归给了成本。“为什么？因为成本。所有人都在谈token经济学。”据戴尔方面披露，已有超过6500家企业采用了带英伟达更新的戴尔AI工厂方案。
推理的增长速度现在已经超过训练，尽管两者都在快速扩张。这一变化正在改变AI工作负载的落点：杜弗雷斯内表示，戴尔看到推理正在数据产生的地方运行——云端、数据中心，一直到PC端。
“我们看到业务负责人说，‘天哪，推理的成本变得真的很高。我们怎么在不抑制创新的前提下把这些成本降下来？’”杜弗雷斯内说，“我们发现它发生在整个连续谱上，但越来越多地发生在最边缘。”
成本之外还有控制权的问题。企业必须决定是否要把数据和差异化能力外包出去，而现在它们给AI定价的依据，是工作负载跑在哪里、用哪个模型、数据放在哪里。戴尔把最新的AI工厂更新围绕一个目标来组织：让客户在自己掌控的基础设施上拿到结果。
“我们看到世界上每一位已经实施这些架构的首席财务官都在说，‘天哪，我的token成本在爆炸。我们怎么把成本降下来？’”他说。
供给是账本的另一面。内存价格在推高而不是拉低技术成本。杜弗雷斯内估算，明年进入市场的内存大约只多出20%，而需求大约多出200%。戴尔的应对方式是协同规划：把客户引向更容易获得的组件，并提前共享未来成本上涨的可见性。不少客户发现自己的资本成本低于组件涨价幅度，于是选择提前采购。
“不只是能提供技术，”杜弗雷斯内说，“还要能告诉客户未来会发生什么，让他们今天就能在资金使用上做出更好的决策。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
