Dell 全球 CTO 分享企业 AI艰辛历程

许多公司在 AI 部署上都遇到过困难，Dell也不例外——这家总部位于德克萨斯州的计算机制造商，年营收 3600 亿美元，员工近 10 万人。在近期于加州圣克拉拉举办的 AI Infra Summit 上，Dell 全球 CTO 兼首席 AI 官（CAIO）John Roese 分享了公司遇到的挑战，以及最终取得大规模成功的经验。

"让我们在早期感到意外的一件事是，企业采用曲线竟然如此缓慢。"Roese 在与 HCLTech CEO 兼常务董事 C. Vijayakumar 的炉边对话中表示。这场题为"AI 速度方程：平衡速度、主权与企业优势"的对话在 AI Infra Summit 上举行。

"我们在自己身上学到了很多。"Roese继续说道。"当我们踏上这段旅程时，我们意识到这不仅仅是技术的问题。让一家企业在生产环境中真正用上 AI 绝非易事。你要处理的很多事情跟技术毫无关系。一切要从治理开始。"

当 Roese 被任命负责 Dell 的 AI 战略时，公司内部有 900 个AI 项目分散在各个业务部门，一片混乱。公司做了一个决定——全部推倒，从零开始，在四个关键业务领域重新设立全新的 AI 项目：销售、服务、供应链和工程。

"我们必须从根本上改变文化，从把 AI 当成服务中心转变为将其视为战略资源。"Roese 告诉听众。"我们必须重新装备技能组合。我们从零散的技术技能转向了 AI 小组——基本上由一对程序员、TPM（技术项目经理）、AI 工程师和数据科学家组成一个原子化协作单元。这种做法我们以前从未尝试过。"

Dell 必须跨越的一个重大障碍是理解它想要用 AI 影响的具体业务流程。与许多大型企业一样，Dell 的业务流程并没有像计算机代码一样被书写下来、严格遵循。相反，这些流程以有机方式存在于组织内部，需要额外的步骤去理解。

另一个挑战是获取驱动 Dell 运转的海量数百 PB 级数据，并理解这些数据意味着什么。

"没有语义层（semantic layer），没有上下文层（context layer）。所以我们作为 Dell 自己踏上了这段旅程。"Roese 说。

基础设施建设是 Dell 面临的另一个挑战。"基础设施"这个概念并没有明确界定，很多东西都可以算作基础设施。

"企业中的基础设施不是单一的东西。"他说。"你是在将AI 应用于让你的业务运转的流程和结构之上。一家典型的公司——无论是你我这样的规模——可能有上百万个流程在支撑它运转。其中一些价值极高，一些价值相对较低，一些极其敏感，还有一些你并不介意别人看到数据。"

拥有一套灵活的混合 AI 基础设施，能够适配不同的业务流程及其各自的部署位置、SLA 要求、重要性和安全规则，是 Dell 最终取得成功的关键要素。

例如，Dell 的 AI 项目之一是一个自主清理 CRM 数据库记录的智能体，无需人工干预。这些智能体清理的每条数据库记录价值很小，大约每条 0.50 美元。将这类智能体任务与基础设施运行成本相匹配至关重要。

"我有数百万条 CRM 记录，如果把全部清理干净，那是有价值的。"Roese 说。"但每笔交易的价值是非常小的原子单位。所以如果我构建了这个智能体，然后花了 12 美元的 token 费用去完成价值 0.50 美元的工作，那我就亏大了。"

Dell 通过使用私有基础设施、开源模型以及各种调度和批处理技巧来压低成本，使成本与该工作的经济价值匹配，从而让这个特定智能体成功运行。

"在另一个极端，我有一套支持公司创始人和高管们的智能体，这些智能体 帮助他们完成工作。它们主要用于收集和组织信息，以便他们能够即时做出决策。现实情况是，我完全愿意为这个结果花费数千美元的token 费用，因为它的战略价值与第一个智能体完全不同。"

如今，Roese 在 Dell 内部拥有约 5,000 名"消费GPU"的用户（即在做 AI 工作）。这些任务从低级别的数据库记录智能体到支持 Michael Dell（公司老板）的推理智能体，覆盖了各个层级。项目的投资回报率从20:1 到 30:1 不等，Roese 称之为"显著影响"。

过去两年，Dell 营收增长了 300亿美元，同时将成本降低了 7%——这是公司有史以来首次实现营收增长与成本脱钩。Roese 将至少一部分财务改善归功于 AI 项目。

"我的观察是，企业正在经历一段旅程。"他说。"这段旅程远不止是构建一个模型或搭建一套 AI 技术或基础设施。实际上它非常艰难，因为它涉及组织挑战、社会学挑战、文化挑战和技术挑战。"

虽然 Dell 正在取得成功，但为此付出的努力绝非轻松。当 Roese 启动 AI 计划时，他和团队不得不自己搭建基础设施、所有软件和所有工具。

"我用开源方案，不得不把各种东西拼凑在一起，非常慢。"他说。"如今我们已经把这些工业化了——我直接购买智能体平台，能够在许多不同的地方访问模型，这体现在一个非常有趣的指标上。"

当 Roese 启动AI项目时，Dell 从想法到生产需要七个半月。如今不到四周。

"这并非因为想法变简单了。"他说。"而是因为基础设施正在围绕标准化的技术协议和接口固化下来。当这种情况发生时，第二波用户就能从中受益。"