北京
即使是最热衷展示AI新能力的公司，如今也开始面对一个不那么体面的问题：这到底要花多少钱？
在WAIC 2026的现场，InfoQ第二直播间里抛出的这个问题，让优刻得CTO王凯和焱融科技CTO张文涛没有再去复述那些展馆里最不缺的未来答案。他们拆解了一笔许多企业正在经历，却迟迟没有算清的账：一次普通的对话只调用一次模型，但一次Agent任务背后，牵涉的是目标理解、任务拆解、信息检索、工具调用、上下文读取、记忆存储和结果验证。任何一个环节出现偏差，都可能触发重新规划、重新调用，甚至从头执行。于是，尽管模型单价在持续走低，企业的调用总量、基础设施压力与人工维护成本却同步上涨。
王凯首先给出一个判断：企业不该只盯着“Token贵不贵”，而需要厘清“这些Token花得值不值得”。他观察到，随着AI应用快速增长，企业的Token消耗量急剧上升本属正常。AI正试图替代原有的软件流程和知识工作，而一套生产流程在被重新设计的阶段，天然需要大量实验与投入。可问题在于，许多企业尚无法清晰定义自己希望AI完成什么任务、达到什么质量标准，以及愿意为这个结果付出多少成本。
“很多时候我们说AI贵，贵在我们为了一个自己没有定义清楚的问题，让AI不断地尝试，给出无数个答案。”王凯的这一观察直接点出了账单膨胀的核心逻辑。张文涛用更具体的例子给出呼应：以代码单元测试为例，企业不能只统计调用了多少Token，而要比较过去一名工程师一天可以完成多少测试，引入AI后又可以完成多少。新增的产出是否足以覆盖模型费用和后续人工审核成本，才是衡量盈亏的真实尺度。一旦工作流程明确并固化，Token成本通常可以做到可预测。真正容易造成账单失控的，反倒是目标未定、流程未稳时的重复试错。
Token账单至少是可见的。而张文涛认为，企业更容易忽略的，是那些没有直接出现在云平台账单里的隐性成本。他把它们拆成三块：人的时间、结果质量、后续维护。AI生成的代码几乎不可能直接投入生产，工程师仍需进行代码审查、测试、安全检查和结果验收。即使代码跑通了，也不代表它具备长期可维护性。更隐蔽的膨胀来自Agent的记忆与上下文。随着对话历史、任务状态和外部数据不断写入Memory，每一次模型调用中携带的上下文可能越来越长。如果缺少记忆压缩、摘要提取和缓存机制，同一任务后期的调用成本可能远高于初期。
王凯进一步补充，Agent在运行中反复重构上下文，这种叠加直接推动计算资源的快速增加。这也是KV Cache、上下文压缩和信息提取逐渐成为推理基础设施关键环节的底层原因。与此同时，企业还需投入人手构建Agent工作流、评价体系与维护机制。如果AI生成的代码只能继续由AI来维护，企业就必须搭建一套用于评价、更新和纠错的体系，而这仍然离不开人。
两位CTO的共识是，企业真正需要管理的，从来不是Token数量，而是一次有效任务所消耗的全部资源。目标定义不清、流程尚未稳定，就贸然将AI用到所有环节，非但不能减少成本，反而会同时推高模型费用和组织管理成本。这笔账的难算之处还体现在AI Coding场景中。AI Coding虽被普遍视为当前落地最快的Agent场景之一，但从生成代码到真正投入生产，距离依然漫长。张文涛指出，企业要构建AI原生的软件开发流程，需要的不只是一个代码模型，而是一整套体系：如何拆解需求、如何定义不同Agent的角色、如何设计测试、如何评价结果，以及新增功能后能否自动完成回归测试和验收。
在此基础上，王凯梳理出两条可行的AI软件工程路线。第一条是沿用传统软件工程的基本结构，使用AI分别改造需求分析、编码、测试、审查和运维等环节。人仍然负责流程设计，AI逐步替代其中可以被明确评价的工作。第二条则更为激进：企业只定义输入和最终输出，让Agent自主完成中间的规划、编码、测试和迭代，人主要负责评价最终结果。对于从零开始的AI原生公司，后一种路径可能带来极高效率——一名工程师借助多个Agent，理论上可以完成过去一个团队的工作。但对大部分传统企业而言，这种做法风险较高。
王凯的判断直截了当：传统企业现有的生产流程，是长期经验、制度和组织协作沉淀下来的结果。若突然将整个流程交由Agent自主决策，中间环节可能出现不可控的失误，修复和兜底的成本反而可能冲销掉效率提升的收益。整场对话最终落入一个冷静的基调：Agent时代，企业在意的焦点，必须从模型单价转向为完成一次有效任务所付出的全部资源。Token只是水面上的冰山，水面之下的上下文膨胀、人工审核、代码维护与多模型编排，正在成为一笔笔被低估的账。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
