网易首页 > 网易号 > 正文 申请入驻

Token消耗失控成AI成本黑洞,企业如何管好智能体预算?

0
分享至


在AI领域,十二个月足以改变一切。Boomi首席执行官史蒂夫·卢卡斯去年曾担忧,CIO们在没有明确方向的情况下仓促推进生成式AI项目。如今一年过去,他又发现IT从业者正以同样冒进的姿态拥抱智能体技术——而Token消耗规模只有一个方向:持续攀升。

"无论你在公司内部还是外部工作,感觉核心任务就是使用AI,并把Token用到极致,为自己的工作服务,"他在接受ZDNET采访时表示。

Token是AI模型处理信息的基本单位。研究表明,随着智能体技术消耗的Token量级数倍增长,其成本也变得高昂且难以预测。

正如ZDNET同事史蒂文·沃恩-尼科尔斯近期指出的那样,就在不久前的生成式AI热潮时期,各组织都热衷于展示"Token排行榜",比拼谁的Token用量最多。而今,这类排行榜已成历史,因为没有人再负担得起Token浪费。

在智能体时代,Token用量最大化不再是荣耀,而是浪费的标志。"Token经济学"——即对Token消耗进行计量、定价和管理的实践——已成为企业的核心业务活动。就连卢卡斯本人也深有体会,他指出Token的消耗速度远超以往。

"一年前,我们还没在谈Token经济学,"他说,"但去年,我个人在Boomi花在Claude上的费用是前一年的10倍——整整10倍,这根本不可持续,不能每年都这样下去。"

现在,企业和专业人士必须建立自己的企业级Token经济学体系。智能体AI将深刻改变每家企业的运营方式,而构建一套经济高效的智能体探索方法,已成为迫切优先事项,卢卡斯如此建议道。

"在企业层面,最终起决定作用的是AI的经济性,"他说,"大多数组织将把AI视为未来的企业引擎。所以,现在最关键的问题是:'我能实现AI的正向回报吗?'这是根本性的问题。"

商业领袖们认为,前进的最佳路径清晰可见:与其限制员工使用智能体,不如为他们提供指导原则和背景信息,帮助他们做出更具成本效益的模型决策。

Snowflake首席执行官斯里达尔·拉马斯瓦米承认,即便在他自己的组织内部,Token消耗量也在持续上升。但他同时强调,给员工留有探索智能体的空间至关重要。

"我们是否担心各内部团队在AI推理上的支出?当然担心,"他说,"但我是否会把这些支出当作不使用AI的理由?绝对不会。"

在近期于旧金山举行的Snowflake Summit 2026媒体见面会上,拉马斯瓦米表示,尽管Token消耗令人担忧,但创造性地运用AI能够开启全新的商业机遇。

智能体可以提升员工效率与生产力,同时有潜力帮助企业更快、更有效地为客户创造新服务。

"我们将智能体AI视为一种机会,不仅可以优化我们的工作方式,还能将业务流程转化为可供客户使用的产品,"他说。

与拉马斯瓦米观点一致,可穿戴技术公司Whoop的分析副总裁马特·卢伊齐表示,他的公司正在积极投入智能体探索,以寻求竞争优势。

"如果我们希望员工走出舒适区,就必须允许他们承担风险,并让他们明白:这不会搞坏什么。"

卢伊齐表示,他支持员工在智能体上投入资金,但这并不意味着Token消耗可以失控。

"我们设置了防护栏,配备了监控与可观测性工具,让员工了解自己的使用成本,"他在Summit 2026的一场小组讨论中说道。

"但更多时候,我们只需要坐下来,帮助员工理解:'你怎样才能做得更高效?你真正想实现什么?'"

卢伊齐认为,智能体成功的关键在于精细化的赋能管理——鼓励员工用智能体和Token突破边界,但不能让其走向极端。

"归根结底,我们全力押注,是因为我们认为这会有回报。我们看到员工变得更高效,工作完成得更快,"他说。

"这些积极成果意味着,我们不会对员工的Token用量斤斤计较,但同时也清楚这需要规模化推进,所以也不能任由大家无节制地使用。"

芯片设计技术公司Synopsys的首席信息官斯里拉姆·西塔拉曼在同一场Snowflake会议的小组讨论中表示,员工必须有自由探索新方向、包括智能体应用的空间,才能找到解决业务挑战的创新方案:"带着束缚无法创新,只能走到一定程度就停滞不前。"

与卢伊齐一样,西塔拉曼认为,指导原则有助于为Token消耗设定合理边界。他建议,为项目设定正确的业务背景,有助于建立有效的约束机制。

"如果你问一个智能体'明天我该做什么',它可能会消耗大量数据和Token,最终给出一个毫无价值的答案,"他说,"但如果你设定具体背景,比如创建一个北美销售运营智能体,赋予它明确的目标和数据范围,那么消耗量就会受到限制,而它为用户创造的价值也会更高。"

法国电视网络TF1集团首席数据与广告技术官弗朗索瓦-泽维尔·皮耶雷尔同样强调了业务背景的重要性。他在接受ZDNET采访时表示,对于企业和专业用户来说,用常识来管控Token使用是最佳方式。

皮耶雷尔将另一种做法比作糖瘾——一旦开始往食物里加糖,就会习以为常,最终形成不健康的依赖。他认为AI也存在类似风险。

"过去一切都很便宜,非常便宜,于是我们一股脑儿地涌进去,"他回顾生成式AI技术早期的热潮时说道。如今,对智能体的痴迷意味着更高昂的代价。

"Token的使用量很快就能累积成一个庞大的数字。如果我们审视那些疯狂押注智能体AI的企业,账单迟早会找上门来。"

皮耶雷尔表示,他所在的组织奉行谨慎原则,并举例说明如何引导员工在使用大语言模型时审慎权衡。

"对于边界非常清晰或约束条件很强的使用场景,我们会问:'我们能否选用一个小模型?那种消耗Token更少、但同样能完成任务的模型?'"

随着企业将更多智能体纳入工作流程,皮耶雷尔认为,这类Token经济学策略将是实现价值创造的关键。

"我认为我们将在这方面变得更加灵活——先尝试,再根据使用场景不断调整,从而避免产生惊人的账单,"他说,"我们又不是在把火箭送上月球,所以要保持理性——如果用较小规模的智能体同样能解决问题,就没必要部署上百万个智能体。"

Q&A

Q1:什么是Token经济学?企业为什么要重视它?

A:Token经济学是指对AI模型处理信息时消耗的Token进行计量、定价和管理的实践。随着智能体AI的普及,Token消耗量急剧上升,成本变得高昂且难以预测。例如,Boomi CEO卢卡斯表示,他个人在Claude上的花费一年内增长了10倍。因此,建立一套企业级的Token消耗管理体系,已成为控制AI成本、实现正向投资回报的核心业务活动。

Q2:企业如何在鼓励员工使用智能体的同时控制Token消耗?

A:多位企业高管给出了类似建议:一是设置防护栏和监控工具,让员工实时了解自己的Token使用成本;二是提供指导原则,帮助员工做出更高效的模型选择;三是为智能体项目设定明确的业务背景和目标,避免模糊任务导致的Token浪费;四是针对边界清晰的场景优先使用小模型,降低消耗。核心原则是:允许探索,但不放任无节制的使用。

Q3:为智能体设定业务背景,具体该怎么做?

A:Synopsys首席信息官西塔拉曼给出了一个直观的例子:如果问智能体"明天我该做什么",它会消耗大量数据和Token,却可能给出没有价值的答案。但如果将任务具体化,例如"创建一个北美销售运营智能体,目标是分析本季度销售漏斗并给出优化建议",并为其提供专属数据集,那么Token消耗就会受到有效控制,输出结果的实用性也会大幅提升。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
莫兰特当选MVP!命中半场三分率队获胜 杨瀚森多次扣篮表现出色

莫兰特当选MVP!命中半场三分率队获胜 杨瀚森多次扣篮表现出色

罗说NBA
2026-10-05 09:11:00
全网最痛真相:兰越峰被开除根本不冤?不!是整个行业装睡的人赢了

全网最痛真相:兰越峰被开除根本不冤?不!是整个行业装睡的人赢了

后世的君子
2026-10-04 10:29:37
CBA猛料!媒体人嘲讽篮协,上海大将伤病恢复良好,广东男篮伤大将

CBA猛料!媒体人嘲讽篮协,上海大将伤病恢复良好,广东男篮伤大将

中国篮坛快讯
2026-10-05 14:32:13
30天30队·热:扬尼斯、阿德巴约与克雷

30天30队·热:扬尼斯、阿德巴约与克雷

张佳玮写字的地方
2026-10-05 12:07:49
刘欢晚年定居上海真相:不是搬家,是养病!北京才是他的根

刘欢晚年定居上海真相:不是搬家,是养病!北京才是他的根

小椰的奶奶
2026-10-06 02:24:26
创新低!五粮液、通策医疗、通威股份、中国中免,近五年跌得真惨

创新低!五粮液、通策医疗、通威股份、中国中免,近五年跌得真惨

财经智多星
2026-10-05 16:00:37
99.2%上座率震撼德约科维奇,众球员沉浸式感受中国文化

99.2%上座率震撼德约科维奇,众球员沉浸式感受中国文化

新京报
2026-10-05 17:35:08
演员刘美含发文称,花18元买超前点播,看完才发现自己三分之二的戏份被剪光,并回应“作为演员,我是完全理解这些处理的”

演员刘美含发文称,花18元买超前点播,看完才发现自己三分之二的戏份被剪光,并回应“作为演员,我是完全理解这些处理的”

台州交通广播
2026-10-05 20:49:21
逼空姐下跪男乘客迎来3大噩耗,正脸、身份被扒,这下傲慢不了了

逼空姐下跪男乘客迎来3大噩耗,正脸、身份被扒,这下傲慢不了了

笑一个吧
2026-10-05 14:10:54
一起同过窗,青年演员境遇大不同,有人当导演,有人已退圈

一起同过窗,青年演员境遇大不同,有人当导演,有人已退圈

琴琴有氧运动
2026-10-05 20:11:27
曝国足10人无缘亚洲杯!U23球员将成中坚力量,6人或锁定首发

曝国足10人无缘亚洲杯!U23球员将成中坚力量,6人或锁定首发

奥拜尔
2026-10-05 16:42:48
《求是》重磅发声“就业是最基本的民生”,信号值得关注!

《求是》重磅发声“就业是最基本的民生”,信号值得关注!

识局Insight
2026-10-05 16:42:25
真不愧是“化痰冠军”,才喝2回,痰根拔掉,润喉又顺畅

真不愧是“化痰冠军”,才喝2回,痰根拔掉,润喉又顺畅

王二哥老搞笑
2026-10-01 20:43:05
中纪委严厉强调!要求各地哪怕脱层皮,也要一抓到底!

中纪委严厉强调!要求各地哪怕脱层皮,也要一抓到底!

职场资深秘书
2026-10-05 14:17:32
贵阳花果园:共 240 栋 45 层以上住宅,房价从 3 千涨到 1.4 万,如今严重分化

贵阳花果园:共 240 栋 45 层以上住宅,房价从 3 千涨到 1.4 万,如今严重分化

专业聊房君
2026-10-05 13:18:45
国庆节后,我国或将迎来四大涨潮:除了鸡蛋,这3样也有上涨压力

国庆节后,我国或将迎来四大涨潮:除了鸡蛋,这3样也有上涨压力

白米饭怎么吃
2026-10-05 08:03:12
汤姆·克鲁斯新片首周仅800万,或亏2亿美元

汤姆·克鲁斯新片首周仅800万,或亏2亿美元

赴一场山海啊
2026-10-05 03:20:56
害怕了?高市早苗最新表态:中国是日本“重要邻国” ,要构建稳定关系!

害怕了?高市早苗最新表态:中国是日本“重要邻国” ,要构建稳定关系!

王爷说图表
2026-10-05 17:37:48
意大利3-1土耳其,斯卡马卡建功,皮奥、卡拉菲奥里破门

意大利3-1土耳其,斯卡马卡建功,皮奥、卡拉菲奥里破门

懂球帝
2026-10-06 04:41:34
破纪录3.5℃!史上最强厄尔尼诺已成型,中国秋冬要变天?

破纪录3.5℃!史上最强厄尔尼诺已成型,中国秋冬要变天?

琉璃聊科学
2026-10-04 20:12:53
2026-10-06 05:04:49
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
22301文章数 49736关注度
往期回顾 全部

科技要闻

2026年诺奖:三名科学家因光遗传学获奖

头条要闻

孙颖莎整顿乒乓球观赛礼仪:有闪光灯、呐喊等干扰

头条要闻

孙颖莎整顿乒乓球观赛礼仪:有闪光灯、呐喊等干扰

体育要闻

30天30队·热:扬尼斯、阿德巴约与克雷

娱乐要闻

蔡康永回应漏洞百出,太平轮旧事被扒

财经要闻

零跑声明切割!蔡康永两面人身份被抵制

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

教育
本地
游戏
公开课
军事航空

教育要闻

广州大学27届保研424人:网络空间安全22.43%,隔壁计算机3.91%

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

XBOX要翻盘了!社区粉头盛赞三妹:纯纯实干派

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄军连续4天轰炸基辅大桥

无障碍浏览 进入关怀版