网易首页 > 网易号 > 正文 申请入驻

Claude Code到底有多费token?对比实验来了:三大框架最多差30倍

0
分享至

机器之心编辑部

大家都说 Claude Code 浪费 Token,究竟有多费?这回终于有人算出数来了。

最近有个挺有意思的对比实验,来自 Composio 团队。他们用同一个模型 Kimi K3,分别放进三个不同的 agent 框架(harness)里跑 ——Claude Code、Hermes 和 Kimi Code—— 一共测了 28 个完全相同的任务。



结果,三个 harness 完成任务的成功率差不多:Kimi Code 是 28 个里成功 22 个,Hermes 是 21 个,Claude Code 是 20 个。差距不算大。

真正拉开差距的,是 token 消耗。同样一个任务,用不同 harness 跑下来,token 用量最多能差到 30 倍!

中位数来看,Kimi Code 大约用 6.1 万 token,Hermes 大概 6.7 万,而 Claude Code 直接飙到 34 万,差不多是 Kimi Code 的 6 倍。



按 Kimi K3 每百万输入 token 3 美元的价格算(agent 工作流里输入 token 通常占到 95% 左右),平均每个任务的成本大概是:Kimi Code 0.22 美元,Hermes 0.28 美元,Claude Code 则到了 2 美元。差距很明显。

速度方面也不一样。中位数耗时,Hermes 最快,179 秒;Kimi Code 297 秒;Claude Code 348 秒。

所以最快的是 Hermes,最省 token 的是 Kimi Code,两者并不重合。

Composio 团队由此得出一个直接的结论:如果你想降低 agent 的成本,先看看用的是哪个 harness,而不是急着换模型。他们的数据里,harness 本身就能把成本拉开 9 倍,而模型的能力表现其实差不多。



Sebastian Raschka 看到这个结果后也发了帖,说这和他之前用 Qwen3.6 做的观察类似:Claude Code 在成功率相近的情况下,token 用量往往是其他很多 harness 的 2 到 3 倍。



他提出了几个可能的原因:是没怎么优化?是有 bug?还是故意设计成这样(因为在更难的任务上可能有帮助)?他表示需要再花时间仔细查一下。

接着他补充了上个月自己写本地 coding agent 文章时的观察。当时他分析过为什么 Claude Code 用更多 token,发现差异主要出在输入 token,而不是输出 token。也就是说,Claude 并没有多写一倍的内容。日志显示,Claude 的 harness 在多轮交互中会反复把更多上下文塞回模型,包括之前的消息、工具调用、命令输出和文件内容。举个例子,某次 Claude 跑完大约用了 57.8 万输入 token,但输出只有大约 4500 token,跨了 25 轮。所以更可能的解释是,Claude 的 harness 在多步 agent 运行时,会累积或计入更大的 prompt 端历史。



这些测试结果似乎揭示了一个不容忽视的趋势:harness 的重要性已经不亚于模型本身。

最近的一篇论文(来自 Writer,一家做企业级 AI Agent 平台的公司)系统揭示了这一点:它用控制变量实验证明,换一套 harness 层比换模型更能砍成本,而且所有模型都受益。



具体来说,他们开展了一项严格的「控制变量」实验:在 22 个企业任务和 6 个基础模型(Claude Sonnet 4.6、Gemini 3.1、Gemini Flash 3.5、Qwen 3.6、GLM 5.1、Palmyra X6)固定不变的前提下,仅替换编排层 —— 将传统的生产级智能体循环替换为 Writer 自家的 Harness。

实验结果显示:每项任务的平均成本降低 41%(0.21 美元→0.12 美元),中位延迟缩短 44%(48 秒→27 秒),Token 消耗量减少 38%(14.2k→8.8k),而任务完成质量基本持平(0.78→0.81,因样本量较小可视为无显著差异)。在性价比方面,每美元成本所能获得的质量提升高达 82%,同时每百万 Token 能完成的任务数从 54.9 跃升至 92.0。

所以,在模型变成「水电煤」之后,harness 才是那个决定你电费账单的空调?换句话说:以前有人说「模型即产品」,现在是「harness即产品」?



既然 harness 如此重要,那之后的账是不是也应该算得更细一些了?

有人指出,我们有必要在现有的 benchmark 中加入「harness 税」这一项。尤其是考虑到一旦工具调用和重试进入 loop,这笔税不是线性增长。



换句话说,未来的 agent 竞赛,上半场比的是「能不能做」,下半场比的将是「做同样的事,谁更省」—— 而省钱的秘密,不在模型,在 harness。



在跑 Agent 的过程中,你有没有过类似的体验?欢迎在评论区讨论。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
A股大涨!尾盘多股跳水,原因不找了

A股大涨!尾盘多股跳水,原因不找了

中国基金报
2026-07-31 16:04:02
5小时下树!皇马就宠穆里尼奥:第5名新援到位,还有3大目标

5小时下树!皇马就宠穆里尼奥:第5名新援到位,还有3大目标

我的护球最独特
2026-07-31 12:40:42
惨烈!第一个被AI做空的国家,出现了!

惨烈!第一个被AI做空的国家,出现了!

财经要参
2026-07-29 18:20:03
宇宙最大医院,年采购40亿的药房,一个人说了算

宇宙最大医院,年采购40亿的药房,一个人说了算

万物新世相
2026-07-29 13:10:26
骑士今夏评级D联盟最差!为等詹皇一无所获亏麻 欲3换1抢沃特森改颓势

骑士今夏评级D联盟最差!为等詹皇一无所获亏麻 欲3换1抢沃特森改颓势

颜小白的篮球梦
2026-07-31 21:02:38
地下党被捕入狱后,三次借机叮嘱叛徒:你出去后,赶紧给组织传信

地下党被捕入狱后,三次借机叮嘱叛徒:你出去后,赶紧给组织传信

茅舍品史
2026-07-31 14:50:05
广东15岁女孩凌晨景区游玩,脚下木板裂开落水溺亡,栏杆上救援轮胎被填满泥土,警方介入,景区:木板不在日常维修范围内,正协商处理

广东15岁女孩凌晨景区游玩,脚下木板裂开落水溺亡,栏杆上救援轮胎被填满泥土,警方介入,景区:木板不在日常维修范围内,正协商处理

先锋新闻
2026-07-30 22:52:47
一天之内东风公司3人被查!今年已有9人落马

一天之内东风公司3人被查!今年已有9人落马

看看新闻Knews
2026-07-31 13:36:41
“王的带货”,刷屏!王虹穿搭引热议背后:2026年的中国,科学家不是必须放弃个人生活做“苦行僧”的

“王的带货”,刷屏!王虹穿搭引热议背后:2026年的中国,科学家不是必须放弃个人生活做“苦行僧”的

犀利强哥
2026-07-31 21:34:46
善恶有报!背叛中国、出卖孟晚舟的凶手现形后,如今遭到哪些报应

善恶有报!背叛中国、出卖孟晚舟的凶手现形后,如今遭到哪些报应

话史官1
2026-07-31 00:28:42
埃斯皮:加盟皇马感觉无法用语言形容,我会为球队拼尽全力

埃斯皮:加盟皇马感觉无法用语言形容,我会为球队拼尽全力

懂球帝
2026-07-31 22:34:22
10年内入狱2次,爆火后“包一晚”40万,如今的她过得怎么样?

10年内入狱2次,爆火后“包一晚”40万,如今的她过得怎么样?

混沌录
2025-07-17 22:33:44
中国女足亚运会集训名单:王霜领衔,邵子钦、彭诗梦在列

中国女足亚运会集训名单:王霜领衔,邵子钦、彭诗梦在列

懂球帝
2026-07-31 14:44:05
CBA标王要诞生!胡金秋争夺战白热化,山西报价近9位数,即将落定

CBA标王要诞生!胡金秋争夺战白热化,山西报价近9位数,即将落定

体坛侃侃球
2026-07-31 00:20:05
1-1憾平!河南主场丢分绝非偶然,一人难辞其咎,揭露3大败笔!

1-1憾平!河南主场丢分绝非偶然,一人难辞其咎,揭露3大败笔!

田先生篮球
2026-07-31 23:14:48
伊朗称自己不是委内瑞拉,委内瑞拉破防,怒斥伊朗:你看不起我

伊朗称自己不是委内瑞拉,委内瑞拉破防,怒斥伊朗:你看不起我

离离言几许
2026-07-31 18:31:14
新娘胸贴怎么选?5款新娘胸贴实测测评,不同婚纱场景选购指南

新娘胸贴怎么选?5款新娘胸贴实测测评,不同婚纱场景选购指南

商叶观察角
2026-07-17 10:27:15
监管风暴延续!继埃安、小鹏后工信部再查奇瑞、蔚来、江淮

监管风暴延续!继埃安、小鹏后工信部再查奇瑞、蔚来、江淮

经济观察报
2026-07-31 23:09:51
7月31号收评:三大指数全天冲高回落集体收涨,大盘下周将何去何从?

7月31号收评:三大指数全天冲高回落集体收涨,大盘下周将何去何从?

春江财富
2026-07-31 15:12:58
布冯悼念巴雷西:我意甲首秀时你是米兰队长,能与你同场不可思议

布冯悼念巴雷西:我意甲首秀时你是米兰队长,能与你同场不可思议

懂球帝
2026-07-31 15:37:16
2026-07-31 23:52:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13650文章数 142710关注度
往期回顾 全部

科技要闻

DeepSeek-V4-Flash正式版API上线公测

头条要闻

绿化工人工作群留遗言后坠亡 3小时后群聊被强制解散

头条要闻

绿化工人工作群留遗言后坠亡 3小时后群聊被强制解散

体育要闻

欧足联掀桌!因凡蒂诺这次真玩大了?

娱乐要闻

百花奖影帝影后即将决出

财经要闻

华强北显卡涨价潮 有显卡一周暴涨4000元

汽车要闻

听劝!换回机械门把手,这才是碳基生物该开的车!

态度原创

家居
本地
时尚
公开课
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

神仙也“蓉”漂,哪吒与八仙,皆是成都出品!

舞剧剧女的乐趣,终究是为世人知了

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

特朗普称哈马斯将全面解除武装

无障碍浏览 进入关怀版