网易首页 > 网易号 > 正文 申请入驻

实测:工具定义在每次模型调用中消耗多少 token

0
分享至

一个读者在讨论MCP和API的文章下面问了一个问题,作者当时答不上来:有没有实测过,实时发现工具的那一次往返,和提前把整理好的工具清单交给模型,token成本差多少?盈亏平衡点又在哪里?

当时作者只能从原理上推。现在这篇用数字来回答,测量工具放在配套仓库的 measure/ 目录下。


先纠正一个前提:发现那一步几乎不花钱

实时发现工具的往返成本接近于零。MCP客户端每个会话调用一次 tools/list,不是每一轮都调,返回的内容本质上就是你可以手工整理出来的那份清单。

真正花钱的地方在别处,而且更大:不管客户端最后拿到哪些工具,这些工具的定义会在每一次模型调用时被注入上下文。手工整理的清单同样要付这笔钱。

所以"发现还是清单"根本不是问题的轴。轴是:上下文里塞了多少个工具定义、这些定义写得多啰嗦、以及一个任务要调用多少次模型。

这件事不需要把大模型放进回路里就能精确测量,用分词器就行。

测量方法

测量工具把 tools 数组按它到达模型时的样子序列化——JSON格式,包含名称、描述、以及带每个参数说明的输入结构——然后统计 cl100k 分词数。

锚点是真实的:餐厅示例的三个工具,就是 Functions MCP 扩展实际提供的那三个。围绕这个锚点,工具生成了合成的企业级工具(search_invoice、approve_claim 之类,每个两到四个参数),描述分三档:精简(一个句子片段)、写实(用途加参数指引,参照示例里真实的描述写法)、啰嗦(使用指引、示例、以及每个东西的边界情况说明)。

一个诚实的提醒:不同的测量工具在重新格式化定义时会有细微差别,所以绝对数字只能算接近,相对差异才是可靠的。

数字本身

真实的三工具餐厅服务,每次模型调用消耗 277 个 token。这就是全部的常驻账单,也正是在这个规模上盈亏平衡点立刻就到——根本没有什么值得省的东西。

规模一上去,画面就变了。增长在工具数量上是线性的,大约每个工具精简档 64 token、写实档 111 token、啰嗦档 208 token。没有断崖,只有一条斜线。

描述风格本身就是一层乘数:在任何规模下,啰嗦档的成本大约是写实档的 1.9 倍,是精简档的 3.3 倍

斜率是按任务复利,不是按会话

一百个写实档工具,每次模型调用要花 11,132 个 token。一个二十次调用的智能体任务,光工具定义就要付大约 223,000 个 token——这还没算一句对话、一个字节的工具输出。

那位读者问的整理版对照:从这一百个工具里挑出五个相关的,每次调用 542 个 token,省下 95%

那盈亏平衡点到底在哪

像示例那样的服务,找不到平衡点,277 个 token 就是噪音。作者对这条曲线的判断是:工具数量低于大约十个,什么都别做。

再往上,省下来的钱才开始变得值得动手整理。而决定这条线位置的,不只是工具个数,还有你写描述时的手有多松。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
有后续了!快递员救助摔倒老人反被索赔92万,驳回老人上诉请求

有后续了!快递员救助摔倒老人反被索赔92万,驳回老人上诉请求

西昆仑Bruce
2026-09-17 16:15:19
为何 KFC 要几乎强制手机点单?看网友的吐槽:引起万千共鸣

为何 KFC 要几乎强制手机点单?看网友的吐槽:引起万千共鸣

另子维爱读史
2026-09-17 20:41:04
佟丽娅接受采访,首次公开此前婚姻细节:没想过拍《北爱》会和陈思诚好,他没有打过我,当年没立即离婚不是因为“懦弱”

佟丽娅接受采访,首次公开此前婚姻细节:没想过拍《北爱》会和陈思诚好,他没有打过我,当年没立即离婚不是因为“懦弱”

极目新闻
2026-09-17 21:33:02
广西平陆运河9月16日一开闸,直接打通大西南出海“生命线”。川渝云贵货物一脚油门直达北部湾,再也不用绕道他国、看人脸色

广西平陆运河9月16日一开闸,直接打通大西南出海“生命线”。川渝云贵货物一脚油门直达北部湾,再也不用绕道他国、看人脸色

扶苏聊历史
2026-09-17 18:30:16
31岁医学女博士辞去医生工作,送外卖、做驻唱:想试试生活有多少种可能

31岁医学女博士辞去医生工作,送外卖、做驻唱:想试试生活有多少种可能

扬子晚报
2026-09-17 20:39:38
南医大坠亡事件大反转!同门师兄发声,长文揭露导师“真面目”

南医大坠亡事件大反转!同门师兄发声,长文揭露导师“真面目”

行舟问茶
2026-09-17 22:21:00
网传某知名机器人被清华大佬狠批为上市圈钱大量造假,评论区炸锅

网传某知名机器人被清华大佬狠批为上市圈钱大量造假,评论区炸锅

慧翔百科
2026-09-17 11:52:47
网红巴旦木公主被问“怎么做到又瘦又有胸的”,本人回应:“是科技”

网红巴旦木公主被问“怎么做到又瘦又有胸的”,本人回应:“是科技”

韩小娱
2026-09-17 17:16:37
炸裂!女网红和男子开房,因动作太猛导致女网红腰部骨折,告上法庭索赔50万

炸裂!女网红和男子开房,因动作太猛导致女网红腰部骨折,告上法庭索赔50万

小徐讲八卦
2026-09-17 09:49:48
随着日本0-2、波兰0-1,U20女足世界杯八强全诞生:2大亚洲劲旅在列

随着日本0-2、波兰0-1,U20女足世界杯八强全诞生:2大亚洲劲旅在列

侧身凌空斩
2026-09-18 02:34:41
贫穷能让一个人有多卑微?网友:给05年小富婆妹当过狗,还给130斤小富婆做了俩月男朋友

贫穷能让一个人有多卑微?网友:给05年小富婆妹当过狗,还给130斤小富婆做了俩月男朋友

带你感受人间冷暖
2026-09-15 00:05:19
没想到,在敬一丹告别仪式上,55岁康辉竟因一个动作实现口碑暴涨

没想到,在敬一丹告别仪式上,55岁康辉竟因一个动作实现口碑暴涨

古书奇谈
2026-09-17 20:11:30
赛力斯确认大撤退

赛力斯确认大撤退

贩财局
2026-09-17 17:40:42
陈建州术后晒合照,王力宏帮其提尿壶,发长文自省:不抽烟不喝酒不应酬,但6年每天只睡三四小时,6点起床送小孩上学,“我以为撑得住”

陈建州术后晒合照,王力宏帮其提尿壶,发长文自省:不抽烟不喝酒不应酬,但6年每天只睡三四小时,6点起床送小孩上学,“我以为撑得住”

极目新闻
2026-09-17 20:52:18
11月15日起北京全域禁存无人机,大疆的麻烦才刚开始

11月15日起北京全域禁存无人机,大疆的麻烦才刚开始

ZAKER新闻
2026-09-17 21:25:08
男篮半决赛杀疯了!中国队血拼日本队争前2:郭士强这次真输不起?

男篮半决赛杀疯了!中国队血拼日本队争前2:郭士强这次真输不起?

篮球快餐车
2026-09-17 08:43:24
天塌了!女子捏废2008年金福娃,吐槽像纸皮。人果然赚不到认知以外的钱!

天塌了!女子捏废2008年金福娃,吐槽像纸皮。人果然赚不到认知以外的钱!

品牌新
2026-09-17 12:50:00
我问老公,张馨予那么有钱,为什么买一辆15万的车?老公说,不是他们买不起,而是何捷不想让人说闲话。

我问老公,张馨予那么有钱,为什么买一辆15万的车?老公说,不是他们买不起,而是何捷不想让人说闲话。

可读
2026-09-17 22:43:34
“中国人不来也没关系”?打脸了!

“中国人不来也没关系”?打脸了!

环球时报国际
2026-09-17 17:15:36
李小璐疑似新男友曝光!被拍到与嘻哈歌手赵涛逛公园,4年3次同框引猜测

李小璐疑似新男友曝光!被拍到与嘻哈歌手赵涛逛公园,4年3次同框引猜测

露珠聊影视
2026-09-17 16:25:38
2026-09-18 08:40:49
Ping值焦虑
Ping值焦虑
有态度网友ytd
286文章数 101关注度
往期回顾 全部

科技要闻

理想i9来了,这价格战连自己人都打

头条要闻

牛弹琴:胡塞节节胜利 巴基斯坦表态"不惜一切代价"

头条要闻

牛弹琴:胡塞节节胜利 巴基斯坦表态"不惜一切代价"

体育要闻

逆转朝鲜,国足亚运队“啃老”过关

娱乐要闻

rapper赵涛恋情曝光!带甜馨妈妈散步

财经要闻

中国汽车:尾大不掉,必须出清

汽车要闻

小鹏G9L限时售23.18万 旗舰级的配置/诱人的价格

态度原创

健康
游戏
旅游
亲子
教育

剧烈头痛伴呕吐,警惕脑动脉瘤破裂

《给他爱5》发售迎来13周年 累计销量已达2.3亿份

旅游要闻

石林风景区入选全国必去景区“百强榜”

亲子要闻

小恐龙选择了紫色的旺旺碎冰冰

教育要闻

都没有做出来,怎么回事儿?

无障碍浏览 进入关怀版