网易首页 > 网易号 > 正文 申请入驻

AI模型、“龙虾”都离不开它,Token究竟是什么?

0
分享至

虽然 AI 智能体是你的超级牛马,但要让它好好打工,你也得付上一笔“窝囊费”。

相信关注科技圈的朋友们最近都被 OpenClaw 刷过屏,这款被戏称为“龙虾”的开源 AI 智能体,正在掀起一场全民“饲养”热潮。只需发一条消息,它就能接管你的设备,自动查资料、写代码、调试、优化,全程自主执行。

听起来很酷,但代价呢?

第一批“养虾人”已经开始觉悟:AI 牛马一点也不便宜。

在 API 服务平台 OpenRouter 的统计数据中,OpenClaw 已经成为单月消耗 Token 最多的应用,一个月内烧掉的 Token 高达10.2万亿。

为什么这么贵?

因为 OpenClaw 本身不具备推理能力,需要接入其他大模型的 API 才能运转。每发送一条指令,使用者都要向模型厂商支付费用,这个费用就是按 Token 计算的。

那么,Token 到底是什么?看完这篇文章,相信IT之家家友们能找到答案。

01. Token 是什么

要理解 Token 是什么,用一个最简单粗暴的比喻:假如你和外星人聊天,需要请一个按字收费的同声传译,那么 Token 就是这个翻译向你收取的佣金

Token 是大模型处理和生成文本的基本单位。毕竟 AI 没有人脑子,要想让它看懂我们的要求,就得把一句话掰开了揉碎了,用它能理解的方式喂进去。

什么叫 AI 能理解的方式?聪明的朋友一定想到了:大模型的底层原理也是数学运算,所以得用数字。

这个过程分两步:首先将输入文本拆分成一个个子词(Subword)片段,也就是 Token(这一步叫分词),然后将每个 Token 转换成一个唯一的数字 ID(这一步叫编码)。


每个 Token 都有唯一对应的数字 ID

换言之,AI 看到的不是我们人类理解的完整句子,而是一串由 Token 组成的序列,每个 Token 都有唯一对应的数字 ID,这就组成了大模型的词汇表。

如果这么说还是很抽象,我们不如看看下面的实例:

  • 完整的常见单词:比如“it”、“is”、“the”这类高频词,通常会成为一个独立的 Token。
  • 将单词拆分成多个部分:比如“unstoppable”可能会被拆分成“un”、“##stop”、“##able”三个 Token(##表示连接后缀)。
  • 单个字符:对于中文这种大量使用单个字符的语言,一个汉字通常就是一个独立的 Token。例如,“你好世界”会被分成4个 Token。
  • 标点符号和空格:比如“.”、“?”、换行符也都会被当作独立的 Token。

那么反过来,AI 要输出我们人类能看懂的句子,也得从词汇表一个 Token 一个 Token 的推理,然后再把它们组成一句完整的话,每个字输出的间隔,实际上就是大模型在挑选最合理的答案。

02. 为什么是 Token

你可能会问:为什么不直接按单词分?或者干脆按字母分?那样不是更简单吗?

其实现在的分词方式,正是经历各种尝试,反复权衡利弊的结果。

如果只按单词分,那么大模型的词汇表会爆炸。语言中的单词数量是无限的,各种新词每天都在被人类创造出来,更别提无以计数的拼写错误,如果每个词都独立编码,模型的词汇表会大到无法训练。

用这种方法更麻烦的是,如果遇到词汇表中没见过的单词,AI 就直接原地懵圈了,如果无人干涉,它能在这一个词上卡到海枯石烂。

如果只按字符分,就会导致 Token 序列过长。一个句子变成几百个字母,模型要处理的步骤就会直接爆炸。而且单个字母几乎没有含义,模型很难从零散的字母中学会真正的语义。


AI模型、“龙虾”都离不开Token

如此一来,子词分词就成了最佳平衡点:

常用词保留为完整 Token,生僻词拆成有含义的子词。这样即使遇到没见过的词,甚至是乱打的词,大模型也能通过认识的子词部分猜出大意。

这里还牵扯到一个现实问题:同样的内容,中文通常比英文更费 Token

英文平均1个 Token ≈ 0.75个单词,而中文1个汉字通常就是1-2个 Token。这就是为什么你用中文对话时感觉更烧钱 —— 因为汉字信息密度高又难拆,同样的意思需要更多 Token。

03. Token 与你的钱包

既然说到这里,我们不如谈谈 Token 的费用问题。所有主流大模型 API 都按 Token 计费。你输入的加上模型输出的 Token 总和就是费用。

还有一点需要注意,输出 Token 通常比输入 Token 贵,因为生成内容的计算成本更高。

除此之外,对于使用 OpenClaw 的普通用户,IT之家还要提醒:AI 智能体比传统 AI 更能花钱。

传统对话模型就像两人的简单对话,一次顶多几千、上万 Token。但 OpenClaw 这类自主智能体,陪聊之外还得干活,它要拆解目标、规划步骤、调用工具、检查结果、回退重试、自动循环…… 每一步都在消耗 Token,每一轮对话都在放大成本。

AI 智能体干起活来就像是个忘关的水龙头,你发现欠费之前都不会注意它淌了多少水出去。


养龙虾输出 Token 通常比输入 Token 贵

更麻烦的是,OpenClaw 还存在“记忆膨胀”问题,若不及时清理,会让 Token 消耗持续走高,进一步推高成本。它的“心跳机制”还会意外唤醒终止任务,造成无谓的 Token 消耗。

IDC 预测,到2030年,全球活跃 AI 智能体将达22.16亿,年度 Token 消耗量将从2025年的0.0005 PetaTokens 飙升至15.2万 PetaTokens ,增长超3亿倍。

如此看来,这只超级吞金兽现在还是幼年期呢。

04. 总结:给普通人的 Token 管理建议

综上所述,要防止 Token 账单背刺,普通人该怎么办?IT之家为你准备了以下6点建议:

  • 精简提示词。去除冗余内容,用简洁明确的指令替代长段描述。比如用“总结3点核心观点”替代“请你帮我总结这段文字的核心内容,分点列出,语言简洁,逻辑清晰”,你越会总结,AI 就越会总结。
  • 限定输出长度。在提示词中明确要求,比如“回复不超过50个字”、“总结100字以内”,避免模型为了你的情绪价值生成一堆垃圾话。
  • 及时开启新对话。当话题转换或历史对话过长时,手动新建对话,让这段对话起的 Token 计数从零开始,避免模型读取无关历史,这也是一笔隐形的冤枉钱。
  • 量入为出,精打细算。根据任务复杂度选择合适的模型,能用轻量级模型解决的,不必每次都调用高端模型。
  • 保护好 API 密钥。现在盗刷 API 比盗刷信用卡还简单,不要向任何人,也不要向智能体泄露密码、口令等敏感信息。
  • 警惕权限失控。AI 智能体没有恐惧感,就算做错了事情,你也没办法把它从屏幕里拽出来打一顿,所以要建立高危操作确认机制,及时备份,或者干脆把它关进沙箱。

Token 是个最初藏在技术文档里的冰冷术语,如今已成为行走大 AI 时代的通用货币。它既衡量着模型的智能,也算计着你的钱包。

从 OpenClaw “养虾人”的天价账单,到开发者们的精打细算,我们正在经历一个从免费午餐到按量付费的观念转变。正如电力按度计费、自来水按吨收费,Token 让 AI 服务变得可衡量、可交易、可持续,但它本身也需要更安全、更可控、更透明。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
4月25日,各上市公司纷纷发布一季度财报,多家净利润大幅增长!

4月25日,各上市公司纷纷发布一季度财报,多家净利润大幅增长!

A股数据表
2026-04-25 00:00:14
重大时刻!南京深夜传来振奋人心的消息!中国科技一举实现双突破

重大时刻!南京深夜传来振奋人心的消息!中国科技一举实现双突破

寂寞染指悲伤
2026-04-22 23:55:25
139场136球!凯恩用不到两个赛季追上埃尔伯,在德甲彻底封神!

139场136球!凯恩用不到两个赛季追上埃尔伯,在德甲彻底封神!

岁月有情1314
2026-04-24 13:57:58
25岁南开大学研究生李一帆确诊癌症,身高1米8长得帅,体重仅70斤

25岁南开大学研究生李一帆确诊癌症,身高1米8长得帅,体重仅70斤

阿伧说事
2026-04-24 13:38:29
王文灵,被免职

王文灵,被免职

新京报
2026-04-24 12:19:16
省长低调去行政大厅办事,被窗口人员呵斥:没号就滚,谁都得排队

省长低调去行政大厅办事,被窗口人员呵斥:没号就滚,谁都得排队

红豆讲堂
2026-02-26 13:20:04
礼物刷不停!马蹄露直播间痛哭,感谢网友支持!霍汶希好感度没了

礼物刷不停!马蹄露直播间痛哭,感谢网友支持!霍汶希好感度没了

娱乐团长
2026-04-24 15:40:59
【意大利】足坛丑闻!几十名球星赛后集体嫖娼,还吸“笑气”,接待姑娘才拿3、400RMB

【意大利】足坛丑闻!几十名球星赛后集体嫖娼,还吸“笑气”,接待姑娘才拿3、400RMB

鲁晓芙看欧洲
2026-04-25 06:40:38
外交部:希望芬方理性客观地看待中国同其他国家正常发展关系

外交部:希望芬方理性客观地看待中国同其他国家正常发展关系

环球网资讯
2026-04-24 15:48:11
原来他们是夫妻,彼此初恋结婚20年零绯闻,如今一起出演《金关》

原来他们是夫妻,彼此初恋结婚20年零绯闻,如今一起出演《金关》

凡知
2026-04-24 14:48:58
美国一女子在印度遭民宿员工下药强奸,民宿老板发现后试图掩盖罪行,切断网络将其“囚禁”3天

美国一女子在印度遭民宿员工下药强奸,民宿老板发现后试图掩盖罪行,切断网络将其“囚禁”3天

扬子晚报
2026-04-24 14:33:11
周美青身边人爆猛料!萧旭岑沉冤得雪,邱毅一语戳破蓝营内斗真相

周美青身边人爆猛料!萧旭岑沉冤得雪,邱毅一语戳破蓝营内斗真相

老鹈爱说事
2026-04-25 01:15:19
美媒称,革命卫队总司令瓦希迪成为美军最新打击目标

美媒称,革命卫队总司令瓦希迪成为美军最新打击目标

山河路口
2026-04-24 13:23:02
CBA宣布离谱决定

CBA宣布离谱决定

宗介说体育
2026-04-24 09:57:42
净利暴跌70%,老板套现5.5亿,“欢乐家”还能走多远?

净利暴跌70%,老板套现5.5亿,“欢乐家”还能走多远?

青眼财经
2026-04-24 22:04:17
穆里尼奥:帅位问题该说的都说了,赛季结束后我有10天做决定

穆里尼奥:帅位问题该说的都说了,赛季结束后我有10天做决定

懂球帝
2026-04-24 21:15:11
有意思了,老鹰队的库明加将战胜尼克斯的功劳归于勇士队的格林

有意思了,老鹰队的库明加将战胜尼克斯的功劳归于勇士队的格林

好火子
2026-04-25 04:32:17
网红莫氏鸡煲凉透了!从通宵排队到空无一人,终究逃不过昙花一现

网红莫氏鸡煲凉透了!从通宵排队到空无一人,终究逃不过昙花一现

阿郎娱乐
2026-04-23 15:28:38
女生主动起来有多黏人?网友:这些女的太开放了

女生主动起来有多黏人?网友:这些女的太开放了

带你感受人间冷暖
2026-01-27 00:20:06
苹果手表血氧功能解禁:一场专利战的荒诞收尾

苹果手表血氧功能解禁:一场专利战的荒诞收尾

Ping值焦虑
2026-04-21 20:23:28
2026-04-25 09:23:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
341049文章数 607167关注度
往期回顾 全部

科技要闻

DeepSeek V4牵手华为,价格依然"屠夫级"

头条要闻

两届奥运冠军、中国羽协主席张军"失联" 知情人士发声

头条要闻

两届奥运冠军、中国羽协主席张军"失联" 知情人士发声

体育要闻

上海男篮23连胜+主场全胜 姚明之后最强一季

娱乐要闻

停工16个月!赵露思证实接拍新剧

财经要闻

LG财阀内斗:百亿美元商业帝国争夺战

汽车要闻

零跑Lafa5 Ultra北京车展上市:11.88-12.48万

态度原创

房产
家居
手机
旅游
时尚

房产要闻

新一轮教育大爆发来了!海口,开始疯狂建学校!

家居要闻

自然肌理 温润美学

手机要闻

iQOO 15T首曝:天玑9500+144Hz 2K直屏+200MP主摄,主打一个堆料

旅游要闻

去景区走野路挖笋鼻梁被笋戳穿 竟起诉景区赔偿

朱珠到底为什么接这部剧?

无障碍浏览 进入关怀版