网易首页 > 网易号 > 正文 申请入驻

一文读懂词元:你每问AI一句话,背后都在消耗什么?

0
分享至

“词元崛起”系列报道

日均140万亿次的Token调用量,见证AI应用的井喷式爆发,也勾勒出中国词元经济的强劲脉动。
什么是“词元”?词元经济是什么?它正如何改变我们的工作和生活?南都大数据研究院推出“词元崛起”系列报道,从科普解码到趋势剖析,从落地实践到风险预警,更聚焦广东如何凭算力底座与生态优势抢占先机,拆解词元经济的底层逻辑,探寻其发展中的机遇与挑战,与您一同读懂这一重塑未来的新经济力量。

第一期,一文读懂AI处理信息的基本单位“词元”。

超140万亿——这是到今年3月,我国的日均Token调用量。而我们让AI翻译的每一句话,写的每一份周报,修的每一张图片,乃至向AI的每一次吐槽,都在为这个天文数字“添砖加瓦”。

国家数据局局长刘烈宏指出,词元不仅是智能时代的价值锚点,更是连接技术供给与商业需求的“结算单位”。Token(词元)到底是什么?它和AI有什么关系?又为什么被看作智能社会的重要基础资源与核心生产要素?南都大数据研究院带你读懂。



AI世界的最小“信息块”

首先需要区分的是,Token在不同领域被赋予了不同的使命,由此衍生出不一样的叫法。在区块链领域,Token常被译为“代币、通证”,强调其价值载体、流通凭证的属性;在网络安全领域,Token则常被译为“令牌、记号、标记”,指用于验证身份、传递权限的标识符号。

最近爆火的“词元”,是人工智能领域名词Token的中文名。根据由全国数据标准化技术委员会归口的《数据 基础术语》国家标准(征求意见稿),词元(Token)的定义是:人工智能领域智能设备中信息存储、处理和交换的具有一定语义的基本符号表达。在大模型中作为模型处理和交换信息的最小单位,具有可计量、可定价、可交易的特征。

如何理解这一定义?我们要先理解AI如何“读懂”人类的话。

语言文字对于人类而言,本身携带意义,但对于大模型来说,文字只是符号,要让大模型处理语言,就必须先把这些文字符号转成数字编号。词元就是这个过程中最关键的基础单位。

当我们向AI输入一段指令,大模型通过分词器(Tokenizer)将字句拆分为小块,也就是词元(Token),再赋予对应的数字编号(Token ID),AI模型内部就可以根据训练数据集和设计算法,分析理解Token的含义、Token之间的关系,进而推测我们想要表达的意思。然后,AI会生成一串新的Token,再经由分词器还原回人类能够理解的语言进行输出。

比如,当我们问AI“Token的中文名是什么”时,大模型可能会先将它拆分为[Token/的/中文名/是/什么]5个词元,再根据它们分别对应的数字编号进一步推理计算,最后给出我们“词元”的回答。



同理,我们输入的图像、音视频等多模态,在AI大模型眼里也和文字没有差别,它们都要经由分词器变成数字,都遵循着“把输入的信息切成小块→给每个词元编号→进行计算(模型推理)→生成新编号→再还原成信息输出”的流程。简而言之,技术上,词元就是将人类自然语言进行切分,变成让AI能够理解处理的“语言”的最小单元。

这也就不难理解,为什么“养龙虾”开始风靡后,Token消耗量呈几何级数增长。因为对于AI Agent(智能体)而言,“整理文档”“收发邮件”等看似简单的任务,往往都需要拆分成多个指令,调用数十次乃至上百次大模型推理,而每一次交互背后都要生成与消耗大量Token。

值得一提的是,虽然Token的中文译名是“词元”,但它并不单纯与字词(Word)一一对应,Token既可能是人类语言意义上的短语、单词,也可能是词根、词缀、子词或单个字、标点符号,又或者是图像块、语音片段,我们不能把Token简单换算成“多少个字”或者“多少个词”。

语言、上下文、大模型分词算法和训练语料的不同,可能都会对具体的“拆法”带来区别,导致算出来的Token数相差几倍。比如,“人工智能”一词可能整体被视为一个Token,但如果分词器词表中没有“人工智能”这个整体词,也可能会被拆成“人工”“智能”两个Token;而“artificial intelligence”这个英文短语,则可能被不同的大模型切分为2到4个Token。



一般而言,算法会优先将高频出现的字符组合保留为一个整体,以提高效率。例如,一个2字常用词“中国”可能只占1个Token,而一个罕见单字却可能需要两个Token。另据Open AI官网,1个Token约对应4个英文字符或0.75个英文单词,而非英文文本通常比英文文本消耗更多Token。

衡量AI算力成本的“计价器”

每一次AI服务调用都对应明确的词元消耗,处理的词元越多,就需要进行更多的计算,消耗更多算力成本,正是词元这种“可计量、可定价、可交易”的特征,使得大多数AI付费服务的费用,能够按照消耗Token数量进行计算。

也就是说,词元不仅是大模型处理信息的最小单位,更是AI算力成本计费的统一度量衡,是连接技术供给与商业需求的结算单位。词元之于AI,如同“度”之于电力,“流量(GB)”之于互联网,词元消耗量越大,意味着AI服务被使用越频繁、产业商业化程度越高。对于普通用户而言,了解Token计费规则,可以让你的“数字员工”“AI搭子”成本更可控。

目前,大多数大模型API的计费方式是:总费用=输入Token数×输入单价+输出Token数×输出单价。

不同模型的价格不同。一般来说,模型越强大、能力越强,Token单价越贵。以Open AI的GPT-5.4为例,其标准版每百万Token的输入价格是经济版nano的12.5倍,输出价格则为12倍。同一个模型输入和输出的Token单价也存在差异,一般输出价格更贵,这主要是由于输出需要更多计算资源。

当然,不同公司的大模型服务定价策略实际更为复杂,除了模型的类型、能力外,还会受到模型的成本、受众以及公司的定位与商业模式等多重影响。

就每百万Token输出价格来看,目前,中国模型普遍在0.42到3.6美元之间,性价比较高;而Open AI的GPT-5.4是15美元,Google的Gemini 3.1 Pro则根据提示词(prompt)长度不同分为12美元和18美元两个价格,Anthropic于近日发布的最新模型Claude Opus 4.7则定价为25美元。

驱动智能社会的“基础资源”

回到根本,词元不会凭空产生,它是由高性能的GPU在消耗大量电能、完成数千亿次推理运算后产生的数字资产。每一个词元的生成,都对应着算力运转和电力消耗,而这背后的物理存在形式,正是数据中心。

由此可见,词元正是串联数据、算法(智力)、算力三大核心要素的关键枢纽,不应仅被简单看作AI算力成本的计费单位。当下,围绕词元的生产、交换、分配与消费,一套新的价值体系正在加速演进形成,并成为人工智能产业发展的重要路径。

在英伟达GTC大会的演讲中,英伟达CEO黄仁勋提出,AI行业竞争已从“大模型时代”发展到“词元产能”时代,未来的数据中心将不再是存储文件的仓库,而是“生产Token的工厂”,每瓦特电力的Token吞吐量(能效)会成为决定其竞争力与营收的核心指标。而词元则是AI时代的“新大宗商品”“硬通货”,未来将根据速度和智能程度分层定价,为推理场景打开更广阔的商业化空间。

以数字化为核心的新基建正在成为全球各国争相布局的战略高地。2026年,我国政府工作报告首次明确提出“打造智能经济新形态”,并将“超大规模智算集群、算电协同等新基建工程”纳入重点任务。而电力与算力的协同效率,正是词元生产、调用、分发的核心成本锚点。

可以说,如同水、电一样,词元正成为驱动智能时代社会运转的重要基础资源、核心生产要素,推动AI服务实现可精确计量、可持续调度、大规模交易,与我们的生活工作、企业的长远发展,乃至一个国家的竞争力都息息相关。

出品:南都大数据研究院

文字:南都研究员 唐静怡

设计:原毅 何欣

资料来源:国家数据局、中国科学院、科普中国网、艾媒咨询、公开媒体报道等

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中央考核巡查组当场戳破弄虚造假,湖南多人被严肃追责问责

中央考核巡查组当场戳破弄虚造假,湖南多人被严肃追责问责

上观新闻
2026-08-15 20:10:48
社保全额缴纳引发热议,很多地方普通职工工资达不到社保最低标准,少的部分谁来补

社保全额缴纳引发热议,很多地方普通职工工资达不到社保最低标准,少的部分谁来补

Mr王的饭后茶
2026-08-15 15:55:02
悲催!同济大学博士学投中兴、大疆等多家头部企业,简历初筛就被刷落,网友:第一学历是原罪

悲催!同济大学博士学投中兴、大疆等多家头部企业,简历初筛就被刷落,网友:第一学历是原罪

火山詩话
2026-08-15 19:16:26
前天安门国旗护卫队队长“徐班长”被控诉断崖式分手!本人发声回应曝未婚妻隐瞒婚史,还育有两个孩子

前天安门国旗护卫队队长“徐班长”被控诉断崖式分手!本人发声回应曝未婚妻隐瞒婚史,还育有两个孩子

火山詩话
2026-08-14 05:21:13
“榜一大哥”打赏200万粉丝女主播超千万求交往,遭拒后起诉,女方家属:打赏系自愿,实际到手金额因平台抽成远低于指控数额

“榜一大哥”打赏200万粉丝女主播超千万求交往,遭拒后起诉,女方家属:打赏系自愿,实际到手金额因平台抽成远低于指控数额

台州交通广播
2026-08-15 19:22:56
被立案仅2天,郭德纲再迎新麻烦,岳云鹏才是德云社真正的聪明人

被立案仅2天,郭德纲再迎新麻烦,岳云鹏才是德云社真正的聪明人

小鋭有话说
2026-08-15 19:09:39
16日凌晨WTT大满贯!半决赛诞生,陈熠惨败,王艺迪再战张本美和

16日凌晨WTT大满贯!半决赛诞生,陈熠惨败,王艺迪再战张本美和

南海浪花
2026-08-16 03:08:43
演都不演了!郭德纲出事不到24小时,恶心的事发生,郭麒麟受牵连

演都不演了!郭德纲出事不到24小时,恶心的事发生,郭麒麟受牵连

社会日日鲜
2026-08-15 09:24:57
陈熠再战张本美和,大败而回,她已成精

陈熠再战张本美和,大败而回,她已成精

真理是我亲戚
2026-08-16 02:03:29
贵州从外省引进的15名县委书记,半数已落马

贵州从外省引进的15名县委书记,半数已落马

记录刘杰
2026-08-14 23:13:34
世界大学学术排名发布:清北浙交进30强;上海14校上榜,含“双非”院校

世界大学学术排名发布:清北浙交进30强;上海14校上榜,含“双非”院校

上观新闻
2026-08-15 12:04:54
国家防总办公室、应急管理部继续组织多部门会商部署重点地区防汛抢险工作

国家防总办公室、应急管理部继续组织多部门会商部署重点地区防汛抢险工作

北青网-北京青年报
2026-08-15 20:44:07
首秀0-3惨败,内斯塔:半场结束应该换掉所有人,包括我自己

首秀0-3惨败,内斯塔:半场结束应该换掉所有人,包括我自己

懂球帝
2026-08-15 12:37:13
西安一家五口吃烤肉未付款离开,店家公开监控希望对方回去买单

西安一家五口吃烤肉未付款离开,店家公开监控希望对方回去买单

映射生活的身影
2026-08-15 17:20:33
从特区变成“特困”,曾和深圳同为特区,这个城市为何扶不上墙?

从特区变成“特困”,曾和深圳同为特区,这个城市为何扶不上墙?

史料布籍
2026-08-15 21:53:40
政审发现我名下多了5家公司,我没追问,直接以法人身份申请注销,把公司资产全部捐赠,有人急了

政审发现我名下多了5家公司,我没追问,直接以法人身份申请注销,把公司资产全部捐赠,有人急了

晓艾故事汇
2026-08-15 09:14:36
以为只是肠胃炎,竟然是癌症!浙江17岁少年,从确诊到离世仅一个半月!医生:身体发出这些“求助信号”,千万别忽视

以为只是肠胃炎,竟然是癌症!浙江17岁少年,从确诊到离世仅一个半月!医生:身体发出这些“求助信号”,千万别忽视

环球网资讯
2026-08-15 15:47:05
《牛来》综合票房突破100万,导演亲友发声:妈妈为孩子圆梦,纯“手搓”耗时5年;媒体评:猎奇可以是偶尔的消遣,不该成为常态的激励

《牛来》综合票房突破100万,导演亲友发声:妈妈为孩子圆梦,纯“手搓”耗时5年;媒体评:猎奇可以是偶尔的消遣,不该成为常态的激励

BRTV新闻
2026-08-15 21:27:33
悲痛!不到48小时三名人相继辞世,最大105岁,每一位都让人不舍

悲痛!不到48小时三名人相继辞世,最大105岁,每一位都让人不舍

就一点
2026-08-14 16:07:23
将美国赶出阿富汗五年后,塔利班邀请美国回来:可以带着外交官和资金回来,但不能带军队

将美国赶出阿富汗五年后,塔利班邀请美国回来:可以带着外交官和资金回来,但不能带军队

第一财经资讯
2026-08-15 15:12:29
2026-08-16 06:12:49
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
627518文章数 3590096关注度
往期回顾 全部

科技要闻

600亿美元收购落地 马斯克正式杀入

头条要闻

"榜一大哥"打赏女主播超千万要求陪睡 女方拒绝被起诉

头条要闻

"榜一大哥"打赏女主播超千万要求陪睡 女方拒绝被起诉

体育要闻

体系球员与体系本身

娱乐要闻

宋慧乔晒自拍照 微笑拍照心情佳

财经要闻

便利蜂加盟遭立案:"0元加盟"生意被查

汽车要闻

杨洋成001号车主 岚图追光S正式上市

态度原创

旅游
本地
房产
家居
教育

旅游要闻

跨越七百年风雨,滇南这座古寺,读懂中华文化的包容之美!

本地新闻

黄景藏用半刀泥刻瓷都魂

房产要闻

金茂、招商,海南多个岗位招人!

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

考了这么多年试,终于我也能考别人了

无障碍浏览 进入关怀版