(来源:中国改革报)
转自:中国改革报
Token究竟是什么?
知乎答主笙囧同学
你可以把词元(Token)理解成乐高积木。语言是用积木拼出来的东西。模型处理语言,不是看你拼好的成品,而是把它拆回一块一块的积木,然后处理这些积木。
积木的大小不是固定的。常见的组合,积木块大。生僻的组合,积木块小,甚至拆到一块砖头一块砖头的粒度。你说一句话,模型把它拆成积木进行处理,然后一块一块地把回答拼出来,再还原成你能看懂的文字。整个过程,积木就是Token。
我国日均Token消耗量已突破140万亿 这是一个什么量级的概念?
知乎答主平凡
不同的AI任务在每次调用时消耗的Token数量差异显著,可以大致分为几个级别。微型任务(Micro)每次约消耗200个Token,典型应用包括意图识别、情感分析或关键信息抽取。小型任务(Small)约消耗750个Token,适用于一句话问答、短句翻译或标题改写。标准任务(Standard)消耗量在1500个Token左右,例如进行普通问答或段落润色。
对于更复杂的增强型任务(Enhanced),每次消耗约4000个Token,可用于撰写邮件或小方案、总结5页文档,或进行附带示例的代码讲解。处理长文档或会议纪要(Long-form/Meeting)则需约1.15万Token,能完成10~20页的综述或整理1小时的会议内容。
而涉及超长上下文(Very Long Context)的任务消耗剧增至约8.5万Token,典型场景是检索增强生成(RAG)或对长代码库进行问答。最消耗资源的当属智能体工作流,每次调用可高达60万Token,用于驱动多步骤工具链或执行“写作—评审—改写”这类复杂循环任务。
不同的用法消耗的Token数量天差地别,很有可能10%的人消耗了90%的Token,特别是智能体类型的工作,因为它的每次消耗大多是以完成任务为主要目的,所以用起Token会非常快。随着大模型的发展,Token价格会越来越便宜。
Token和我们普通人有什么关系?
《中国战略新兴产业》杂志记者 卜文娟
Token就像我们生活里的“智能电表”,它默默计量着我们使用AI的每一分“脑力”。每次你让AI帮忙写总结、做翻译、甚至规划旅行,都在消耗Token,这正让它像水和电一样,成为我们触手可及的基础资源。正因为有了这个清晰的计量单位,企业才能推出灵活的服务,让AI从昂贵的技术变成人人用得起的工具。更深刻的是,Token消耗的暴增意味着AI正从新奇玩具变成每个人的“能力放大器”——它让我们用更少的时间消化信息、用更低的门槛完成专业任务,就像给普通人的双手和大脑装上了高效引擎。所以,Token不只是一个技术参数,它实实在在地记录并推动着每个人更高效、更富有创造力的新生活。
(本报记者杜壮编辑整理,设计崔一)
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.