如果按照科技产品的一般规律,东西越好用,价格就应该越便宜。但在AI这个赛道上,这个规律似乎正在失效。一边是各家大模型的能力突飞猛进,另一边却是使用成本悄悄爬升,甚至动辄失控。
个中原因,还得从一个新近被频繁提起的词说起——Token放大。这个词的走红,背后藏着当下AI经济最核心的悖论。
![]()
过去大家聊AI的经济账,目光往往集中在数据中心投了多少钱、电力消耗有多恐怖,或者市场份额怎么划分这类宏观话题。但很少有人注意到,在每一次看似简单的提问背后,真正的吞噬正在悄然发生。
现在想要一个AI老老实实回答问题,已经不算什么新鲜事了。过去两年模型能力的跃迁,让简单到中等难度的问答变得稀松平常。真正的潜力,在于让AI去执行那些多步骤、可重复的复杂任务,也就是所谓的Agent任务。以前可能得派个人花几天甚至几周才能跑完的流程,现在交给AI几分钟就能搞定。
但问题也恰恰出在这里。一个在你看来轻飘飘的请求,背后进行的处理量可能远超想象。
AI的计算时间用Token来计量。一个简单的问答,也许消耗200到2000个Token。如果需要模型上网查点资料,大概会用到1000到4000个Token。但一个Agent任务,哪怕听起来毫不起眼,轻轻松松就能烧掉数百万个Token。
怎么会差出这么多?核心就在于AI没有记忆。每次你在对话里追问一个新问题,模型不会只处理这一句话。为了理解上下文,它会把从对话开始那一刻起你写过的每一个字、它回复过的每一行内容、你上传过的每一个文件,全部重新加载并处理一遍。
这意味着一场长对话越往后拖,每一次提问的实际成本就越高。假设单独一个问题只需要500个Token,但因为要回头把前面所有历史信息再算一遍,第二个问题可能就要耗掉600个Token,第三个更多,如此累加。一场对话下来,总开销是每一次交互的累积总和,而且还有一个额外惩罚:随着聊天记录越拉越长,响应速度也会肉眼可见地变慢。
回到前面那个生成报告的请求。这类任务必须分阶段执行,比如查Excel表格要走三步,查CRM系统要四步,针对产品信息做几次网页搜索,再加上十几步中间处理和计算环节。每一步都在往Token消耗的总账上添砖加瓦,等报告跑出来,所有步骤累积下来,消耗的Token量可能已经是百万级别。
这便是成本失控的源头。哪怕在最理想的情况下,每一环节都运转顺滑,这种消耗结构本身已经决定了,越复杂的任务,开销越是指数级往上蹿。AI模型确实在变好,但这并不意味着它会变便宜,反而因为能力变强,我们开始托付给它更复杂的事情,而复杂是昂贵本身。这就是AI经济不得不面对的那个持久悖论。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.