去年年底,硅谷科技圈掀起一股名为“Token Maxing”的风潮——创始人和工程师们争相晒出AI账单,比谁家Token消耗更吓人,以此彰显对AI的全力押注。到了今年年中,这场烧钱竞赛走到了转折点:成本失控和虚假生产力让越来越多公司开始重新审视这笔账。
Uber四个月烧穿全年AI预算,Meta被迫给员工设定Token使用上限,一些公司甚至会在内部弹窗提醒员工“这个模型很贵,可以先用其他模型”。从“无脑烧Token”到“精打细算”,硅谷正在经历一场关于AI成本认知的集体转向。
![]()
这期节目请到了两位亲历者:Llama Ventures高级技术合伙人张宏江,以及Llama Ventures合伙人、PingCAP CTO兼联合创始人黄东旭。黄东旭曾是Token Maxing的忠实拥趸,如今却成了“本地开源模型+前沿模型”混合路线的倡导者。
“不是前沿模型用不起,而是本地开源模型底座+前沿模型的搭配,成本可控,更具性价比。”黄东旭这样总结自己的转变。
一天四五百美元的账单
黄东旭坦言,自己有过账单爆掉的时刻。“我当时属于‘无脑用最强’。”去年11月,他开始用当时最强的模型从0到1构建一个分布式数据库——这是他所能想到的最复杂的软件项目。
“在最复杂的任务上,我没有办法精确评估最强模型跟第二强模型的差别,所以最好的策略就是永远选最好的模型。”那段时间,他每天的账单是四五百美元,而且还是在已经使用了订阅服务的情况下。
这笔钱花得值吗?黄东旭认为超值。他举例说,那个叫db9的云原生分布式数据库项目,从去年12月开发到今年3月,一个人三个月就做出来了。“以前我受限于人力和技术水平做不出来,但现在用上最强的AI,它能让我做出来。”他估算,如果这个软件质量做到七八十分,一年就能带来1000万美元的直接收入。
不过他也指出,Token Maxing在社区里被误解了。“它是个结果,是滞后指标,经过思考的Token Maxing才能产出好结果。但大公司里领导要,大家就刷榜,产生很多无效调用。”
泡沫论:张宏江说“没有”
对于市场是否存在泡沫,张宏江态度明确:“去年12月我就说没有泡沫。”他认为,当前AI革命与互联网早期的基建相比,从GDP占比看还小得多,“远远没有到所谓的过度投资”。
他还提到一个关键数据:Token价格过去几年一直以每年降10倍的速度下降。“技术和应用不存在太大泡沫,股市是另一回事。这次革命如此迅猛,很多企业不知所措,一开始放开用,突然发现Token超了预算,又往回缩,这是个自然的过程。”
黄东旭完全认同这一判断。他把今天的AI基建比作上世纪五六十年代的计算机:“一个房间的电子管,好大好贵,但没有它就没有后来的个人计算机。在充分的基建之后才会诞生出新需求,新需求会刺激更多基建。”他认为,Token的高效使用还有很多优化空间,短期可能回落,但长期来看仍有大量需求还没被看见。
OpenClaw:捅破窗户纸的那个软件
在Token消耗趋势的演变中,开源Agent项目OpenClaw是一个标志性事件。黄东旭评价说,OpenClaw不是为重度软件工程设计的,更像是个人助理,通过Agent能力连接现实世界。它把编程Agent代表的“Agentic loop加工具调用”理念,变成了对普通用户来说门槛更低的东西。
张宏江则从另一个角度解读:“Peter作为OpenClaw的作者,花一个礼拜就把OpenClaw做出来,这代表大模型的能力过了一个坎——推理能力如此之强,编程能力如此之强,能让一个架构师级别的工程师在很短时间内做出一个系统,标志着从研究进入工程,从模型进入Agent。”
至于哪一版模型的能力实现了这一跨越,两位嘉宾的判断略有不同:张宏江认为是Claude的Opus 4.5,去年11月;黄东旭则认为是GPT 5.4,去年七八月。
为什么火的是OpenClaw?黄东旭分析,首先它是开源软件,开源在今天天生更具传播力;其次它一开始就坚持“local-first”理念,所有隐私数据配置在本地,“完全是一个极客会做出的选择”。张宏江补充说,Peter曾表示一直觉得大公司会做,等了好几个月没做,就自己hack出来了。“当大势准备好之后,其实就需要一个人捅破一张纸,OpenClaw正好是捅破了这张纸。”
Agent进化与Token的未来
从OpenClaw到Hermes,再到Agent蜂群的智能涌现潜力,Agent产品的进化速度超出预期。两位嘉宾都认为,Agent消耗Token的趋势不会停止,未来还会有更复杂的A2A(Agent-to-Agent)网络。
张宏江亲历了互联网、移动互联网、AI三波浪潮,他认为Token Maxing折射出的是所有人在面临AI浪潮时的不知所措。“AGI奇点已经到来,现在做Agent是好时机,但关键是:别做容易被大模型碾压的应用。”
对于如何更经济地使用Token,黄东旭的实践给出了一个方向:前沿模型负责“智力碾压”的复杂任务,大量日常任务交给本地开源模型——“只烧电费,不烧Token”。这种混合搭配,正在成为成本敏感型团队的新选择。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.