网易首页 > 网易号 > 正文 申请入驻

从 Token-Maxxing,到 Token-Minimizing

0
分享至

最近,各家都掏出了 flash 版的口粮模型:又快又好又便宜,干啥都不心疼无论国内的 DeepSeek V4.1-Flash、GLM-5.3-Flash,抑或是海外的 Gemini 3.8 Flash,都被各家作为便宜大碗的主力模型进行推广,让那些需要做,但投入产出评估上不值得 Fable 一类模型出马的事情,变得值得落地了

这个的背后,其实有个小小的时代变化:从 Token-Maxxing,到 Token-Minimizing


Token-Maxxing

Token-Maxxing 这个词是今年上半年传开的,直白一点就是「把 Token 猛猛地烧起来」,尽可能多的并发,尽可能多地去搞;到了国内,这个词还有个变形「全民养虾

在当时,Meta 内部一个按 Token 用量给员工排名的看板,还会授予“Token Legend”这样的称号,大抵能翻译成「词元天尊」,用来表达对“先进个人,先用 token”的激励

在当时各个大厂都在想着法地让人去用 token,毕竟虽然 Agent 并不能 100% 搞定任务,但它可以并行几十种方案去探索,即便是没搞定也能让员工更好地积累经验。都是行业的早期阶段,浪费一些计算,好过错失一些可能,万一探索出来点东西,比如省了团队半年的开发,怎么看都是赚的

但到了这里,事情也开始分叉:有些人开始 token 空烧比如写一个脚本,每天上班的时候让他的 10 个 Agent 并行去「帮我解答哥德巴赫猜想」...然后在 1 小时内消耗掉了他的所有额度,进而美美去摸鱼了,更有甚者...把公司的 token 资源代理一下,成为了中转站大佬


于是,业内开始了一轮反思:我们应该如何更有效地利用 token?我们使用 token,本质上也是在做一种智力分配,在一些值得探索的问题投入更多的智力,而不是为了证明自己很会用 AI 而去消耗

于是,我们进入了下一种思潮:Token-Minimizing,去细致地核算每一份智力的产出

Token-Minimizing

任何公司都希望大家把 AI 用起来、去完成更多的任务,但任何公司的预算都是有限的,在这里就有了 Token-Minimizing 的提出:要压低每份合格交付的总成本,对不同的任务进行不同的预算规划,去降低每个任务的总成本


注意,这里用的是「总成本」,也就是「人力+token」的总消耗;假如是为了省下一百元的 Token,而去耗掉一万块的人力,这叫煞笔



也正是趁着更多模型跨过可用门槛,我们的模型厂商也顺势推出了甜品型 flash 模型,标准大概是:

  • 智力在 Opus 4.6 以上

  • 价格在头部模型的 1/10 以内

  • 速度通常在 100 token/s 或者更快

比如 DeepSeek 的 V4.1-Flash 的价格,就只有 Opus 4.8 的 1/10;而 GLM-5.3-Flash(也就是牛来)则甚至做到了 Opus 4.8 的 1/40,斩杀了当时绝大多数的模型


于是,一个非常朴素的问题出现了:没有其他特殊要求的话,我为什么选你?一个模型不必赢过所有对手,但必须在斩杀线外找到一个位置。

因此,模型的比赛开始同时往两个方向走:

  • 继续向上,探索此前做不到的事情

  • 也努力向左,用更低成本完成已经能做到的事情

讨论于外滩大会

前几天我在外滩大会,在台上台下参与了很多场的分享,其中的部分场次也提到了「Token-Minimizing」的一些话题

百灵团队聊到阿福选模型的一个变化:过去优先使用最大、最好的模型,现在一些较小的模型也能跨过业务要求的“水位线”,成本和响应速度就开始影响选型

这个变化其实挺能说明问题:Token-Minimizing 如果只理解成“省 Token”,还是说窄了。

阿福技术负责人进捷说得很直接。用户规模起来以后,推理成本会变得非常高;而且 C 端应用还有一个特别现实的问题——用户不会一直等你。模型可能只是在 Benchmark 上慢了几秒,但放到产品里,等 5 秒用户可能就走了。

所以当小模型也能跨过业务水位线之后,问题自然就从“谁最聪明”,变成了:谁能在足够聪明的情况下,更快、更便宜、更稳定地把事情办完,真正重要的是“端到端的任务成功率”。

单轮回答得又快又便宜,但最后任务没办成,前面省下来的 Token 也没什么意义。


外滩大会上,还有另一个模型的介绍,是百灵上个月发布的金融增强模型 Ling-3.0-flash-Fin。它沿用 Ling-3.0-flash 的架构,124B 总参数、5.1B 激活参数,再通过金融语料训练、领域后训练和工具使用优化,强化信息检索、研究推理、估值建模与研报撰写。它要交付的东西,包括能追溯数据、保留公式、继续编辑的研究文件

其中有一个 Google 2026 Q2 财务模型更新的演示:模型读取财报和一份包含 7 张工作表、5,000 余个公式的 Excel,把该季度的预测值更新为实际披露值,同时处理公式切换、跨表依赖和图表,最后交回仍可编辑的工作簿

沿着这个例子,思考还可以进一步展开:越来越多的任务,会便宜到不值得人陪同虽然 Flash 能够有效降低执行成本,但假如每次都需要研究员先发现变化,再不断检查,实际上也是一种浪费。于是可以构想出未来的一种工作方式:核心任务交给检验 Harness,把无法通过检验的任务再交给工作人员

对应着放出来的,还有蚂蚁集团联合中金打造了 FinFIRST(Financial Information Retrieval, Sourcing and Traceability)。该评测基准由 50 余名金融专业人士深度参与设计,从结果、过程和证据三个层面,系统评估答案是否准确完整、研究口径与计算是否合理,以及关键数据与结论能否回溯至权威原始资料


FinFIRST 与代表性金融 Benchmark 的能力维度对比

在这个过程中,机构可以把模型接进自己的数据和工具环境,用来帮助判断问题出在哪一步,其背后思考的理念也便是 Token-Minimizing对于金融这类需要严格把关的行业,除了要在高频调用下节省 token 外,还需要有效地降低复核和返工的用时,这样才能算是真的 Token-Minimizing

毕竟,在金融这种场景里,这个成本可能比 Token 贵多了。

百灵团队聊模型边界时提到一个挺反直觉的问题:现在很多 Benchmark 会鼓励模型“尽量答”。不知道也猜一个,反正猜中了有分,不回答反而没分,反正就是很“舔狗”。

但真实世界完全不是这么回事。

百灵金融模型负责人月引举了一个金融评测里的现象:有些模型碰到不确定的问题,会一口气给出几十种口径;从 Benchmark 的角度看,它可能覆盖到了正确答案,但一个真正的研究员不可能拿着几十个互相冲突的判断去做决策。

所以在严肃场景里,百灵反而会提高对拒答的奖励——不知道的时候,宁愿告诉用户不知道。

这其实也是另一种 Token-Minimizing:

不是少说几个字,而是少制造一次错误,少让一个人花半小时帮 AI 擦屁股。


FinFIRST 候选题依次经过专家编写、独立复答、交叉验证、Rubric 审核、压力测试和一致性检查,最终保留 123 道任务

或许,站在 5 年前的视角看现在,一切都有点魔幻:人工智能在自我递归迭代,并在产生各种可被执行的需求如果再沿着百灵的思路补半句,或许是:真实世界最终会告诉模型,什么才叫“把事做成”

最后

我们甚至可以假设:即便是今天强如 Fable,也未必打得过六个月后的 Gemini Flash(虽然也,反正我是觉得旗舰的溢价里,很大一部分是时间优势

然后随着模型智能水位的不断提升,叠加到并不是所有的厂商都能够占据最头部的智能生态位,我们便会看到许多的模型以 Flash 的名义被推出(或许这些模型本就应该标记为 pro),对于所有模型都做得到的工作,其实并没必要多瞎花钱

于是,那些原本需要人做,或者 Fable 级别模型来做,以至于 ROI 很难看的事情,现在便有了规模化的可能,大抵便是:Pro 告诉我们啥事儿能交给 AI,Flash 告诉我们啥事儿值得交给 AI


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
房产大局已定,9 月起,房价或将迎来 4 大变化

房产大局已定,9 月起,房价或将迎来 4 大变化

专业聊房君
2026-09-19 15:23:40
浙江夜场整治风波!女子回乡相亲 12 次,一听籍贯直接遭男方拒绝

浙江夜场整治风波!女子回乡相亲 12 次,一听籍贯直接遭男方拒绝

宝哥精彩赛事
2026-09-19 01:13:41
央视开播!55集历史大剧来袭,看完主演阵容,我敢说:这部剧要爆

央视开播!55集历史大剧来袭,看完主演阵容,我敢说:这部剧要爆

蹲坑看世界
2026-09-18 22:04:11
西方为何痛批中国治沙?真相曝光:动了的不是沙子,是老外奶酪!

西方为何痛批中国治沙?真相曝光:动了的不是沙子,是老外奶酪!

史之铭
2026-08-25 17:15:36
京沪高铁收支出炉:运行满 15 年,总投资约 2209 亿,回本了吗?

京沪高铁收支出炉:运行满 15 年,总投资约 2209 亿,回本了吗?

抽象派大师
2026-09-15 13:35:53
他被释永信骗得最惨,为葬入少林寺捐46亿,如今结局如他所愿吗

他被释永信骗得最惨,为葬入少林寺捐46亿,如今结局如他所愿吗

江山挥笔
2026-09-18 17:45:54
姚策生父郭希宽去世,到死都不知错换真相,杜新枝:遭网友误解,情绪得不到发泄

姚策生父郭希宽去世,到死都不知错换真相,杜新枝:遭网友误解,情绪得不到发泄

汉史趣闻
2026-09-19 14:26:57
波兰总理图斯克:谈判都是幌子,俄只接受乌投降

波兰总理图斯克:谈判都是幌子,俄只接受乌投降

名人苟或
2026-09-19 15:37:40
男篮输日本20分!揪出3个最差之人,坑惨了球队

男篮输日本20分!揪出3个最差之人,坑惨了球队

体育哲人
2026-09-18 20:43:02
马里布:苹果首款折叠iPhone Duo铰链无松垮感

马里布:苹果首款折叠iPhone Duo铰链无松垮感

IT之家
2026-09-19 09:30:11
烟草系统拉响警报:再这样下去,中国烟草真要出大问题

烟草系统拉响警报:再这样下去,中国烟草真要出大问题

阿振观点
2026-08-25 05:56:32
实探鸿蒙智行门店:仍在销售问界车型,但面临“二选一”抉择,销售人员称“赛力斯渠道独立是为推轿车、MPV做准备”

实探鸿蒙智行门店:仍在销售问界车型,但面临“二选一”抉择,销售人员称“赛力斯渠道独立是为推轿车、MPV做准备”

每日经济新闻
2026-09-18 22:06:23
抚恤待遇:机关计发40个月,事业20个月,企业为何另有一套算法?

抚恤待遇:机关计发40个月,事业20个月,企业为何另有一套算法?

据说说娱乐
2026-09-13 08:57:50
日本伦理片有多敢拍!看完深夜失眠,后劲大到怀疑人生

日本伦理片有多敢拍!看完深夜失眠,后劲大到怀疑人生

手工制作阿歼
2026-09-18 08:42:53
三名机长吃印度酒店早餐,飞行途中集体拉稀,飞机差点变无人驾驶

三名机长吃印度酒店早餐,飞行途中集体拉稀,飞机差点变无人驾驶

杭城村叔
2026-09-18 13:55:07
印度外长苏杰生在接受媒体采访时曾表示:中国的经济、军事实力快速增长,是全球有目共睹的!不要以为只有印度有"中国焦虑症"

印度外长苏杰生在接受媒体采访时曾表示:中国的经济、军事实力快速增长,是全球有目共睹的!不要以为只有印度有"中国焦虑症"

扶苏聊历史
2026-09-19 16:15:10
毛主席写给蒋中正的唯一一封楷书书信!您见过吗?斜中求正!

毛主席写给蒋中正的唯一一封楷书书信!您见过吗?斜中求正!

书画相约
2026-08-06 09:16:37
山西“超二代”郭妲佼大婚,富豪爸爸当场落泪,布置奢华宛如天宫

山西“超二代”郭妲佼大婚,富豪爸爸当场落泪,布置奢华宛如天宫

嫹笔牂牂
2026-09-18 07:07:56
女篮大胜泰国采访!杨舒予直指疲惫+谦逊谈暴走,邓雨婷不满发挥

女篮大胜泰国采访!杨舒予直指疲惫+谦逊谈暴走,邓雨婷不满发挥

篮球资讯达人
2026-09-19 16:39:55
为什么远洋巨轮的发动机,自起航那一刻起就绝对不能熄火?

为什么远洋巨轮的发动机,自起航那一刻起就绝对不能熄火?

抽象派大师
2026-08-19 22:27:59
2026-09-19 17:39:00
赛博禅心
赛博禅心
拜AI古佛,修赛博禅心
559文章数 58关注度
往期回顾 全部

科技要闻

要走650亿,智谱的理想越来越贵

头条要闻

市委书记称"债都是前面欠的 凭什么让我还" 党报表态

头条要闻

市委书记称"债都是前面欠的 凭什么让我还" 党报表态

体育要闻

好吧,中国男篮辛苦了

娱乐要闻

蔡卓妍小腹凸起疑怀孕?本人没回应

财经要闻

江西首富破产:一张927万商票压垮千亿帝国

汽车要闻

搭载华为乾崑智驾ADS 5 SE 星海V6上市9.99万起

态度原创

手机
数码
时尚
家居
艺术

手机要闻

苹果首次回应iPhone Duo折痕问题:并未消失 但已设法让用户逐渐忘记它的存在

数码要闻

二向箔充电器!酷态科推出6号氮化镓电能卡AIR三体联名版:透明外壳

今日热点:科学家发现全新猫科物种;白举纲婚礼……

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

22幅风景油画,来自10位当代画家!

无障碍浏览 进入关怀版