网易首页 > 网易号 > 正文 申请入驻

Token生死线:金融AI企业的降本狂奔

0
分享至

“坦白讲,窗口期已经不长了。企业的AI转型,可能要在两年内完成。”

盈米基金高级技术总监梁仲智指出,率先完成转型的企业将获得巨大的成本和效率优势,从而锁定所在领域的增量市场。在他看来,AI转型已不关乎发展,而是企业的“生死问题”。

然而,当前多数企业的AI落地正陷入困境。大量厂商和App仅在原有交互形态上“硬塞”一个AI助手,却难以真正解决用户的业务问题,导致用户使用强度普遍不高。问题的核心往往不在于技术本身,而在于生产关系难以匹配新的生产力,而调整生产关系是一个极其痛苦的过程。

据麦肯锡《2026年组织状态报告》显示, 高达88%的AI试点项目未能规模化,主因并非技术缺陷,而是评估机制缺失和治理障碍。组织准备度不足作为一项“慢变量”相比技术风险更具有隐蔽性。

盈米基金的探索非常具有参考性。自2026年起,这家企业便开始主动求变展开AI改革。仅在研发端,所有角色便被合并为“产品工程师”。其旗下的AI智能助手“AI小顾”已累计处理超过100万个用户提问,当Token消耗达到每日百万级的真实调用时,成本不再是抽象的数字,而是一张实实在在的账单。

据盈米基金董事长肖雯近日公开透露,盈米内部已部署200多个模型,月Token消耗量达千亿级别,AI已不再是实验项目,而是真正成为了水电煤,成为了普通员工日常工作的必需品。

金融场景Token消耗三座大山

在探索降本路径前,盈米基金已尝试了模型分级调度、Prompt精简、缓存与预计算、RAG优化等多种手段,虽有效果,但他们希望找到更接近底层逻辑的解决方案。

梁仲智分析认为,金融场景的Token消耗有三大特征,直接推高了成本:

一是上下文特别长。⾦融决策需要综合⼤量信息——⼀个客户的持仓数据、交易历史、⻛险偏好、沟通记录,加在⼀起可能就是⼏千甚⾄上万Token。这跟写⼀个代码补全完全不是⼀个量级。

二是对准确性要求极高。个人用户可以容忍AI写的博客文章有点啰嗦,但企业却不能容忍AI给出的投资建议算错收益率。这意味着金融场景往往需要更强(也更贵)的模型,以及更多的推理步骤。

三是场景的价值密度差异极大。用户问“什么是基金定投”和高净值客户问“我的500万资产怎么配置”,消耗的Token可能差不多,但业务价值相差几个量级。

“Token焦虑这个词很准确”,但在梁仲智看来,它更多是认知阶段的产物,焦虑往往来自“不知道值不值得”,如果能清楚算出每一笔Token消耗对应的业务价值,焦虑就会消失。

除了常见的“炫技式调用”、“暴力式上下文”、“重复式推理”等浪费外,梁仲智特别指出了一种更隐蔽的浪费:“用概率推理解决确定性问题”。这类场景本该开发成传统软件,一次开发、无限复用,却被反复交给 AI 处理,凭空产生了线性成本,其浪费加起来可能占企业AI应用50%以上的Token消耗。

为此,盈米基金发展出了一套“Token套利”思维框架:

第一步,判断该场景是否有最优解。如果有,最好的做法是将其开发成传统软件——一次开发、无限复用、边际成本为零,比如基金筛选器、净值查询、账户总览等。 第二步,如果确定没有最优解,再看Token套利是否成立。在线性成本场景中,Token消耗本质上是在购买“非线性增长的杠杆”。

基于此,盈米基金选择在金融投顾场景上大量投入Token,让每一个Token替代的不是几分钱的计算成本,而是几十块甚至几百块的人力边际成本。

“工业革命的机器是一次投入、边际成本趋于零的,AI时代的机器是按使用量付费的,边际成本不为零。传统软件时代,你追求一次开发、无限复用;AI时代,你追求的是每一次调用都创造正向价值。这是一个根本性的思维转变。”梁仲智指出。

让Token不成为成本中心

事实上,Token成本的精细化管控,正从企业的选修课变为必修课。

高盛2026年5月发布的报告指出,AI行业正从成本叙事转向利润叙事。报告显示,主流大模型Token定价已从此前每年约40%的降幅趋于稳定,而英伟达、AMD、谷歌TPU等驱动的每Token算力成本仍在以每年60%-70%的速度下降。两条曲线的“剪刀差”正在打开利润空间。高盛预计,到2030年,消费端和企业端Agent合计将推动全球Token消耗量较2026年增长24倍,达到每月约120千万亿个Token。

“如果现代中文比英文更省Token,那作为人类语言中信息密度最高的书面语之一,文言文是否也行?”

2024年底,海外社交媒体上出现了一波“学中文省Token”的热潮:美国开发者发现,同样的意思用中文表达,Token数量比英文少很多。

梁仲智通过实测发现:将同一段话分别用英文、现代中文、文言文写出,计算Token消耗。结果惊人,文言文的Token数量大约只有英文的30-40%。

这也是Token-Zip提出的核心思路:用一个低成本高速度的模型将用户原始输入翻译成文言文,然后用高成本高质量的模型用文言文思考和回答,最后再还原输出最终结果。相当于在昂贵模型的两端加了一个“压缩-解压”层。

实测显示,在54个跨14个领域的英文提示词用例中,平均节省51%的费用成本,且回复质量也有所提升。“我们推测,这是因为文言文的简洁性迫使模型更聚焦于核心信息,减少了废话。”梁仲智补充。

此外,金融场景是一类需要大量自然语言交互的场景,如投顾服务、客户咨询、研报⽣成、合规审查,这些场景的输⼊和输出都是以自然语言为主。Token-Zip的benchmark数据显示,⾃然语⾔密集型内容的压缩效果最好:如法律60%、教育60%、医疗57%、金融经济类45%。这意味着金融场景天然适合Token-Zip所提代表的压缩方案。

过去两年,盈米基金在Token成本控制上已经构建了一套分层策略:

一是模型路由,不是所有场景都用最贵的模型,只有真正需要强推理能力的场景才会用到顶级模型。并且选择模型的过程也不是一次性决策,而是持续优化的过程。 二是Prompt工程与上下文管理,包括精简system prompt、动态加载上下文、优化few-shot示例等。 三是场景固化,当一个AI场景被反复使用且逻辑稳定后,将其从每次从零推理逐步固化为模板化执行,Token消耗量可能降低80%。AI帮开发人员快速验证一个场景是否有价值、逻辑如何,一旦验证通过且模式稳定,就可以进行场景固化。

当然,当前三步工作都做完之后,对那些确实需要用贵模型且无法进一步固化的场景,便可以使用Token-Zip提供额外的压缩层。此外,盈米基金还实践出一条最具战略价值的路径——AI原生能力再资产化,即将企业内部所有的金融能力(如数据查询、投研分析、交易执行等)封装成AI原生的标准化工具(MCP Server),每个工具都有清晰的语义描述和标准化的输入输出格式,届时AI调用时Token消耗量将大幅降低。

整体来看,从模型路由到场景固化,再到Token-Zip和AI原生工具封装,盈米基金正在构建一套系统化的Token成本控制体系。这套体系的核心不是简单地“省钱”,而是让每一笔Token消耗都变成可计算、可衡量、可优化的价值投资。

当你知道每一个Token都在为你购买非线性增长的杠杆时,Token焦虑就会真正消失。“消耗Token不是坏事,但这个过程中一定要思考,如何将这些Token消耗稳定且持续地转化为企业增量。”梁仲智建议。

(作者 | 杨丽,编辑 | 杨林)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
有些央国企降本增效最大的荒唐,裁正式员工,却砸大钱养外包!

有些央国企降本增效最大的荒唐,裁正式员工,却砸大钱养外包!

细说职场
2026-06-12 14:26:56
王光美与女儿刘亭亭的合影,画面中人来人往,很有烟火气息

王光美与女儿刘亭亭的合影,画面中人来人往,很有烟火气息

大江
2026-06-11 13:39:36
鹅腿阿姨用鸭腿翻车成就人大食堂主任:冤屈终于洗白,只卖真鹅腿

鹅腿阿姨用鸭腿翻车成就人大食堂主任:冤屈终于洗白,只卖真鹅腿

蜜桔娱乐
2026-06-11 11:06:32
刘青山有多奢侈?开进口轿车,为吃顿饺子,派人去北京运韭菜

刘青山有多奢侈?开进口轿车,为吃顿饺子,派人去北京运韭菜

人生录
2026-06-10 19:21:18
厄尔尼诺已在太平洋形成,滞后效应或使2027超越2024成最热一年

厄尔尼诺已在太平洋形成,滞后效应或使2027超越2024成最热一年

红星新闻
2026-06-12 16:15:26
“夏不养阳,一年白忙”,3道“养阳菜”,端午前后多吃,阳气足

“夏不养阳,一年白忙”,3道“养阳菜”,端午前后多吃,阳气足

花小厨
2026-06-12 14:48:36
入夏后,少吃茄子土豆,多吃“夏季三宝”,顺时而养,安康过夏天

入夏后,少吃茄子土豆,多吃“夏季三宝”,顺时而养,安康过夏天

秀厨娘
2026-06-12 14:42:06
1988 年老山前线师长李德金被指私藏枪支,最终只搜出一串钥匙

1988 年老山前线师长李德金被指私藏枪支,最终只搜出一串钥匙

唠叨说历史
2026-06-09 10:43:18
网传武汉大学7000多退休职工,月均领10000,每年需9亿社保供应…

网传武汉大学7000多退休职工,月均领10000,每年需9亿社保供应…

慧翔百科
2026-06-09 12:21:35
李金羽社媒官宣亮相新岗位!已接受高薪邀请将挑大梁,值得期待

李金羽社媒官宣亮相新岗位!已接受高薪邀请将挑大梁,值得期待

振刚说足球
2026-06-11 10:41:51
火箭4号签豪赌威尔逊,公牛拒放,西部格局或改写?

火箭4号签豪赌威尔逊,公牛拒放,西部格局或改写?

宝哥精彩赛事
2026-06-12 13:06:58
美国军队痛哭流涕,这次犯了一个大错,美国不该发动伊朗战争

美国军队痛哭流涕,这次犯了一个大错,美国不该发动伊朗战争

揭秘历史的真相
2026-06-11 21:22:04
生育率的“回旋镖”还是呼啦啦来了

生育率的“回旋镖”还是呼啦啦来了

新浪财经
2026-05-18 07:42:35
大补的鱼,不是带鱼和鲫鱼,而是这3种鱼,一周吃2次,补脑益智

大补的鱼,不是带鱼和鲫鱼,而是这3种鱼,一周吃2次,补脑益智

花小厨
2026-06-12 15:36:13
西班牙球迷:我觉得中国队参加世界杯了!外国网友:他们太厉害被禁赛

西班牙球迷:我觉得中国队参加世界杯了!外国网友:他们太厉害被禁赛

宝哥精彩赛事
2026-06-12 13:41:18
梅毒患者难辨认?医生提示:看到2种人,还是小心些为好

梅毒患者难辨认?医生提示:看到2种人,还是小心些为好

健康之光
2026-06-07 14:35:07
库尔图瓦:续约不是问题,最理想的是能在马德里结束职业生涯

库尔图瓦:续约不是问题,最理想的是能在马德里结束职业生涯

懂球帝
2026-06-12 15:44:17
李在明发表涉台不当言论,否定安美经中,韩网友“珍惜中韩关系”

李在明发表涉台不当言论,否定安美经中,韩网友“珍惜中韩关系”

民哥台球解说
2026-06-12 10:57:16
苏州一对情侣,谈了7年,女子提了18次分手,分手后在街头痛哭!

苏州一对情侣,谈了7年,女子提了18次分手,分手后在街头痛哭!

川渝视觉
2026-04-17 22:13:14
涉及中国,英伟达否认

涉及中国,英伟达否认

观察者网
2026-06-12 09:13:35
2026-06-12 16:55:00
钛媒体APP incentive-icons
钛媒体APP
独立财经科技媒体
134976文章数 862250关注度
往期回顾 全部

科技要闻

鸿蒙7发布,余承东:首个完成AI化改造系统

头条要闻

国内最大黄金盗窃案告破:价值2700万 两主犯身份披露

头条要闻

国内最大黄金盗窃案告破:价值2700万 两主犯身份披露

体育要闻

欧洲恐韩?肉德维德?

娱乐要闻

与热巴恋情曝光1天,陈飞宇现身

财经要闻

万亿美元顺差背后,透露这些信号

汽车要闻

佟湘北:全新smart#6 自成一派好看更好开

态度原创

旅游
时尚
本地
教育
数码

旅游要闻

湖北襄阳:溶洞秘境引客来

奚梦瑶带火的这个单品,原来日常可以这样用

本地新闻

AK刘彰邂逅河北南大港湿地

教育要闻

七点钟到校即将成为历史

数码要闻

靠谱除湿机品牌怎么选?很多人买错了,国内Top品牌德业打个样

无障碍浏览 进入关怀版