网易首页 > 网易号 > 正文 申请入驻

企业AI烧钱黑洞:一个记忆层把Token成本砍掉9倍

0
分享至

每次企业AI助手回答一个内部问题,都像从零开始认识这家公司。它不知道昨天销售团队刚签下哪个客户,不清楚产品部门上周调整了什么方向,更不了解管理层在会议里拍板了哪些决策。为了让AI"想起来",企业被迫反复做同一件事:抓取成千上万份文档、翻遍Slack聊天记录、导出CRM数据,然后一股脑塞进提示窗口。

这种暴力检索方式正在吞噬企业预算。据估算,超过50%的企业AI Token预算消耗在重复构建上下文这件事上。换句话说,你花了一半的钱,让AI反复学习它本该已经知道的东西。

把公司知识"预计算"成一张网

Coworker.ai今天发布的OM2,想解决的就是这个问题。这是一个统一的企业记忆层,它不再每次从零搭建上下文,而是持续从50多个企业平台摄取数据,把它们提炼成一张"活"的、带权限感知的神经图谱。

这套机制的核心思路是:把信息变成预先计算好的事实。当一条新信息流经公司——比如Salesforce里一个赢单、Slack里一次产品转向、会议记录里一项战略决策——OM2会把它提取成独立的结构化事实,标注清楚谁参与了、决定了什么、影响了哪些客户。这些事实只计算一次,之后所有查询都能复用,AI不需要在每次提问时重新推导一遍背景。

据Coworker.ai介绍,仅这一层结构优化,就能带来9倍的Token消耗缩减,响应速度提升64%。更值得注意的是,用户对回答质量的偏好度达到84.5%——也就是说,省了钱,答案反而更好了。

打破模型绑定,让每类任务用对的模型

OM2还顺手解决了一个被忽视的成本黑洞:模型滥用。很多企业不管任务难易,一律调用最贵的旗舰模型,账单自然水涨船高。Coworker在OM2里集成了优化路由引擎,动态分流任务——简单的数据检索交给便宜快速的模型,复杂的深度推理才动用前沿模型。

预计算上下文加上智能路由,两个机制叠加,Coworker声称总成本节省可以达到惊人的51倍。这个数字听起来夸张,但逻辑上说得通:省掉重复计算,再加上按需分配算力,双重压缩自然产生乘数效应。

数据主权:不把公司记忆锁进任何一家厂商

这套架构还有一个关键设计:它不绑定任何单一AI供应商。OM2通过Model Context Protocol(MCP)或原生应用,直接接入团队已经在用的工具——Claude、ChatGPT、Gemini、Perplexity,或者企业自建的内部Agent。公司的机构知识不再被锁在某一家厂商的封闭生态里,而是沉淀在一个中立的智能层中。

对企业来说,这意味着选择权。今天用Claude,明天想换Gemini,记忆层不用迁移,数据不用搬家。AI工具可以随时换,但公司积累的知识资产始终在自己手里。

Token成本失控,企业AI的隐形天花板

Token成本正在成为企业AI落地的隐形天花板。很多公司不是不想用AI,而是用不起——每次查询都要重新喂一遍上下文,规模一大,账单就失控。OM2的思路是把"每次重新学习"变成"一次学习,反复使用",从根上改变了成本结构。

这个方向如果成立,企业AI的采用门槛会显著降低。当Token消耗降到原来的九分之一,很多原本算不过账来的场景就变得可行了。而51倍的综合成本优化,意味着AI可以从"试点项目"变成"全公司基础设施"。

当然,这些数字目前都是Coworker.ai自己的说法,实际效果还需要真实部署验证。但从架构逻辑来看,预计算上下文加智能路由的组合,确实直击了企业AI成本的两个核心痛点。如果OM2真能做到它宣称的效果,企业AI的算账方式可能要重新写了。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
油车被电车打得满地找牙,工信部终于发话了:坚决抵制非理性竞争

油车被电车打得满地找牙,工信部终于发话了:坚决抵制非理性竞争

侃故事的阿庆
2026-09-04 00:27:30
20斤!减重20斤!你好啊!中国男篮第一后卫

20斤!减重20斤!你好啊!中国男篮第一后卫

篮球实战宝典
2026-09-03 20:55:33
安踏,快被自己养大的“小弟”挤下主位了!

安踏,快被自己养大的“小弟”挤下主位了!

可乐爱微笑
2026-09-03 22:56:06
尼泊尔泥石流中幸存的“楼坚强”,难道只是因为“幸运”吗?

尼泊尔泥石流中幸存的“楼坚强”,难道只是因为“幸运”吗?

良有方
2026-09-04 06:07:21
贾玲又胖起来,本人回应:实在维持不住,网友:我们玲儿又回来了

贾玲又胖起来,本人回应:实在维持不住,网友:我们玲儿又回来了

喜欢历史的阿繁
2026-09-02 09:16:34
大众中国正式宣布开启对星宇裁员事件的调查

大众中国正式宣布开启对星宇裁员事件的调查

何李燃
2026-09-03 08:10:39
普京就与乌克兰谈判提条件

普京就与乌克兰谈判提条件

参考消息
2026-09-03 14:10:09
40岁金融大佬身亡!从业11年,掌管公司核心机密,死因蹊跷引猜忌

40岁金融大佬身亡!从业11年,掌管公司核心机密,死因蹊跷引猜忌

小鋭有话说
2026-09-03 12:22:59
特斯拉“团灭”网约车司机,已经在路上了

特斯拉“团灭”网约车司机,已经在路上了

今纶财经
2026-09-03 19:59:35
余承东:阔折叠比例被模仿后,含金量会提升!雷军:新形态中折叠!徐洁云:“我有一个同行朋友,学习能力挺强的,大家不要嘲笑他”

余承东:阔折叠比例被模仿后,含金量会提升!雷军:新形态中折叠!徐洁云:“我有一个同行朋友,学习能力挺强的,大家不要嘲笑他”

大白聊IT
2026-09-03 23:28:14
刘强东惊天豪赌,拿下百亿白酒巨头

刘强东惊天豪赌,拿下百亿白酒巨头

跨境派Pro
2026-09-03 15:03:05
飞机上随手一拍,成都航空这位空乘小姐姐真的绝了。

飞机上随手一拍,成都航空这位空乘小姐姐真的绝了。

毒舌八卦
2026-09-03 22:32:24
吴柳芳谈退役安置不公:我没刘翔那命,只有16万买断

吴柳芳谈退役安置不公:我没刘翔那命,只有16万买断

东方不败然多多
2026-09-01 11:00:29
9秒进球越位了?申花正式上诉!足协深夜四条回应,重赛为何没戏

9秒进球越位了?申花正式上诉!足协深夜四条回应,重赛为何没戏

夕落秋山
2026-09-03 10:27:37
全面按下暂停键!日媒爆料:中国多所顶尖大学,叫停赴日交换生

全面按下暂停键!日媒爆料:中国多所顶尖大学,叫停赴日交换生

杰丝聊古今
2026-09-03 10:35:11
杨瀚森面临三条路!第一条,留在开拓者,基本没戏

杨瀚森面临三条路!第一条,留在开拓者,基本没戏

林子说事
2026-09-03 10:34:11
赵丽颖倒下了,真的很突然

赵丽颖倒下了,真的很突然

黎兜兜
2026-09-03 08:12:54
里子面子都丢了,9月刚开始,郭德纲再遭重挫,于谦上演“走面”

里子面子都丢了,9月刚开始,郭德纲再遭重挫,于谦上演“走面”

错过美好
2026-09-03 23:18:54
韩方拒换涉台标牌,中方在开幕前断然撤展,光说道歉已经不管用了

韩方拒换涉台标牌,中方在开幕前断然撤展,光说道歉已经不管用了

叹为观止易
2026-09-04 05:23:20
星宇董事长道歉仅1天,多家官媒再次痛批,言语犀利句句戳她心窝

星宇董事长道歉仅1天,多家官媒再次痛批,言语犀利句句戳她心窝

小鋭有话说
2026-09-03 12:26:40
2026-09-04 07:36:49
码上闲叙
码上闲叙
有态度网友ytd
221文章数 88关注度
往期回顾 全部

科技要闻

英伟达129亿美元拿下Hugging Face

头条要闻

男子逛夜市遭按摩摊大妈拉住 被5个大妈服务按到发红

头条要闻

男子逛夜市遭按摩摊大妈拉住 被5个大妈服务按到发红

体育要闻

梅西:巴萨10号与阿根廷10号

娱乐要闻

王宝强携女友回工作室!相恋8年仍未婚

财经要闻

章子怡套现3亿 上美拿什么补韩束的缺?

汽车要闻

限时权益价28.99万起 FREELANDER神行者8正式上市

态度原创

数码
房产
艺术
旅游
公开课

数码要闻

IFA前夜,云鲸将十周年发布会开到了柏林,还顺手秀了波具身智能

房产要闻

投资50亿!三亚又一重大配套,方案曝光!

艺术要闻

放大《汉宫春晓图》:撕掉宫斗剧滤镜,这才是明代深宫女子的真实日常

旅游要闻

巴黎自行车旅游升温,多家公司推出特色骑行线路   新民侨梁

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版