网易首页 > 网易科技 > 网易科技 > 正文

Meta内部做了个调度工具:让简单任务别再烧顶配模型的钱

0
分享至

7月22日消息,据《The Information》报道,Meta正在内部孵化一款名为Switchboard的模型路由工具,计划根据任务难度,把简单请求交给更小、更便宜的模型,较难任务再调用能力更强、价格更高的模型。这一项目仍处于早期阶段,可能不会正式发布,Meta拒绝对此置评。

Switchboard来自隶属于Meta应用AI工程团队的AAI Labs,这是Meta今年3月成立的应用AI工程团队(Applied AI Engineering)下设的内部孵化器。报道援引一份7月内部备忘录称,AAI Labs目前约有200个获批项目,覆盖消费产品、开发工具和内部基础设施。员工可以通过这个孵化器提出面向内部使用的AI产品和服务,其中一些项目未来也可能向公众开放。

项目提案直接点出了痛点:Meta目前让同一个模型处理所有编码请求,简单任务也要支付顶级模型的价格;如果统一改用便宜模型,复杂任务的效果又可能受影响。项目团队希望先给任务难度打分,再决定调用哪一个模型。

按照内部设想,Meta可以先把Switchboard用于公司内部,降低员工使用AI编程工具的成本;如果测试有效,未来也可能面向大规模运行编程智能体的机构开放。

路由工具背后的动机之一是控制成本。Meta 4月把2026年资本开支指引从1150亿—1350亿美元提高到1250亿—1450亿美元,原因包括组件价格上涨,以及为扩充未来产能而新增的数据中心建设支出。与此同时,据《The Information》报道,Meta还在建设追踪AI支出、执行token预算的平台。

项目文件把推理成本称为Meta扩大部署智能体的主要障碍。提案认为,多数编码智能体任务可由小模型处理,只有少数任务需要能力更强、价格更高的前沿模型。

OpenRouter已经把类似思路做成了公开产品。该公司6月披露每月路由量达100万亿token,并完成1.13亿美元B轮融资。其Pareto Code Router允许用户设定编码质量门槛,再从符合要求的模型中选择当前最便宜的一款;企业还可以为成员和密钥设置支出上限。

模型路由也已进入头部AI产品。OpenAI在GPT-5系统卡中介绍,GPT-5由实时路由器根据对话类型、任务复杂度、工具需求和用户意图,在快速模型与深度推理模型之间切换。(易句)

(本文由AI翻译,网易编辑负责校对)

相关推荐
热点推荐
“海王星-D”导弹连战连捷!乌军用以色列卫星终端替代“星链”?

“海王星-D”导弹连战连捷!乌军用以色列卫星终端替代“星链”?

鹰眼Defence
2026-11-08 16:54:36
11月8日俄乌:泽连斯基整肃乌安全局,俄军损失创新的绝对纪录

11月8日俄乌:泽连斯基整肃乌安全局,俄军损失创新的绝对纪录

山河路口
2026-11-08 20:24:00
李国旭:大连足球痛苦20年才总结出的东西,别好一点就全忘了

李国旭:大连足球痛苦20年才总结出的东西,别好一点就全忘了

懂球帝
2026-11-09 00:29:33
90后河南女孩的“裸女图”:没有情色,只有美

90后河南女孩的“裸女图”:没有情色,只有美

一条
2026-11-02 10:59:16
晚旗报:曼联将开会决定卡里克去留

晚旗报:曼联将开会决定卡里克去留

懂球帝
2026-11-09 06:51:02
52岁女子和62岁大爷同居,两年后女子提出分手,大爷:你肯定后悔

52岁女子和62岁大爷同居,两年后女子提出分手,大爷:你肯定后悔

小影的娱乐
2026-11-09 06:46:06
炸锅了!武契奇交出大权没几天,塞尔维亚新政府就发起反攻倒算

炸锅了!武契奇交出大权没几天,塞尔维亚新政府就发起反攻倒算

铁锤侃侃而谈
2026-11-08 18:35:55
美军4天3次空袭伊朗海岸,革命卫队宣传露馅,还有脸说控制海峡吗

美军4天3次空袭伊朗海岸,革命卫队宣传露馅,还有脸说控制海峡吗

云上乌托邦
2026-11-08 23:23:34
养了38年,隔半个月修剪一次,让一棵花绕着三层楼生长,美呆了

养了38年,隔半个月修剪一次,让一棵花绕着三层楼生长,美呆了

雪灵谷
2026-11-08 11:24:28
刘恺威好爸爸人设崩塌?刘丹意外曝光12岁小糯米独自英国留学!爸爸忙恋爱、妈妈拼事业

刘恺威好爸爸人设崩塌?刘丹意外曝光12岁小糯米独自英国留学!爸爸忙恋爱、妈妈拼事业

露珠聊影视
2026-11-08 18:55:04
72岁潘虹独自照顾92岁母亲!她后悔当年太挑剔,不生孩子是错误

72岁潘虹独自照顾92岁母亲!她后悔当年太挑剔,不生孩子是错误

细品名人
2026-10-18 16:44:37
不多见,重庆铜梁龙是本赛季中超进球最少、失球最少的球队

不多见,重庆铜梁龙是本赛季中超进球最少、失球最少的球队

懂球帝
2026-11-08 21:07:15
Anthropic流血也要IPO!估值预期跌到不如SpaceX,马斯克记录保住了

Anthropic流血也要IPO!估值预期跌到不如SpaceX,马斯克记录保住了

量子位
2026-11-08 10:09:03
不查不知道,原来这些全是潜伏在中国的日本货, 个个赚得盆满钵满

不查不知道,原来这些全是潜伏在中国的日本货, 个个赚得盆满钵满

说故事的阿袭
2026-11-08 11:36:44
燃油车时代就快结束?内行人预测:油价大概率是最后的关键!

燃油车时代就快结束?内行人预测:油价大概率是最后的关键!

抽象派大师
2026-10-23 01:57:50
17岁日本泳坛新星,透露体脂率仅6%!登上杂志封面引爆热议

17岁日本泳坛新星,透露体脂率仅6%!登上杂志封面引爆热议

阿废冷眼观察所
2026-11-08 20:34:03
36.6%,哈登效率骤降原因在哪?使用率仅有21%,阿特金森的试验是玩火自焚,米切尔打得也很累,骑士不调整在东部会很难

36.6%,哈登效率骤降原因在哪?使用率仅有21%,阿特金森的试验是玩火自焚,米切尔打得也很累,骑士不调整在东部会很难

一登侃球
2026-11-09 00:00:23
丰田章男的孤独:新发动机一箱油跑1200公里,但世界不和他玩了

丰田章男的孤独:新发动机一箱油跑1200公里,但世界不和他玩了

趣文说娱
2026-10-11 06:09:42
羡慕!在广州中心,大约只有1%的人才能拥有这样的生活

羡慕!在广州中心,大约只有1%的人才能拥有这样的生活

广州淘房志
2026-11-08 15:07:02
又一轮开始了,上万家寺庙集体大查账?

又一轮开始了,上万家寺庙集体大查账?

樱桃大房子
2026-11-08 22:09:50
2026-11-09 08:23:00

科技要闻

马斯克:“中国太棒了,我爱中国”

头条要闻

内塔尼亚胡或"失去权力" 阿拉伯裔政党成为决定性力量

头条要闻

内塔尼亚胡或"失去权力" 阿拉伯裔政党成为决定性力量

体育要闻

见证奇迹!中超冠军属于大连

娱乐要闻

敬一丹女儿追忆母亲:她被世界铭记

财经要闻

梁文锋攒了一个老乡局

汽车要闻

503.17km/h!中国超跑这次真把天花板捅穿了!

态度原创

时尚
本地
亲子
公开课
军事航空

想和热巴成为双胞胎之我尽力了!

本地新闻

乌兰察布:以前种土豆,现在种Token

亲子要闻

儿童咳嗽育儿科普

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

被问四川舰跟福建舰未来能否形成一体战斗群 专家回应

无障碍浏览 进入关怀版
×