网易首页 > 网易科技 > 网易科技 > 正文

Meta内部做了个调度工具:让简单任务别再烧顶配模型的钱

0
分享至

7月22日消息,据《The Information》报道,Meta正在内部孵化一款名为Switchboard的模型路由工具,计划根据任务难度,把简单请求交给更小、更便宜的模型,较难任务再调用能力更强、价格更高的模型。这一项目仍处于早期阶段,可能不会正式发布,Meta拒绝对此置评。

Switchboard来自隶属于Meta应用AI工程团队的AAI Labs,这是Meta今年3月成立的应用AI工程团队(Applied AI Engineering)下设的内部孵化器。报道援引一份7月内部备忘录称,AAI Labs目前约有200个获批项目,覆盖消费产品、开发工具和内部基础设施。员工可以通过这个孵化器提出面向内部使用的AI产品和服务,其中一些项目未来也可能向公众开放。

项目提案直接点出了痛点:Meta目前让同一个模型处理所有编码请求,简单任务也要支付顶级模型的价格;如果统一改用便宜模型,复杂任务的效果又可能受影响。项目团队希望先给任务难度打分,再决定调用哪一个模型。

按照内部设想,Meta可以先把Switchboard用于公司内部,降低员工使用AI编程工具的成本;如果测试有效,未来也可能面向大规模运行编程智能体的机构开放。

路由工具背后的动机之一是控制成本。Meta 4月把2026年资本开支指引从1150亿—1350亿美元提高到1250亿—1450亿美元,原因包括组件价格上涨,以及为扩充未来产能而新增的数据中心建设支出。与此同时,据《The Information》报道,Meta还在建设追踪AI支出、执行token预算的平台。

项目文件把推理成本称为Meta扩大部署智能体的主要障碍。提案认为,多数编码智能体任务可由小模型处理,只有少数任务需要能力更强、价格更高的前沿模型。

OpenRouter已经把类似思路做成了公开产品。该公司6月披露每月路由量达100万亿token,并完成1.13亿美元B轮融资。其Pareto Code Router允许用户设定编码质量门槛,再从符合要求的模型中选择当前最便宜的一款;企业还可以为成员和密钥设置支出上限。

模型路由也已进入头部AI产品。OpenAI在GPT-5系统卡中介绍,GPT-5由实时路由器根据对话类型、任务复杂度、工具需求和用户意图,在快速模型与深度推理模型之间切换。(易句)

(本文由AI翻译,网易编辑负责校对)

相关推荐
热点推荐
厨师离职,老板要求交出配方?步骤不写清,不结工资……法院判了

厨师离职,老板要求交出配方?步骤不写清,不结工资……法院判了

极目新闻
2026-07-21 17:46:40
争夺海峡主导权,美伊对峙难缓和,美国或将陷入更深层次地区困局

争夺海峡主导权,美伊对峙难缓和,美国或将陷入更深层次地区困局

上观新闻
2026-07-21 20:28:09
每秒自旋25次把身子转成“虚影”:西北大学这架无人机用混乱视觉隐身,人眼几乎抓不住它

每秒自旋25次把身子转成“虚影”:西北大学这架无人机用混乱视觉隐身,人眼几乎抓不住它

报错免疫体
2026-07-21 04:38:54
东北人扎堆撤离三亚!曾经的避寒天堂,怎么留不住普通了?

东北人扎堆撤离三亚!曾经的避寒天堂,怎么留不住普通了?

青眼财经
2026-07-22 08:00:19
2026年上调退休人员养老金通知,正式下发了么?算清三笔民生账!

2026年上调退休人员养老金通知,正式下发了么?算清三笔民生账!

白昼说故事
2026-07-22 09:52:05
1.2亿天价保单!中国人寿不认账,还是彻底丢脸?

1.2亿天价保单!中国人寿不认账,还是彻底丢脸?

李云飞Afey
2026-07-21 21:53:51
看了世界杯中场秀,我才知道什么是经济上行的美

看了世界杯中场秀,我才知道什么是经济上行的美

罗sir财话
2026-07-21 10:17:31
全国最后一位长征女红军王全英逝世,享年105岁

全国最后一位长征女红军王全英逝世,享年105岁

红星新闻
2026-07-22 09:09:36
噩耗!《哥斯拉大战金刚》聋哑小女孩演员车祸去世,年仅19岁

噩耗!《哥斯拉大战金刚》聋哑小女孩演员车祸去世,年仅19岁

韩小娱
2026-07-22 10:20:39
杭州路边出现“胶囊小吃车”,需2万押金+每月1200多元租金,自带油烟机和空调,有夫妻摆摊4天每天近1000元流水

杭州路边出现“胶囊小吃车”,需2万押金+每月1200多元租金,自带油烟机和空调,有夫妻摆摊4天每天近1000元流水

极目新闻
2026-07-22 10:40:59
英国变天,新首相上台就掀桌子,直接废除前任计划,对华态度曝光

英国变天,新首相上台就掀桌子,直接废除前任计划,对华态度曝光

牛锅巴小钒
2026-07-22 04:41:19
谢贤离世风波再起!王菲探望细节曝光,张柏芝三胎身世、遗产内情终揭晓

谢贤离世风波再起!王菲探望细节曝光,张柏芝三胎身世、遗产内情终揭晓

观察鉴娱
2026-07-22 09:32:42
中小学入学迎来重大调整,教育部已经下达通知,2026年9月1日全国统一执行

中小学入学迎来重大调整,教育部已经下达通知,2026年9月1日全国统一执行

每天分享天下事
2026-07-20 17:30:27
峨眉山猴子“克星”现身?游客拿假蛇防身效果显著,景区工作人员回应:猴子怕蛇是刻在骨子里的,但久了也会识破

峨眉山猴子“克星”现身?游客拿假蛇防身效果显著,景区工作人员回应:猴子怕蛇是刻在骨子里的,但久了也会识破

潇湘晨报
2026-07-21 16:31:29
“深夜扰嫖”,拍门少年仍“错不至死”啊!

“深夜扰嫖”,拍门少年仍“错不至死”啊!

新动察
2026-07-22 10:20:47
父亲晒200万海归女儿,放话啥男孩才配,网友一句话戳破残酷现实

父亲晒200万海归女儿,放话啥男孩才配,网友一句话戳破残酷现实

阿郎娱乐
2026-07-22 09:58:39
夏雨泪曝谢贤临终前一年就已失智:他曾是香港最潇洒的男人,最后却忘了自己是谁

夏雨泪曝谢贤临终前一年就已失智:他曾是香港最潇洒的男人,最后却忘了自己是谁

今古深日报
2026-07-22 11:42:44
我穿便装到丈夫家过年,当局长的大姨夫对我各种使唤,我没说话

我穿便装到丈夫家过年,当局长的大姨夫对我各种使唤,我没说话

有态度网友19Dsym
2026-07-22 00:54:54
惊呆!网友车门被长腿美女开门撞损后无意间揭开一起地下情…

惊呆!网友车门被长腿美女开门撞损后无意间揭开一起地下情…

魔都囡
2026-07-22 09:15:16
70万打水漂了!丈夫掏空全部积蓄未能救回患癌妻子,发现妻子手机里写给初恋:当初要是嫁给你就好了

70万打水漂了!丈夫掏空全部积蓄未能救回患癌妻子,发现妻子手机里写给初恋:当初要是嫁给你就好了

火山詩话
2026-07-21 17:21:28
2026-07-22 14:52:49

科技要闻

怕了?美财长扬言:严查中国AI

头条要闻

媒体:特朗普若承认伊朗海峡管理权 会被喷"丧权辱国"

头条要闻

媒体:特朗普若承认伊朗海峡管理权 会被喷"丧权辱国"

体育要闻

“不会进球”的前锋,在世界杯决赛进球了

娱乐要闻

谢贤离世风波再起!王菲探望细节曝光

财经要闻

被误伤的A股:韧性、预期与底气

汽车要闻

WAIC专访|易启未来余志勇:网易孵化按摩机器人 能识穴会“手法”

态度原创

本地
数码
时尚
旅游
公开课

本地新闻

杭州诗意路名,自带氛围感

数码要闻

一文看懂2026 Intel酷睿Ultra CPU命名与性能分级

整容、断骨、换血,欧美白男正扎堆服美役

旅游要闻

“禁团令”难阻赴陆热潮

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×