网易首页 > 网易科技 > 网易科技 > 正文

Meta内部做了个调度工具:让简单任务别再烧顶配模型的钱

0
分享至

7月22日消息,据《The Information》报道,Meta正在内部孵化一款名为Switchboard的模型路由工具,计划根据任务难度,把简单请求交给更小、更便宜的模型,较难任务再调用能力更强、价格更高的模型。这一项目仍处于早期阶段,可能不会正式发布,Meta拒绝对此置评。

Switchboard来自隶属于Meta应用AI工程团队的AAI Labs,这是Meta今年3月成立的应用AI工程团队(Applied AI Engineering)下设的内部孵化器。报道援引一份7月内部备忘录称,AAI Labs目前约有200个获批项目,覆盖消费产品、开发工具和内部基础设施。员工可以通过这个孵化器提出面向内部使用的AI产品和服务,其中一些项目未来也可能向公众开放。

项目提案直接点出了痛点:Meta目前让同一个模型处理所有编码请求,简单任务也要支付顶级模型的价格;如果统一改用便宜模型,复杂任务的效果又可能受影响。项目团队希望先给任务难度打分,再决定调用哪一个模型。

按照内部设想,Meta可以先把Switchboard用于公司内部,降低员工使用AI编程工具的成本;如果测试有效,未来也可能面向大规模运行编程智能体的机构开放。

路由工具背后的动机之一是控制成本。Meta 4月把2026年资本开支指引从1150亿—1350亿美元提高到1250亿—1450亿美元,原因包括组件价格上涨,以及为扩充未来产能而新增的数据中心建设支出。与此同时,据《The Information》报道,Meta还在建设追踪AI支出、执行token预算的平台。

项目文件把推理成本称为Meta扩大部署智能体的主要障碍。提案认为,多数编码智能体任务可由小模型处理,只有少数任务需要能力更强、价格更高的前沿模型。

OpenRouter已经把类似思路做成了公开产品。该公司6月披露每月路由量达100万亿token,并完成1.13亿美元B轮融资。其Pareto Code Router允许用户设定编码质量门槛,再从符合要求的模型中选择当前最便宜的一款;企业还可以为成员和密钥设置支出上限。

模型路由也已进入头部AI产品。OpenAI在GPT-5系统卡中介绍,GPT-5由实时路由器根据对话类型、任务复杂度、工具需求和用户意图,在快速模型与深度推理模型之间切换。(易句)

(本文由AI翻译,网易编辑负责校对)

相关推荐
热点推荐
特朗普:俄罗斯攻击乌克兰盟友已5年,我认为所有人都同意这一点

特朗普:俄罗斯攻击乌克兰盟友已5年,我认为所有人都同意这一点

阿尔卑斯瞭望
2026-09-20 19:41:39
敬一丹走后,身价过亿的丈夫曝光,恩爱四十余年但私下却分得很清

敬一丹走后,身价过亿的丈夫曝光,恩爱四十余年但私下却分得很清

顾史
2026-09-20 10:36:51
浙江一男子花17元网购空礼盒,装入散装月饼,加上包装辅料总成本不到25元,包出高档效果!网友点评:“怒省一百多元”

浙江一男子花17元网购空礼盒,装入散装月饼,加上包装辅料总成本不到25元,包出高档效果!网友点评:“怒省一百多元”

台州交通广播
2026-09-21 14:40:40
台湾退役中将帅化民表示,张学良被关一生不能算冤,因为西安事变那一夜,他差点让蒋介石从奉化带来的嫡系护卫全军覆没

台湾退役中将帅化民表示,张学良被关一生不能算冤,因为西安事变那一夜,他差点让蒋介石从奉化带来的嫡系护卫全军覆没

谈史论今1
2026-09-06 20:22:18
日本歌手美依礼芽宣布离婚,曾参与录制《乘风破浪的姐姐》

日本歌手美依礼芽宣布离婚,曾参与录制《乘风破浪的姐姐》

扬子晚报
2026-09-21 15:10:54
亚运游泳决赛 中国泳将夺3金 广东选手获两银

亚运游泳决赛 中国泳将夺3金 广东选手获两银

广东体育频道
2026-09-21 17:45:42
多名院士呼吁快停止食用,吃一口等于14斤塑料袋,女子因肾衰走了

多名院士呼吁快停止食用,吃一口等于14斤塑料袋,女子因肾衰走了

任医生聊健康
2026-06-18 22:00:09
为什么说皖南事变后,毛主席的领导威信大大提高了?

为什么说皖南事变后,毛主席的领导威信大大提高了?

掠影后有感
2026-09-21 10:28:31
日本前首相鸠山由纪夫公开告诫高市,中国当年放弃巨额战争赔款,附带明确的条件,相关内容早已落实在书面文件,不可肆意违背过往承诺

日本前首相鸠山由纪夫公开告诫高市,中国当年放弃巨额战争赔款,附带明确的条件,相关内容早已落实在书面文件,不可肆意违背过往承诺

唠叨说历史
2026-09-02 16:16:45
海运成本飙升201%,逼近2021年危机峰值,为通胀再添一把火

海运成本飙升201%,逼近2021年危机峰值,为通胀再添一把火

华尔街见闻官方
2026-09-21 11:05:52
大范围降温要来了?广东将迎冷空气!接下来天气……

大范围降温要来了?广东将迎冷空气!接下来天气……

广州生活美食圈
2026-09-21 14:06:45
“秋老虎”没走?周三最高气温升至31℃!本周北京还将迎两次降雨!

“秋老虎”没走?周三最高气温升至31℃!本周北京还将迎两次降雨!

北青网-北京青年报
2026-09-21 15:13:19
这5个行业,工资都发不下来了!真的很严重了

这5个行业,工资都发不下来了!真的很严重了

职场资深秘书
2026-09-18 17:19:31
名古屋亚运金牌榜预测:中国第一没悬念,主流预测在140—165金

名古屋亚运金牌榜预测:中国第一没悬念,主流预测在140—165金

林子说事
2026-09-21 03:29:23
科贝记者:皇马并未比上赛季进步,这是20年前穆里尼奥的踢法

科贝记者:皇马并未比上赛季进步,这是20年前穆里尼奥的踢法

懂球帝
2026-09-21 17:59:05
乘客搭顺风车返乡途中猝死,家属索赔18万元,广西横州法院:搭乘与死亡不存在因果关系,驳回原告诉讼请求

乘客搭顺风车返乡途中猝死,家属索赔18万元,广西横州法院:搭乘与死亡不存在因果关系,驳回原告诉讼请求

扬子晚报
2026-09-21 17:19:05
四川大学:吸烟、酗酒、沉迷网络者,取消学费减免资格

四川大学:吸烟、酗酒、沉迷网络者,取消学费减免资格

上观新闻
2026-09-21 14:57:38
第一集就打码,Netflix新剧太疯狂了

第一集就打码,Netflix新剧太疯狂了

天天美剧吧
2026-09-21 16:22:05
油价大涨!彻底“熄火”,9月19日全国92,95汽油“2连涨、涨超0.51元/升”后,新周期5天“大涨620元/吨”,下次9月24日调价或“变少”!

油价大涨!彻底“熄火”,9月19日全国92,95汽油“2连涨、涨超0.51元/升”后,新周期5天“大涨620元/吨”,下次9月24日调价或“变少”!

猪友巴巴
2026-09-19 09:24:25
朱雨玲独拿两分,帮助中国澳门队顺利晋级,接下来将对阵中国台北

朱雨玲独拿两分,帮助中国澳门队顺利晋级,接下来将对阵中国台北

杨哥乒乓
2026-09-21 12:14:52
2026-09-21 18:43:00

科技要闻

吃AI红利的凡人,年薪10万美元,每天3万步

头条要闻

两年幼孩子被胡蜂蜇亡 孩子父亲:没有义务共情养蜂人

头条要闻

两年幼孩子被胡蜂蜇亡 孩子父亲:没有义务共情养蜂人

体育要闻

跟着华裔天才重仓AI,勇士旧将成资本大佬

娱乐要闻

张佳宁穿搭宽松小腹微凸 引发怀孕猜测

财经要闻

机器人IPO门槛收紧?能否商业闭环成考量

汽车要闻

家越07成精了:豆包上车 有事您言语一句就成

态度原创

手机
艺术
本地
数码
公开课

手机要闻

8K Live图怎么拍?vivo X500一键切换随手出片

艺术要闻

“草圣”于右任65岁写的《心经》,每个字都在炫技,水平远超林散之!

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

数码要闻

RK鲲鹏T98“铝坨坨”三模机械键盘上市:至高12000mAh电池,319~399

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×