网易首页 > 网易号 > 正文 申请入驻

OrcaRouter用一套路由多模型组合,将ClaudeFable5满血复活

0
分享至

当行业默认“更强的 AI”等同于“等待下一个更大的模型”时,另一条路线正在变得清晰:不追求单点突破,而是把已有的模型编排成一个能协作、能互检的系统。

近期,AI 网关OrcaRouter(https://www.orcarouter.ai/)上线了一套名为 Routing DSL 的可编程路由策略。它的技术主张可以概括为一句话:用一套声明式规则,把多个现成模型组合起来,逼近——在部分场景甚至追平——顶级单模型的表现。其中一个被反复提及的参照对象,是被不少开发者视为最强模型的 Fable 5。

本文要点

• 在一组示意性测试中,多模型“组合面板”的得分普遍高于它的任一成员模型,且多个组合追平了顶级单模型。

• 这并非取巧,而是有清晰研究脉络的支撑:自一致性、混合智能体、复合 AI 系统、推理时计算扩展。

• OrcaRouter 的价值不在于提出新方法,而在于把这些原本停留在论文与脚本层面的思路,做成可声明、可灰度、可审计的基础设施。

一、一个被低估的事实:组合往往胜过单点

先看现象。在一组示意性测试中(注:以下为说明趋势的示意数据,非官方跑分,100 题中评分 93 题),由多个模型并行作答、再经仲裁挑选的“组合面板”,其得分普遍高于参与组合的每一个成员模型(图表 1):


  • · Claude Opus 4.8 与 GPT-5.5 组成的双模型面板(约 67.5%),同时高于二者各自单跑(约 58.5% 与 60%),领先 7 到 9 个百分点;

  • 多个组合追平、甚至超过了 Fable 5 单跑(约 65.5%);

  • 更值得注意的是:即便是“同一模型的自我组合”(Opus×2)也能逼近顶级水平;而一组更便宜的模型组合(约 64.5%)同样贴近 Fable 5——这意味着“性能”与“单价”被部分解耦。

如果再按请求难度做智能分流,把整套策略跑成一个完整端点,其综合表现在这组示意数据中可与 Fable 5 持平(图表 2)。换句话说,真正起作用的不是“更强的模型”,而是“更合理的编排结构”。


二、为什么有效:一条清晰的研究脉络

这一现象并非反常,它与过去两年生成式 AI 领域的一条重要研究主线高度吻合——通过在推理阶段投入更多计算与结构,而非单纯堆叠参数,来换取能力提升(图表 3)。


  • 自一致性(Self-Consistency):让模型对同一问题采样多条推理路径,再以多数投票得出答案,可显著提升推理准确率。

  • 混合智能体(Mixture-of-Agents):把多个模型的输出分层聚合、互相参考,仅用开源模型就能在部分对话基准上超过当时最强的闭源单模型。

  • 模型即裁判(LLM-as-a-Judge):用一个模型评判、排序另一些模型的输出,已成为评测与筛选的常用手段。

  • 复合 AI 系统(Compound AI Systems):学界明确提出,前沿能力正从“单一模型”转向“系统级组合”——检索、工具、多模型协作共同构成系统。

这些工作指向同一个机制:不同模型的错误往往是不相关的(decorrelated)。让它们各自独立作答,错误是分散的;再用投票、裁判或执行验证把正确答案挑出来,整体正确率就被抬升(图表 4)。模型之间的分歧不是噪音,而是可被收割的信号。


三、从论文到基础设施:Routing DSL 做了什么

上述方法虽有效,却长期停留在论文复现和一次性脚本的层面——难以治理、难以观测,更难安全地放到生产流量上。

OrcaRouter(https://www.orcarouter.ai/

Routing DSL

https://docs.orcarouter.ai/zh/routing/routing-dsl

本质上是给“复合 AI 系统”提供了一个声明式、可灰度、可审计的工程形态。

规则用 YAML 描述,条件判断用 CEL 表达式(运行在安全沙箱内、只读、微秒级求值),自上而下匹配。开发者既可按难度或任务把请求分流给不同模型,也可以让一条规则“扇出”到多个模型并行作答(图表 5):


use:

parallel: # 2~5 个模型并行作答

- { model: "claude-opus-4-8" }

- { model: "gpt-5.5" }

- { model: "gemini-3.1-pro" }

arbiter:

strategy: best_of_n # 由一个"裁判模型"挑选最优

model: "claude-sonnet-4-6"

仲裁提供四种策略,对应不同的工程目标:


更关键的是它的治理面:lint 静态校验、dry-run 试跑、影子模式(只评估不生效、先看 A/B 差异与成本变化)、0—100% 的灰度放量,以及每次变更的回滚审计。这套机制,使“把多模型编排放上生产流量”从一件高风险操作,变成可控、可观测、可回退的工程实践。

四、意义与边界

把视角拉远,这件事的意义有三层:其一是供给侧的现实意义——当头部模型对普通用户收紧、顶级能力变得稀缺,编排提供了一条“用现有资源重新逼近前沿能力”的路径;其二是成本结构的改变——“用拓扑换智能”使性能与单价解耦,真正昂贵的并行扇出只发生在难度最高的少数请求上(图表 6);其三是工程范式的迁移——团队的竞争力,正从“选用哪个模型”,部分转移到“如何编排模型”。


但同样需要冷静看待它的边界:

  • 成本:并行扇出意味着每条调用腿都要计费,只有配合按难度分流才具备经济性;

  • 成熟度:多模型并行扇出的运行时目前仍处于灰度/预览阶段,计费链路仍在验证;

  • 数据:本文引用的对比均为示意,而非官方基准;

  • 适用性:并非所有任务都受益——低难度或答案确定的请求,单模型往往更经济;编排也会引入额外延迟与系统复杂度。

换言之,编排是一种需要按场景权衡的工具,而非银弹。

结语

模型能力的边界,正在从“单点参数竞赛”扩展到“系统级编排”。在这条路线上,前沿不再只是一个需要等待的模型,而是一种可以被设计、被治理的结构。对工程团队而言,这或许意味着一个朴素但重要的转变:把更多注意力,从“追逐下一个模型”,转向“如何把已有的模型组织得更好”。

注:本文所涉性能对比均为示意性数据,仅用于说明趋势,非官方跑分;文中所述多模型融合运行时目前处于灰度/预览阶段。

更多内容:https://www.orcarouter.ai/blog/routing-dsl-compose-a-panel-of-models-that-thinks-like-fable-5

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一个组织开始官僚化的信号:所有事情都要留痕

一个组织开始官僚化的信号:所有事情都要留痕

细说职场
2026-07-13 18:02:49
蒋方舟“塌房”!深扒:升学全走特殊通道,“天才少女”人设或是笑话

蒋方舟“塌房”!深扒:升学全走特殊通道,“天才少女”人设或是笑话

火山詩话
2026-07-14 14:34:19
LV起诉国家知识产权局

LV起诉国家知识产权局

第一财经资讯
2026-07-14 15:08:09
突发!特朗普正式宣布开战:再打两三周

突发!特朗普正式宣布开战:再打两三周

大国之翼
2026-07-14 06:32:01
长沙彭副处长被停职仅两天,荒谬一幕出现,到底是谁在为她洗白?

长沙彭副处长被停职仅两天,荒谬一幕出现,到底是谁在为她洗白?

社会日日鲜
2026-07-14 12:58:45
外交部:尽早恢复霍尔木兹海峡正常安全通行是国际社会共同愿望

外交部:尽早恢复霍尔木兹海峡正常安全通行是国际社会共同愿望

澎湃新闻
2026-07-14 15:34:29
深挖赛力斯预亏15亿背后:四年扣非利润15亿、华为拿走1113亿!

深挖赛力斯预亏15亿背后:四年扣非利润15亿、华为拿走1113亿!

车智inveh
2026-07-14 00:26:17
美日菲施压,要求中国必须接受仲裁结果!国民党、民进党先后表态

美日菲施压,要求中国必须接受仲裁结果!国民党、民进党先后表态

共工之锚
2026-07-14 00:29:52
又冲上热搜!长沙“占车位”通报后,变得越来越有意思了

又冲上热搜!长沙“占车位”通报后,变得越来越有意思了

李晚书
2026-07-14 10:31:15
国产“三蹦子”佛得角走红,国内厂商:一年出口200多台,销量逐年上涨

国产“三蹦子”佛得角走红,国内厂商:一年出口200多台,销量逐年上涨

上游新闻
2026-07-14 08:11:17
太过分!山东齐鲁台为了钱脸都不要了?广告霸占屏幕,网友吐槽

太过分!山东齐鲁台为了钱脸都不要了?广告霸占屏幕,网友吐槽

喜欢历史的阿繁
2026-07-14 12:31:31
中方在联合国投下赞成票,用一场压倒性胜利,给特朗普浇了盆冷水

中方在联合国投下赞成票,用一场压倒性胜利,给特朗普浇了盆冷水

空天力量
2026-07-14 13:09:02
法国爆料最新消息,姆巴佩可能无法出战,止步 4 强心有不甘

法国爆料最新消息,姆巴佩可能无法出战,止步 4 强心有不甘

酷侃体坛
2026-07-14 13:20:39
特朗普宣布重新对伊朗开战,美方披露美军最新伤亡情况:累计已有14人死亡、414人受伤

特朗普宣布重新对伊朗开战,美方披露美军最新伤亡情况:累计已有14人死亡、414人受伤

鲁中晨报
2026-07-14 11:12:04
国务院发布重磅消息,养老金释放利好信号,本月有望迎来调整吗?

国务院发布重磅消息,养老金释放利好信号,本月有望迎来调整吗?

虎哥闲聊
2026-07-14 09:38:46
男子把“帮忙充话费”当性暗示,夜闯女邻居家意图发生性关系,被发现后谎称抢劫!

男子把“帮忙充话费”当性暗示,夜闯女邻居家意图发生性关系,被发现后谎称抢劫!

大风新闻
2026-07-14 11:32:20
中组部、人社部、公安部关于离退休干部出生日期认定的系统精神

中组部、人社部、公安部关于离退休干部出生日期认定的系统精神

华庭讲美食
2026-07-14 11:01:54
女演员千万别整容,看《功夫女足》迪丽热巴,张小斐同框,就懂了

女演员千万别整容,看《功夫女足》迪丽热巴,张小斐同框,就懂了

可乐谈情感
2026-07-14 10:41:40
“丝瓜配一宝,暑湿不来扰”! 湿气、暑气全赶跑,三伏天多吃

“丝瓜配一宝,暑湿不来扰”! 湿气、暑气全赶跑,三伏天多吃

江江食研社
2026-07-13 14:30:15
“我真想踢他一顿”,父亲公开厌恶1米83儿子:每天食堂要吃一百多!

“我真想踢他一顿”,父亲公开厌恶1米83儿子:每天食堂要吃一百多!

泽泽先生
2026-07-13 18:49:46
2026-07-14 15:55:00
半导体圈 incentive-icons
半导体圈
这才是半导体的圈子!
7557文章数 61456关注度
往期回顾 全部

科技要闻

Meta投1.7万亿元建一个AI园区,配10座电厂

头条要闻

韩国司机失去意识大巴失控 中国女乘客救了一车人

头条要闻

韩国司机失去意识大巴失控 中国女乘客救了一车人

体育要闻

33岁成为法国主力,他将在世界杯防守亚马尔

娱乐要闻

施南生离世,成龙、甄子丹等发文悼念

财经要闻

为什么说智谱是中国版Anthropic是伪命题

汽车要闻

小米澎程N90 Max工信部信息曝光 全尺寸旗舰 露营版首秀

态度原创

游戏
房产
艺术
家居
公开课

以乐为桥,黑神话音乐会奏响北美

房产要闻

三亚湾,最魔幻豪宅项目曝光!

艺术要闻

8.5度抗震!新疆第一座高层5星酒店,封顶!

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版