网易首页 > 网易号 > 正文 申请入驻

多模型混搭反降准,NVIDIA测出32.2%单模型更稳

0
分享至

把几个不同的开源大模型凑在一起,理论上限确实会抬高。但NVIDIA团队测完八种筛选策略后发现,实际跑出来的准确率,往往还不如池子里最好的那一个单模型。

这项研究针对的是多智能体系统里一个很实际的问题:到底该把哪些模型放进池子。团队围绕规模、准确率、答案多样性、错误多样性四个维度,设计了八种选择策略,并在路由、多数投票、LLM-as-judge三种配置下,用高难度科学基准做了对比。


池子越大,理论上限越高,实际越低

结论里最反直觉的一条是:不同开源模型组成的池子越大,理论上的最优准确率确实会上升。但真正跑出来的成绩,经常低于池子里表现最好的那个单模型。

也就是说,多模型组合带来的不是稳定增益,而是一种"上限好看、下限难看"的分布。团队还发现,用同一个模型的多个副本,效果反而比混搭不同模型更好。

这个结果直接挑战了"模型越多样越好"的直觉。多样性在理论上能覆盖更多错误模式,但实际执行中,不同模型之间的能力差异、输出风格差异,反而可能互相拖累。

多数投票:单模型从29.4%提到32.2%

数据层面最清晰的一组对比来自多数投票。对最好的单模型做多数投票,HLE准确率从29.4%提升到32.2%。而几乎每一个混合模型组合,成绩都是下降的。

这说明多数投票本身是有价值的机制,但它的收益来自"同一个模型的多次采样",而不是"多个不同模型的拼盘"。把不同模型塞进投票池,等于把不同标准的答案混在一起统计,反而稀释了信号。

八种策略里,提升幅度最大的一种,是从单一模型家族里挑选候选。相比一个独立的单模型,这种做法的改进最明显。家族内模型共享训练血统和输出习惯,组合起来的一致性更高。

加模型之前,先测它到底加了什么

研究给出的操作建议很直接:在往路由器或集成系统里再加一个模型之前,先测量它究竟带来了什么增量。

这句话针对的是当前多智能体系统搭建中的常见做法——默认模型越多越强,先堆上去再说。NVIDIA这组实验说明,堆叠本身不产生收益,甚至可能拉低整体表现。

  • 不同开源模型混池:理论上限升,实际准确率常低于池内最优单模型
  • 同一模型多副本:效果优于混搭不同模型
  • 多数投票:最优单模型从29.4%升至32.2%,混合模型组几乎全降
  • 八种策略中提升最大:从单一模型家族内选候选

对正在搭多智能体系统的团队来说,这份研究的价值不在于给出一个万能配方,而在于把"加模型"这个动作从默认操作变成了需要验证的决策。池子里每多一个模型,都应该先回答一个问题:它到底补上了什么。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
可口VS百事,谁才是天下第一?

可口VS百事,谁才是天下第一?

混知
2026-09-17 14:35:58
孙颖莎、王曼昱、王楚钦回应“首次住邮轮”:“挺新鲜的”“有点绕有点晕”

孙颖莎、王曼昱、王楚钦回应“首次住邮轮”:“挺新鲜的”“有点绕有点晕”

齐鲁壹点
2026-09-17 20:47:34
熊某涛头部被砸,抢救无效死亡,官方公布调查结果

熊某涛头部被砸,抢救无效死亡,官方公布调查结果

南方都市报
2026-09-16 21:52:05
美团失业63天,突然找到工作了。国企派遣工,月薪6300元

美团失业63天,突然找到工作了。国企派遣工,月薪6300元

蚂蚁大喇叭
2026-09-17 16:19:23
5场就下课?米兰老板约谈阿莫林,意媒泼了盆冷水

5场就下课?米兰老板约谈阿莫林,意媒泼了盆冷水

甜度百分百21
2026-09-18 00:51:17
顶级医院主任医生被泼粪、一流医学院研究生跳楼:学医还值不值得?

顶级医院主任医生被泼粪、一流医学院研究生跳楼:学医还值不值得?

温柔医刀
2026-09-17 17:37:29
“2.3万元的LV新包,扫不出内置芯片信息了”上海买家直呼太委屈:直接跌价、心里郁闷……不少消费者有同款遭遇

“2.3万元的LV新包,扫不出内置芯片信息了”上海买家直呼太委屈:直接跌价、心里郁闷……不少消费者有同款遭遇

大风新闻
2026-09-17 17:43:03
阿根廷之所以大老远把牛肉便宜卖到中国,是因为中国什么部位都要

阿根廷之所以大老远把牛肉便宜卖到中国,是因为中国什么部位都要

流苏晚晴
2026-09-15 12:17:39
1-3爆冷!日本无名小将造惨案,国乒头号种子出局,女单5人淘汰

1-3爆冷!日本无名小将造惨案,国乒头号种子出局,女单5人淘汰

卿羽飞本尊
2026-09-17 20:28:08
港圈流传着一种说法:刘嘉玲回香港组的局,王菲从不推脱。那英曾直言,阿菲这人谁约都难请,唯独刘嘉玲一喊就到。周星驰更典型

港圈流传着一种说法:刘嘉玲回香港组的局,王菲从不推脱。那英曾直言,阿菲这人谁约都难请,唯独刘嘉玲一喊就到。周星驰更典型

背包旅行
2026-09-09 18:38:20
宪法规定:中国公民享有人身自由权利。

宪法规定:中国公民享有人身自由权利。

abc350514
2026-09-13 16:14:58
“外出遛狗2岁幼童独自在家坠亡”,孩子父亲回应质疑:妻子想不通需宣泄,我们的关系没那么“恼火”

“外出遛狗2岁幼童独自在家坠亡”,孩子父亲回应质疑:妻子想不通需宣泄,我们的关系没那么“恼火”

台州交通广播
2026-09-17 18:01:28
刘纪鹏:我长期满仓,人家都叫我“刘满仓”

刘纪鹏:我长期满仓,人家都叫我“刘满仓”

凤凰网财经
2026-09-17 23:00:03
全用简体字!马来西亚和新加坡都改了,为何中国的港澳台还不改?

全用简体字!马来西亚和新加坡都改了,为何中国的港澳台还不改?

小豫讲故事
2026-09-16 06:00:26
万斯爆料:特朗普为了美国利益,随时准备与内塔尼亚胡分道扬镳

万斯爆料:特朗普为了美国利益,随时准备与内塔尼亚胡分道扬镳

无情有思可
2026-09-18 00:05:24
杭州酒局事件通报后,那个受害女孩终于等来公道

杭州酒局事件通报后,那个受害女孩终于等来公道

再战五百回合
2026-09-16 22:47:45
冒充校方人员向新生推销盗版教材8人被抓,上海警方:因涉嫌销售侵权复制品罪,已采取刑事强制措施

冒充校方人员向新生推销盗版教材8人被抓,上海警方:因涉嫌销售侵权复制品罪,已采取刑事强制措施

纵相新闻
2026-09-17 18:58:04
给我20年,还你一个强大的俄罗斯。但2026年的普京似乎还不想交卷

给我20年,还你一个强大的俄罗斯。但2026年的普京似乎还不想交卷

随遇而安之心
2026-09-10 10:38:58
多名教师上班10余天离职、因不满一月拿不到工资?涉事中学通报

多名教师上班10余天离职、因不满一月拿不到工资?涉事中学通报

观察者网
2026-09-15 22:37:14
中超再现大鱼!27岁申花准国脚或成自由球员,国安免签可补强中场

中超再现大鱼!27岁申花准国脚或成自由球员,国安免签可补强中场

体坛鉴春秋
2026-09-17 15:24:22
2026-09-18 09:04:49
全栈遛狗员
全栈遛狗员
白天跟需求对线,晚上在小区遛狗。
267文章数 119关注度
往期回顾 全部

科技要闻

理想i9来了,这价格战连自己人都打

头条要闻

牛弹琴:胡塞节节胜利 巴基斯坦表态"不惜一切代价"

头条要闻

牛弹琴:胡塞节节胜利 巴基斯坦表态"不惜一切代价"

体育要闻

逆转朝鲜,国足亚运队“啃老”过关

娱乐要闻

rapper赵涛恋情曝光!带甜馨妈妈散步

财经要闻

中国汽车:尾大不掉,必须出清

汽车要闻

小鹏G9L限时售23.18万 旗舰级的配置/诱人的价格

态度原创

时尚
房产
旅游
公开课
军事航空

上岸的张家齐,想赚一个小目标

房产要闻

突发!三亚安居房出台新政!

旅游要闻

石林风景区入选全国必去景区“百强榜”

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

中方反对在安理会强推恢复对伊朗制裁

无障碍浏览 进入关怀版