网易首页 > 网易号 > 正文 申请入驻

最强编码模型也翻车?LoopArena:会管模型的模型才是关键

0
分享至

一个编码能力再强的模型,如果没人知道什么时候该让它掉头、什么时候该验证结果、什么时候该叫停,它也可能在复杂的开发任务里越走越偏。这是新基准 LoopArena 提出的核心观点:管理编码循环的“控制器”模型,和写代码的“工人”模型,是两码事,得分开评测。

把“管理”单独拎出来考


LoopArena 的做法很直接:固定住写代码的 Worker 模型,只换负责调度和决策的 Controller 模型。在这个基准里,Worker 被固定为 Qwen3.7-Plus,而 Controller 负责决定 Worker 下一步该干什么——是继续实现功能、验证代码、修复问题,还是干脆停下来。

这样一来,评测的焦点就从“谁会写代码”转移到了“谁会指挥写代码”。一个模型哪怕代码写得再好,如果 Controller 不懂审时度势,整个系统的表现依然会崩。

结果:最强控制器也只有24.69%成功率

在完整的 27 个任务跑分中,表现最好的 Controller 是 GPT-5.5,但它的严格成功率也只有 24.69%。这个数字说明,即便是目前最强的控制器,在管理多轮编码循环这件事上,依然有巨大的提升空间。

更值得玩味的是对照组:如果每一轮都只是简单地把最初的目标重新陈述一遍,这个“复读机”策略也能拿到 18.52% 的成功率——和完全不给任何控制、让 Worker 自己撒欢跑的结果一模一样。换句话说,瞎指挥和不管,效果差不多。

有效的控制必须“看菜下饭”

LoopArena 的结论很明确:有用的控制必须根据任务进行中不断变化的证据做出反应。Controller 需要在实现、验证、恢复和停止这几个状态之间灵活切换,而不是机械地重复“继续干”。

这个发现对评估 AI 智能体系统有直接启示:在评测一个智能体系统时,应该把负责管理循环的模型和负责写代码的模型分开来单独打分。否则,一个平庸的 Controller 可能会拖垮一个顶尖的编码模型,而问题出在管理层,却让执行层背了锅。

为什么这对你很重要

如果你正在用 AI 编码助手处理复杂项目,这个基准提醒你:别只看写代码那个模型有多强,更要看驱动它的“大脑”会不会在关键时刻喊停、纠偏。毕竟,一个只会埋头写代码的 Worker,配上不懂管理的 Controller,结果可能还不如让它自己跑。

这项研究来自 arXiv 论文《LoopArena: Benchmarking Models as Runtime Controllers for Loop Engineering》,目前已在 arXiv 上公开。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
情侣在瑞士雪山顶“撒欢”,就这么被全世界直播了···

情侣在瑞士雪山顶“撒欢”,就这么被全世界直播了···

新欧洲
2026-04-21 19:37:05
 2004年,马加爵在案发前因病卧床,林某带回两份盒饭在317宿舍与他分食。这点温情,为何最终还是没能阻止四天后那场震惊全国的血案?

 2004年,马加爵在案发前因病卧床,林某带回两份盒饭在317宿舍与他分食。这点温情,为何最终还是没能阻止四天后那场震惊全国的血案?

人生录
2026-08-27 00:05:16
方媛被工作人员带走,真是因为嫁到香港九年还听不懂粤语吗?

方媛被工作人员带走,真是因为嫁到香港九年还听不懂粤语吗?

喜欢历史的阿繁
2026-09-03 14:51:52
从确诊到去世仅15天,“央视最帅主持人”的遭遇为人们敲响警钟

从确诊到去世仅15天,“央视最帅主持人”的遭遇为人们敲响警钟

银河史记
2025-11-03 19:31:33
67岁生娃的田新菊已瘫痪,6岁多女儿床前照顾!真相很残忍

67岁生娃的田新菊已瘫痪,6岁多女儿床前照顾!真相很残忍

思愈飞
2026-05-13 20:52:56
北京首钢76:69掀翻福建!雷蒙赵睿攻守双响,内线核心集体拉胯

北京首钢76:69掀翻福建!雷蒙赵睿攻守双响,内线核心集体拉胯

与笑相拥m
2026-09-03 23:31:26
哈佛发现:注定碌碌无为的人,几乎都在早年就暴露这四个共同特征

哈佛发现:注定碌碌无为的人,几乎都在早年就暴露这四个共同特征

老红点评社
2026-05-13 18:46:57
I服了YOU!天河城这次真敢改

I服了YOU!天河城这次真敢改

楼主说楼市
2026-09-03 21:43:52
乌克兰安全局与乌国防部情报总局在基辅发生交火,乌官员回应:需要彻查

乌克兰安全局与乌国防部情报总局在基辅发生交火,乌官员回应:需要彻查

环球网资讯
2026-09-02 22:09:06
没名分,没工资,前国脚帮董路带队黯然下课,接替人是熟悉的他

没名分,没工资,前国脚帮董路带队黯然下课,接替人是熟悉的他

鲸探所长
2026-09-03 16:43:53
周鹏37岁C类合同穿回11号回广东,郭艾伦32岁膝伤两年十场零球队报价

周鹏37岁C类合同穿回11号回广东,郭艾伦32岁膝伤两年十场零球队报价

烟浔渺渺
2026-09-04 02:40:19
C罗09年9400万加盟皇马,外媒估算:放到现在3亿欧!那梅西值多少

C罗09年9400万加盟皇马,外媒估算:放到现在3亿欧!那梅西值多少

小火箭爱体育
2026-09-03 16:50:38
赶都赶不走!两百只野猴组团下山“连吃带拿”,果农:今年已被袭扰四次,损失近万斤,“猴子也不怕人,从早上七点多一直赶到下午三点多”

赶都赶不走!两百只野猴组团下山“连吃带拿”,果农:今年已被袭扰四次,损失近万斤,“猴子也不怕人,从早上七点多一直赶到下午三点多”

大风新闻
2026-09-03 17:28:03
许多演员不和孙俪合作的原因,不是人缘差,刘涛早就说过,她太细节控了

许多演员不和孙俪合作的原因,不是人缘差,刘涛早就说过,她太细节控了

落雪听梅a
2026-09-02 06:12:56
刚刚,上海竞体中心回应!刘翔安排问题最新进展,目前依旧在该单位

刚刚,上海竞体中心回应!刘翔安排问题最新进展,目前依旧在该单位

纸短情长o
2026-09-03 20:53:20
乌安全局和国防情报总局在基辅交火,这说明什么?

乌安全局和国防情报总局在基辅交火,这说明什么?

山河路口
2026-09-03 11:29:01
美教授捧杀印度:GDP从4万亿到19万亿只需14年,几十年后超越中美

美教授捧杀印度:GDP从4万亿到19万亿只需14年,几十年后超越中美

王新喜
2026-09-03 21:01:20
袁腾飞移民美国了,太让人震惊了

袁腾飞移民美国了,太让人震惊了

十柱
2026-09-03 00:07:01
连登14次春晚的歌坛巨星,如今家产被拍卖,“住进”养老院

连登14次春晚的歌坛巨星,如今家产被拍卖,“住进”养老院

探源历史
2026-09-02 03:54:23
重创:乌克兰对俄罗斯空域发动绞杀战!莫斯科近百架航班取消

重创:乌克兰对俄罗斯空域发动绞杀战!莫斯科近百架航班取消

项鹏飞
2026-09-02 19:26:59
2026-09-04 05:52:49
爬虫饲养员
爬虫饲养员
业余养了只叫“龙虾”的AI爬虫,主业是给互联网打工。
221文章数 73关注度
往期回顾 全部

科技要闻

英伟达129亿美元拿下Hugging Face

头条要闻

男子逛夜市遭按摩摊大妈拉住 被5个大妈服务按到发红

头条要闻

男子逛夜市遭按摩摊大妈拉住 被5个大妈服务按到发红

体育要闻

梅西:巴萨10号与阿根廷10号

娱乐要闻

王宝强携女友回工作室!相恋8年仍未婚

财经要闻

章子怡套现3亿 上美拿什么补韩束的缺?

汽车要闻

限时权益价28.99万起 FREELANDER神行者8正式上市

态度原创

旅游
时尚
本地
艺术
军事航空

旅游要闻

2026中国文化旅游产业博览会|淄博携齐风陶琉精品亮相 尽显齐鲁文旅独特魅力

女人到了60岁衣服少穿大红大绿,试试这些纯色单品,高级又耐看

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

艺术要闻

放大《汉宫春晓图》:撕掉宫斗剧滤镜,这才是明代深宫女子的真实日常

军事要闻

乌特工内战街头对射 互认对方为"俄特工"

无障碍浏览 进入关怀版