网易首页 > 网易号 > 正文 申请入驻

都卷大模型多循环几遍,7B模型LoopCoder v2说:多循环1次就够了

0
分享至



当所有人都在比谁「想得更久、算得更多」——推理模型动辄输出成千上万个思考 token,循环式架构恨不得在内部反复迭代十遍八遍——一项新研究反手泼了盆冷水:一个 7B 的小模型,只需要在正常计算之外「多循环这一次」(总共 2 次),就能在号称最难的真实代码修复基准 SWE-bench Verified 上从 43.0 分飙到 64.4 分;而继续往上加循环,不仅不涨,反而一路跳水。

论文标题起得很干脆——《Only Loop Once》,只循环一次。背后是来自北京航空航天大学、IQuest Research、澜舟科技和中国人民大学的联合团队。



  • 论文标题:LoopCoder-v2:Only Loop Once for Efficient Test-Time Computation Scaling
  • 论文地址:https://arxiv.org/pdf/2606.18023
  • 研究团队:北京航空航天大学 · IQuest Research · 澜舟科技 · 中国人民大学
  • 模型主页(HuggingFace):huggingface.co/Multilingual-Multimodal-NLP/LoopCoder-V2



▲ 核心结论一图流:多循环带来「精修收益」,也带来几乎恒定的「位置错配成本」;收益在第 2 次循环达到峰值后迅速衰减,于是「只循环一次(共 2 次)」成为最优解。

一、「循环」,当下最热的卷法

自从 o1、Claude 这一代推理模型把「想得越久越强」写进行业共识,「测试时计算」(test-time compute)就成了过去一年最热的方向:与其把模型练得更大,不如让它在推理时多花点算力,把答案反复打磨。要理解这项研究,先得知道大家具体在卷什么。

过去想让模型更强,常规操作是把网络堆得更深、参数更多。而「循环式」大模型(Looped / Recurrent-depth LLM)换了个思路:不堆新层,而是让同一套参数,在「脑子里」把内部表征反复打磨好几遍。打个比方,这就像同一个人把一道题在心里默默重算几遍,而不是请来更多人、或者把草稿纸写满——它是一种省参数的「测试时计算」(test-time compute)。

听起来很美,但有个硬伤:顺序循环太贵。每多循环一次,就要多走一遍计算,延迟和 KV-cache 显存都跟着循环次数线性上涨。想多循环,算力扛不住。

并行循环 Transformer(Parallel Loop Transformer,PLT)就是为了解决这个问题。它用两招把成本摁了下去:一是 CLP(跨循环位置偏移),打断循环之间的串行依赖,让多次循环可以并行计算;二是 G-SWA(共享 KV 的门控滑窗注意力),让显存几乎不随循环次数增长。成本被压平之后,「循环几次」第一次变成了一个可以自由拧的旋钮。

二、旋钮拧大 ≠ 更强:

第 2 遍封顶,第 3 遍跳水

问题来了:这个旋钮,到底拧到几合适?

团队干脆从零训了一整个家族:7B 稠密模型,18T token、文本与代码 1:1、覆盖 100 多种编程语言,前后烧掉约 100 万 GPU 小时。唯一的变量,就是循环次数。结果非常反直觉:



多循环一次(共 2 次)几乎全面碾压「不循环」的 baseline——SWE-bench Verified 从 43.0 → 64.4,多语言版从 14.0 → 31.0,LiveCodeBench 从 27.4 → 35.4,十项基准平均分从 38.0 → 46.5。但循环到 3 次、4 次,性能直接跳水:SWE-bench 掉到 27.6、22.4,平均分甚至不如不循环。

更能说明问题的是横向对比:这个 7B、只多循环一次的模型,在 SWE-bench Verified 上的64.4 分,超过了 2350 亿参数的 Qwen3-235B(45.2 分),逼近 Kimi-K2(69.2)、Qwen3-Coder-480B(67.0)这些大它几十倍的开源旗舰。在偏「动手干活」的 agentic 任务上提升尤其明显:终端操作基准 Terminal-Bench 两个版本分别从 26.3 → 34.2、11.2 → 21.0(后者接近翻倍),工具调用 BFCL 从 32.2 → 40.1,提升都相当可观。换句话说,这次性能跃升不是靠更大的模型堆出来的,而是靠「多想了一遍」。

三、为什么「多循环一次」就够了?一笔收益账

真正有意思的,是团队没有止步于「2 次最好」这个调参结论,而是把模型内部拆开,算了一笔「收益——成本」账

先看收益侧。研究者用三把「探针」——隐状态的演化、注意力的路由、输出分布的变化——同时观察每一次循环到底干了什么,只有三者一致时才下结论。结论是:第 2 次循环几乎包办了所有「有用的精修」——隐状态朝同一方向稳步收敛、注意力重新分配、输出分布明显改善,表征多样性(effective rank)也在这一步达到峰值。再往后,更新越来越小、甚至开始来回震荡(方向反转),注意力路由基本「冻结」,后面的循环近乎空转。

再看成本侧。CLP 为了让循环能并行,做了一个取巧:从第 2 次循环起,每个 token 拿到的是「邻居」上一轮的状态,而不是它自己的。这就引入了一个固定的「位置错配税」——团队把它量化成一个能直接从模型内部状态算出来的指标 Ω,并发现它在每一次循环几乎恒定不变。



▲ 蓝线是每次循环的「精修收益」,第 2 次之后急剧塌缩;红线是 CLP 的「位置错配成本」,几乎恒定不降。一涨一平之间,第 2 次循环成为最优平衡点。

两条曲线一对照,故事就清楚了:精修收益(蓝线)在第 2 次循环后崩塌、再也没能恢复;而错配成本(红线)一直高位横盘。收益递减、成本恒定,于是超过 2 次,错配的代价就盖过了精修的收益,性能自然掉头向下。这也意味着,「循环到几次最好」不必靠昂贵的暴力扫 benchmark 一个个试,而是可以用这些内部诊断指标提前看出来。

四、对行业意味着什么

这项工作的价值,不只是又训了个能打的代码模型。

它首先给「测试时计算 = 越多越好」的流行直觉踩了一脚刹车:至少在 PLT 这类并行循环架构里,存在一个明确而且偏低的「甜点」,盲目加循环是负收益。其次,它提供了一套不靠暴力实验、而靠可解释性指标来选择循环次数的诊断方法。最后,对端侧和小模型尤其友好——7B 只要多循环一次,就能在硬核的真实软件工程任务上实现越级,这笔效率账相当划算。

团队也指出了几个值得继续挖的方向:让位置偏移变得自适应、根据任务动态分配循环次数,以及搞清楚这种「内部循环」和模型显式写出来的思维链(CoT)之间到底是怎么配合的。

说到底,在这个比拼「谁算得更多」的时代,这篇论文给出的提醒朴素却扎实:有时候,多想一遍就够了,想太多反而坏事。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
苹果新机代抢连夜涨价!有黄牛将加价3000到5000元!专家:消费者可能“钱货两空”…

苹果新机代抢连夜涨价!有黄牛将加价3000到5000元!专家:消费者可能“钱货两空”…

北京商报
2026-09-09 15:37:33
20岁伊朗女孩被判绞刑,母亲狱中探望时已面目全非,全身瘀伤头发被扯光

20岁伊朗女孩被判绞刑,母亲狱中探望时已面目全非,全身瘀伤头发被扯光

译言
2026-09-09 09:25:55
苹果新iPhone 要来了:9月9日,正式上市!

苹果新iPhone 要来了:9月9日,正式上市!

科技堡垒
2026-09-09 12:01:39
特斯拉中国宣布:9月30日前下单并提走现车,Model 3全系降5000元,Model Y全系降10000元

特斯拉中国宣布:9月30日前下单并提走现车,Model 3全系降5000元,Model Y全系降10000元

中国能源网
2026-09-07 13:28:12
中美战区司令结束会谈,中方上将返程,美对台F-16V交付中途折返

中美战区司令结束会谈,中方上将返程,美对台F-16V交付中途折返

流史岁月
2026-09-09 14:30:03
女子趁49岁男友午睡时将其杀害分尸,用其账号回消息发朋友圈制造“活着”假象,受害者儿子发现异常后报警;东莞市人民检察院:已审查起诉

女子趁49岁男友午睡时将其杀害分尸,用其账号回消息发朋友圈制造“活着”假象,受害者儿子发现异常后报警;东莞市人民检察院:已审查起诉

大风新闻
2026-09-09 16:26:18
男子爱上前妻的小姨,偷情时小姨的另一个情夫也来了,2014年男子被杀死并抛尸

男子爱上前妻的小姨,偷情时小姨的另一个情夫也来了,2014年男子被杀死并抛尸

汉史趣闻
2026-09-09 15:28:40
网传北京社保基数已经涨不动了,评论区炸锅…

网传北京社保基数已经涨不动了,评论区炸锅…

慧翔百科
2026-09-09 11:23:54
常州人社局回应星宇股份无人力资源总监岗位质疑:不在对外披露范围内

常州人社局回应星宇股份无人力资源总监岗位质疑:不在对外披露范围内

金融界
2026-09-09 16:46:32
朝鲜宣布:人民的美梦和理想全面实现!

朝鲜宣布:人民的美梦和理想全面实现!

IN朝鲜
2026-09-09 13:33:10
终于有人替超2亿灵活就业者说话了!人大代表提出:缴费年限守住15年、女性50岁男性60岁退休、生活困难可退个人缴费、到龄不够允许补缴

终于有人替超2亿灵活就业者说话了!人大代表提出:缴费年限守住15年、女性50岁男性60岁退休、生活困难可退个人缴费、到龄不够允许补缴

扶苏聊历史
2026-09-09 18:28:50
再见17!iPhone18彻底补全所有短板,刚买17的人心态崩了

再见17!iPhone18彻底补全所有短板,刚买17的人心态崩了

小柱解说游戏
2026-09-09 02:05:46
港圈流传着一种说法:刘嘉玲回香港组的局,王菲从不推脱。那英曾直言,阿菲这人谁约都难请,唯独刘嘉玲一喊就到。周星驰更典型

港圈流传着一种说法:刘嘉玲回香港组的局,王菲从不推脱。那英曾直言,阿菲这人谁约都难请,唯独刘嘉玲一喊就到。周星驰更典型

背包旅行
2026-09-09 18:38:20
晚上7点半!CCTV5直播国足青春风暴,韦世豪搭档3大归化,邵佳一争首胜

晚上7点半!CCTV5直播国足青春风暴,韦世豪搭档3大归化,邵佳一争首胜

篮球圈里的那些事
2026-09-09 18:37:59
“4岁男童被指摸臀”父亲发声:已第一时间道歉,相信法律会给出公正的判断

“4岁男童被指摸臀”父亲发声:已第一时间道歉,相信法律会给出公正的判断

潇湘晨报
2026-09-09 12:22:10
WTT澳门冠军赛:大爆冷!女单世界第9被淘汰,1:3一轮游,单局1分

WTT澳门冠军赛:大爆冷!女单世界第9被淘汰,1:3一轮游,单局1分

国乒二三事
2026-09-09 17:00:20
一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

怪味历史连连看
2026-09-08 01:55:32
章泽天采访何超琼,脖间“丝巾”价值近80万!网友:贫穷限制想象

章泽天采访何超琼,脖间“丝巾”价值近80万!网友:贫穷限制想象

老吴教育课堂
2026-09-08 10:40:11
上交所向星宇股份下发监管工作函

上交所向星宇股份下发监管工作函

界面新闻
2026-09-09 18:16:35
历史首次!中芯国际单季营收突破30亿美元:跟三星差距只剩不到3亿

历史首次!中芯国际单季营收突破30亿美元:跟三星差距只剩不到3亿

快科技
2026-09-09 18:39:05
2026-09-09 23:07:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13954文章数 142731关注度
往期回顾 全部

科技要闻

AI重大突破!OpenAI称解开近百年数学难题

头条要闻

男子资助女生5年后停止 遭质问"快打过来 不然曝光你"

头条要闻

男子资助女生5年后停止 遭质问"快打过来 不然曝光你"

体育要闻

16年后再破门,被皇马放弃的少年没认输

娱乐要闻

郭德纲的商业版图,藏着不知道的真相

财经要闻

知情人士证实DeepSeek备战科创板IPO

汽车要闻

红旗HS7 PHEV申报图曝光 尺寸升级/搭载激光雷达

态度原创

家居
艺术
本地
公开课
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

广州塔落选方案:高660米金塔,看完觉得可惜了!

本地新闻

宁波,中国制造的隐藏大佬

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

停止互袭首都3天后 俄乌猛烈交火

无障碍浏览 进入关怀版