网易首页 > 新闻中心 > 新闻 > 正文

登顶SWE-Bench,快手KAT-Dev-72B-Exp刷新开源SOTA

0
分享至

(原标题:登顶SWE-Bench,快手KAT-Dev-72B-Exp刷新开源SOTA)

大规模强化学习作为关键路径,能够有效激发大模型的复杂推理能力并显著提升其任务泛化性。近期,快手Kwaipilot团队重磅发布的KAT-Dev-72B-Exp,在软件开发能力评测基准 SWE-Bench Verified上取得了74.6%的卓越表现,创下开源模型领域新纪录。KAT-Dev-72B-Exp 是 KAT-Coder 模型强化学习的实验版本,我们借助这一开源模型揭秘 KAT-Coder 在大规模强化学习方向上的技术创新。

登顶SWE-Bench,快手KAT-Dev-72B-Exp刷新开源SOTA

在 SWE-Bench Verified 上,和全尺寸开源模型对比,KAT-Dev-72B-Exp 以74.6%的卓越性能创下新纪录

作为Kwaipilot在端到端复杂强化学习领域的前沿探索成果,该模型基于自研 SeamlessFlow 工业级强化学习框架,通过创新的数据平面架构实现了训练逻辑与 Agent 的完全解耦,成功支持多智能体和在线强化学习等复杂场景。针对复杂 Agent 场景的技术挑战,团队创新性地引入Trie Packing机制,并对训练引擎进行了重构优化,使模型能够高效地在共享前缀轨迹上开展训练。通过难度感知的策略优化,实现了探索与利用的平衡,并结合基于开源仓库构建的大规模端到端可验证软件工程任务,KAT-Dev-72B-Exp 在编程领域展现出强大的能力。

在agentic RL训练过程中,模型训练的成功离不开高效、可扩展的数据环境支撑。传统方法往往局限于单一数据集和固定框架,导致模型在面对复杂现实场景时表现欠佳。通过持续的实践探索,Kwaipilot 团队逐渐意识到大规模 scaling 数据环境的重要性。这不仅是数据量的堆积,更是构建一个动态、灵活的生态系统,让模型能够从海量且多样化的数据中汲取营养,实现从“实验室玩具”到“实战高手”的跃升。

为此,Kwaipilot 团队正积极投入建设一套大规模数据环境管理系统。这套系统的核心在于实现训练数据、训练沙盒(sandbox)以及训练框架的完全解耦。通过这种设计,数据源可以独立扩展,而不会受限于特定框架的约束;沙盒环境则提供安全的隔离测试空间,避免干扰主流程;训练框架也能灵活切换,支持多种算法迭代。这种解耦机制极大提升了系统的模块化程度,让开发团队能够更高效地协作,避免了以往“牵一发而动全身”的瓶颈。

更重要的是,该系统显著加速了训练数据的扩充过程。我们的数据环境管理系统采用统一的数据协议,可以快速整合开源的以及各种多源数据环境。数据环境涵盖代码、数学、游戏、博弈等多个领域。在这样的环境中,模型可以通过 RL 反复迭代,逐步适应各种复杂情境,进一步增强其泛化能力。模型不再局限于单一的环境,而是能在跨领域的环境中自适应,也更能在没有见过的环境中有更好的表现,提升其鲁棒性和实用性。

相关推荐
热点推荐
樊振东战胜林诗栋卫冕冠军,赛后没想到小石头这样做,不开心

樊振东战胜林诗栋卫冕冠军,赛后没想到小石头这样做,不开心

小染说台球
2025-11-16 15:36:47
重磅:曝朝鲜对俄罗斯的炮弹供应量减少一半!凸显两大问题

重磅:曝朝鲜对俄罗斯的炮弹供应量减少一半!凸显两大问题

项鹏飞
2025-11-16 21:41:37
突发!特斯拉供应链去中国化

突发!特斯拉供应链去中国化

WitDisplay
2025-11-16 00:46:05
樊振东男单夺冠燃爆全网!干掉世界第一第二,却不能替国家队出战

樊振东男单夺冠燃爆全网!干掉世界第一第二,却不能替国家队出战

阿纂看事
2025-11-16 16:50:00
消费降级了,来这里买东西的人越来越多了

消费降级了,来这里买东西的人越来越多了

微微热评
2025-11-16 16:05:57
高市早苗若继续铤而走险 日本将万劫不复

高市早苗若继续铤而走险 日本将万劫不复

极目新闻
2025-11-16 22:29:28
意外惊喜!美国发现70年孕妇老药,或可终结最致命脑瘤!

意外惊喜!美国发现70年孕妇老药,或可终结最致命脑瘤!

徐德文科学频道
2025-11-15 23:12:23
震惊!杨兰兰案第四次庭审,惊爆全网

震惊!杨兰兰案第四次庭审,惊爆全网

热点菌本君
2025-11-16 17:48:30
解放军军舰逼近日本岛,高市早苗万万没想到,中方反制这么快

解放军军舰逼近日本岛,高市早苗万万没想到,中方反制这么快

空天力量
2025-11-16 17:24:00
雷军刚刚连发多条微博

雷军刚刚连发多条微博

每日经济新闻
2025-11-16 14:58:06
赴日警告发布后,仍有人因退不了票硬闯,别因小失大!

赴日警告发布后,仍有人因退不了票硬闯,别因小失大!

吃瓜盟主
2025-11-16 17:32:54
日本敢不敢先打

日本敢不敢先打

求实处
2025-11-16 00:27:27
全运会不和谐一幕:孙颖莎2-4无缘金牌 比输球可怕是现场粉丝狂热

全运会不和谐一幕:孙颖莎2-4无缘金牌 比输球可怕是现场粉丝狂热

侃球熊弟
2025-11-16 22:28:50
笑掉大牙!雷军喊抵制水军,网友却扒出小米操纵水军被罚记录

笑掉大牙!雷军喊抵制水军,网友却扒出小米操纵水军被罚记录

吃瓜局
2025-11-16 17:42:38
人口5.5万!FIFA第127最后1轮梦断世界杯:球员是木匠电工 8场4胜

人口5.5万!FIFA第127最后1轮梦断世界杯:球员是木匠电工 8场4胜

风过乡
2025-11-16 18:44:51
浙江公厕被打女孩确诊白血病,急需骨髓移植手术费

浙江公厕被打女孩确诊白血病,急需骨髓移植手术费

大风新闻
2025-11-16 09:15:03
赴日旅行警告发布之后,不少游客因无法退票选择继续旅行

赴日旅行警告发布之后,不少游客因无法退票选择继续旅行

映射生活的身影
2025-11-16 01:55:20
新乡市人民检察院依法对释永信批准逮捕

新乡市人民检察院依法对释永信批准逮捕

界面新闻
2025-11-16 12:04:33
中方下达最后通牒,日本民众围堵首相官邸,高市早苗认输不远了?

中方下达最后通牒,日本民众围堵首相官邸,高市早苗认输不远了?

时时有聊
2025-11-16 16:23:45
冲刺时刻超燃反超逆转!全运会男子800米:奚枭横破全国纪录夺冠

冲刺时刻超燃反超逆转!全运会男子800米:奚枭横破全国纪录夺冠

全景体育V
2025-11-16 19:59:49
2025-11-17 00:51:00

头条要闻

央视:若高市早苗死不悔改 日本将万劫不复

头条要闻

央视:若高市早苗死不悔改 日本将万劫不复

体育要闻

最佳新秀候选!2028美国男篮有他一个位置

娱乐要闻

CEO爆料肖战《藏海传》狂赚几十亿!

财经要闻

房源暗中调价 央企举报广州国资房企

科技要闻

雷军,怒了!刚刚连发多条微博

汽车要闻

"冰彩沙"全配齐 红旗HS6 PHEV预售17.88万起

态度原创

教育
数码
时尚
公开课
军事航空

教育要闻

妈妈晒高二儿子吃宵夜,女网友眼睛看直了:这颜值,小姑娘遭殃了

数码要闻

华为鸿蒙HarmonyOS 6.0.0.112版本首曝,支持电脑投平板

秋天怎么穿出时尚感?避开老气的着装方式,美得自然又大方

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

海军四川舰顺利完成首次航行试验

无障碍浏览 进入关怀版
×