网易首页 > 网易号 > 正文 申请入驻

3个编码智能体,只修好了9%的框架Bug

0
分享至

把智能体的代码交给编码智能体去修,结果会怎样?一项来自中美多个实验室的研究给出了一个不太乐观的数字:9%。

这个数字来自一个专门为智能体框架Bug搭建的测试集。研究团队把真实的GitHub缺陷报告,自动转换成可以运行的测试用例,最终形成了一个包含200个Bug的基准,而且这个基准还在持续增长。


为什么这类Bug特别难修

智能体自己的代码,指的是模型之外的那一圈东西:工具调用、记忆、提示词。这些代码的Bug有个麻烦之处——它们依赖实时的模型调用,很难复现,也很难测试。

普通软件Bug有稳定的输入和输出,跑一遍就能看到问题在哪。智能体框架的Bug不一样,同样的代码,模型每次返回的内容可能都不同,问题时有时无。这让自动修复变得格外困难。

研究团队为此搭建了AgentBug-Smith,专门把GitHub上真实的缺陷报告转成可运行的测试。这样一来,原本难以复现的问题,至少有了一个可以反复验证的入口。

9%对比40%,差距在哪

在三个编码智能体中表现最好的那个,也只修好了9%的Bug。作为对照,同一类智能体在普通软件Bug上的修复率大约在40%左右。

差距的来源,指向了智能体框架Bug本身的特殊性:它们和模型的实时行为绑定在一起,不是单纯读代码就能定位的。

不过研究也发现了一个有意思的改善路径。给智能体一份简短的指南,内容是过去修复案例中总结出的经验,效果就变了——在79个没见过的Bug上,同一个智能体从只修对1个,提升到了修对6个。

从1到6,绝对数字依然不高,但方向很明确:过去的修复经验,是可以被复用起来的。

用之前,先拿旧Bug试试

这项研究指向的是一个更长远的目标——能够自我改进的AI智能体,最终需要有能力修复自己的代码。

但在那之前,研究给出的建议很务实:在把一个编码智能体用来处理你自己智能体的代码之前,先拿那些你已经修好的Bug让它试一遍。

这个做法成本不高,却能提前知道它在你这类问题上到底靠不靠谱。毕竟9%和40%之间的差距,不是靠信任能填上的。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
相亲对象哪些骚操作让你相亲终止?网友:直接说让我赚钱养家

相亲对象哪些骚操作让你相亲终止?网友:直接说让我赚钱养家

解读热点事件
2026-09-12 00:05:22
立军令状!体育总局定调,篮协掌门六大铁令,中国篮球再也输不起

立军令状!体育总局定调,篮协掌门六大铁令,中国篮球再也输不起

宝哥精彩赛事
2026-10-03 15:31:57
詹姆斯闪耀76人对抗赛:和恩比德配合非常棒

詹姆斯闪耀76人对抗赛:和恩比德配合非常棒

体坛周报
2026-10-04 08:54:18
足坛一夜动态:英格兰7-0克罗地亚!西班牙3-1 C罗返回沙特

足坛一夜动态:英格兰7-0克罗地亚!西班牙3-1 C罗返回沙特

念洲
2026-10-04 07:03:32
一场幸运一场雨,我在等风也等你

一场幸运一场雨,我在等风也等你

疾跑的小蜗牛
2026-10-03 19:24:03
随着郑钦文晋级,32强敲定!郑钦文和教练极有可能做出3大调整

随着郑钦文晋级,32强敲定!郑钦文和教练极有可能做出3大调整

老玮是个手艺人
2026-10-04 08:39:01
猪肝再次被发现!调查发现:常吃猪肝,可能会收获5大好处

猪肝再次被发现!调查发现:常吃猪肝,可能会收获5大好处

叙说医疗健康
2026-10-04 07:00:21
博士可直聘副处级:这所高校把「逐级晋升」这道门槛拆了

博士可直聘副处级:这所高校把「逐级晋升」这道门槛拆了

生物学霸
2026-10-03 17:09:47
苏超淘汰赛8强赛首回合:南通大逆转10人泰州,两场比赛狂进10球

苏超淘汰赛8强赛首回合:南通大逆转10人泰州,两场比赛狂进10球

第五才子
2026-10-03 22:29:33
“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

易玄
2026-09-13 11:43:30
泰国真的不能再去了?无数游客亲身经历,坦言当地早已不复当年

泰国真的不能再去了?无数游客亲身经历,坦言当地早已不复当年

网络易不易
2026-09-30 06:10:17
中网大冷!王欣瑜0-2遭世界第129名横扫 连续3年止步次轮

中网大冷!王欣瑜0-2遭世界第129名横扫 连续3年止步次轮

醉卧浮生
2026-10-03 21:29:47
笑麻了!总算知道考公务员为啥要体检了,评论区真是太逆天了

笑麻了!总算知道考公务员为啥要体检了,评论区真是太逆天了

另子维爱读史
2026-10-03 20:35:26
阿根廷vs布基纳法索:麦卡利斯特、劳塔罗、阿尔瓦雷斯首发

阿根廷vs布基纳法索:麦卡利斯特、劳塔罗、阿尔瓦雷斯首发

懂球帝
2026-10-04 08:06:07
时过境迁,儿时射的子弹正中眉心!网友:我知道,我的报应来了!

时过境迁,儿时射的子弹正中眉心!网友:我知道,我的报应来了!

夜深爱杂谈
2026-10-03 20:54:07
“我爱她胜过生命!”马斯克 7 天前刚示爱,转头直接取关孩子妈

“我爱她胜过生命!”马斯克 7 天前刚示爱,转头直接取关孩子妈

人间烟火记事本
2026-10-03 21:42:43
大脑为什么要删除三岁前的记忆?网友的回答让我泪目了!

大脑为什么要删除三岁前的记忆?网友的回答让我泪目了!

另子维爱读史
2026-10-03 20:36:50
升级无效!数千用户中招,iPhone18 Pro Max遭遇蜂窝连接问题

升级无效!数千用户中招,iPhone18 Pro Max遭遇蜂窝连接问题

环球网资讯
2026-10-03 09:13:07
162金难掩一尴尬:中国亚运总奖牌为何不敌仁川?

162金难掩一尴尬:中国亚运总奖牌为何不敌仁川?

陈博世财经
2026-10-03 17:00:59
总部人去楼空!上千家供应商被欠4亿货款,这场骗局精心设计仅7天

总部人去楼空!上千家供应商被欠4亿货款,这场骗局精心设计仅7天

小祁谈历史
2026-04-20 22:09:33
2026-10-04 09:07:00
摸鱼算法
摸鱼算法
致力于用最前沿的AI技术,换取更多发呆时间的三十岁青年。
155文章数 72关注度
往期回顾 全部

科技要闻

英伟达盘中创历史新高,市值逼近6万亿美元

头条要闻

时隔28年再获亚运奖牌 中国男足成为三大球的"优秀生"

头条要闻

时隔28年再获亚运奖牌 中国男足成为三大球的"优秀生"

体育要闻

这个讨论了一夏天的问题,马刺有答案了吗

娱乐要闻

马思纯一家爬山祈福!素颜出镜笑容甜

财经要闻

4亿台电视挂墙落灰 为何没人愿意开了?

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

家居
艺术
游戏
教育
房产

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

何家英作品欣赏

《巫师3:重制版》求助增多 官方称回复可能延迟

教育要闻

怎么解决?丢分不应该

房产要闻

保利大爆发,冲到榜一!海南楼市前三季度,热销榜出炉!

无障碍浏览 进入关怀版