一个开源基准「Parsimony」上线了,它衡量的东西和以往不太一样:AI修完一个程序,到底多写了多少代码。项目地址是 parsimony.lasu.dev,名字本身就在问一个问题——哪个AI编程代理改动的代码最少。
![]()
过去评价AI写代码,看的是问题解决率和成本。Parsimony补上了另一面:AI就算把问题解决了,也可能塞进一堆不必要的复杂处理和大量代码。代码一旦膨胀,确认和修改都费劲,长期维护会越来越难。这个基准就是把这些看不见的差别量化出来。
![]()
测量方法并不复杂。Parsimony拿现有基准里公开的AI修改数据,对比修改前后的状态,统计新增和删除了多少代码。关键在于单位——不是简单的行数,而是「编码单元」:条件分支、函数调用、变量名、数值这类语法要素各算一个。换行、空格、注释不计入,所以把多行代码硬挤成一行,评分不会变好。测试代码、说明文档和自动生成的文件不在测量范围内。
![]()
因为算的是新增单元减去删除单元,把已有逻辑写得更简洁时,结果可以是负数。素材里的例子是:一段求和的循环被Python标准功能 sum 替代,旧代码删掉13个单元、新增3个单元,净减10个单元。
对比结果里有个值得注意的现象:智能水平高的模型,代码增量差别依然很大。横轴是相对其他模型解决同一课题时的代码增量,越靠左加得越少;纵轴是AI评测站「Artificial Analysis」的综合性能指标 Intelligence Index,越靠上评价越高。
- Claude Opus 5.5(high):智能指数约54,代码增量约为其他模型的1.1倍
- GPT-6.1 Sol(high)・Codex:智能指数约50,代码增量约0.7倍
换句话说,分数更高的那个,反而写得多。这个反差正是Parsimony想让人看到的东西——只看解决率,这一层差别是隐形的。
但代码少不等于质量高。太短的代码有时更难读懂,开发者也明确说明,单看代码量并不能评价可读性和设计好坏。这个基准给的是一个维度,不是一张判决书。
源码和测量数据都放在GitHub上,用公开数据可以复现测量结果。开发者还在征集新模型的修改数据和评价方法方面的意见,目标是以后能比较更多模型。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.