网易首页 > 网易号 > 正文 申请入驻

AI编程工具真能提高效率吗?七项对照实验给出意外答案

0
分享至

2025年7月,METR一项研究在科技圈炸开了锅:开发者们自认AI让他们快了20%,实际上却慢了19%。这个数字成了"AI生产力是幻觉"的标志性证据,被每一篇质疑AI的文章反复引用。

但很少有人注意到后来发生的事。METR做了跟进实验,Anthropic开展了对照试验,赫尔辛基大学团队完成了两阶段随机对照实验,SAP做了可穿戴设备研究,2025年11月还有一项关于Cursor采用的双重差分研究,MIT经济学家跑了三场田野实验。这些研究都没 viral,而且结论各不相同。


我们梳理了2026年初所有受控、准实验和仪器化田野研究文献——不是调查问卷,不是厂商案例,不是"开发者反馈"——包括随机对照试验、严谨的准实验,以及一项质量过硬、无法忽略的Cursor双重差分研究。


剧透:结论既不是"AI带来10倍提升",也不是"AI让你更慢"。而是"收益 modest,成本真实,高度依赖测量方式, headline 数字每六个月就变"。

过去六个月,证据变得更丰富了,结论却更模糊了。

证据质量问题

在聊具体研究前,先说说什么算证据。目前关于AI编程效率的声明主要来自三类:厂商案例(GitHub、Cursor、Copilot团队报告自家客户)、开发者调查(Stack Overflow、JetBrains、DORA)、个人博客。这些都有用,也都薄弱。

厂商案例有显而易见的利益动机。调查测量的是感知而非行为——而感知与行为的差距正是METR研究的核心发现。个人博客则是轶事。

随机对照试验稀缺,因为昂贵且缓慢。需要真实开发者、真实任务、对照条件,以及足够样本量来检测 modest 效应。以下是现有文献。


1. METR的"我们仍不知道"跟进研究

原始METR研究在2025年初进行:16名有经验的开源开发者,246项任务,基于他们自己的成熟代码库,主要使用Cursor Pro配Claude 3.5/3.7 Sonnet。结果:用AI慢了19%,但事后预测自己快了20%。感知差距驱动了引用量。

跟进研究2025年8月启动。同一批作者,更大样本(57名开发者),任务更紧凑,时薪降低(从150美元降至50美元以扩大招募)。计划是用更新的工具——Claude 4、GPT-5时代模型——验证或更新原始发现。

2026年2月的报告异常坦诚。简言之:实验崩了。

10名回归的原始参与者中,AI使用产生了……

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
关紧门窗!8—9级雷暴大风,抵达湖北

关紧门窗!8—9级雷暴大风,抵达湖北

蔡甸在线
2026-05-14 12:09:34
宋佳调侃张嘉益:为何不推荐我试镜《主角》? 张嘉益回复全场笑翻

宋佳调侃张嘉益:为何不推荐我试镜《主角》? 张嘉益回复全场笑翻

娱最资讯
2026-05-14 09:47:07
浙江省委副书记、宁波市委书记王成到宁波大学调研

浙江省委副书记、宁波市委书记王成到宁波大学调研

林子说事
2026-05-14 13:59:15
千万网红董赤赤账号仅剩9000元,欠54万!更背后谁拿走了网红的钱

千万网红董赤赤账号仅剩9000元,欠54万!更背后谁拿走了网红的钱

眼界纵横
2026-05-14 14:50:49
不法商贩售卖翻新硬盘致信息泄露 国家安全部:规范处置闲置硬盘

不法商贩售卖翻新硬盘致信息泄露 国家安全部:规范处置闲置硬盘

每日经济新闻
2026-05-14 07:12:11
吃他汀一颗南瓜子不能碰?提醒:不止南瓜子,这4样食物也要小心

吃他汀一颗南瓜子不能碰?提醒:不止南瓜子,这4样食物也要小心

芹姐说生活
2026-05-12 16:25:54
最新研究表明,维生素B12可能是健康老龄化的关键,真相来了!

最新研究表明,维生素B12可能是健康老龄化的关键,真相来了!

岐黄传人孙大夫
2026-05-12 20:10:03
重磅!皇马与穆帅敲定3年执教合同!只待本菲卡赛季结束后,官宣

重磅!皇马与穆帅敲定3年执教合同!只待本菲卡赛季结束后,官宣

福酱的小时光
2026-05-14 06:27:54
隔空喊话前妻?王力宏演唱会情绪激动下跪哽咽:我们重新开始吧

隔空喊话前妻?王力宏演唱会情绪激动下跪哽咽:我们重新开始吧

八卦王者
2026-05-14 11:37:21
很多男人已经养不起家了,无数普通顶梁柱被压垮!

很多男人已经养不起家了,无数普通顶梁柱被压垮!

黯泉
2026-05-14 10:57:59
浙江宣传评世界杯转播权之争:与其花费巨资追捧海外赛事,不如投入本土足球

浙江宣传评世界杯转播权之争:与其花费巨资追捧海外赛事,不如投入本土足球

澎湃新闻
2026-05-08 12:24:10
俄罗斯石油产量跌回2009年,普京最赚钱的家底开始撑不住了

俄罗斯石油产量跌回2009年,普京最赚钱的家底开始撑不住了

桂系007
2026-05-13 23:24:34
骑士头号奇兵:斯特鲁斯6三分创生涯新高+全场最高 轰20+8立功

骑士头号奇兵:斯特鲁斯6三分创生涯新高+全场最高 轰20+8立功

醉卧浮生
2026-05-14 11:35:35
特朗普精力充沛,养生秘诀是吃大量阿司匹林,日常三餐吃麦当劳

特朗普精力充沛,养生秘诀是吃大量阿司匹林,日常三餐吃麦当劳

南权先生
2026-04-04 05:05:03
彭德怀打仗那么厉害,为啥带出来的名将却不多?陈毅评价一语中的

彭德怀打仗那么厉害,为啥带出来的名将却不多?陈毅评价一语中的

史之铭
2026-05-14 14:05:34
“主持一场婚礼还要倒贴100?”男子:这单谁爱接谁接

“主持一场婚礼还要倒贴100?”男子:这单谁爱接谁接

一丝不苟的法律人
2026-05-13 17:00:59
阿联酋否认以色列总理访阿

阿联酋否认以色列总理访阿

新华社
2026-05-14 06:31:02
亚运会名单公布!孙颖莎领衔,陈幸同意外落选,陈熠入选引争议

亚运会名单公布!孙颖莎领衔,陈幸同意外落选,陈熠入选引争议

观察鉴娱
2026-05-14 10:48:44
没有中方官员接待,日本代表团抵沪第三天,外交部打开天窗说亮话

没有中方官员接待,日本代表团抵沪第三天,外交部打开天窗说亮话

丁铗惊悚影视解说
2026-05-14 14:35:20
清理门户!广东出局第一天,5人或离队,1将恐退役,杜锋洗牌

清理门户!广东出局第一天,5人或离队,1将恐退役,杜锋洗牌

男足的小球童
2026-05-13 18:08:27
2026-05-14 15:51:00
码上闲叙
码上闲叙
有态度网友ytd
3955文章数 46关注度
往期回顾 全部

科技要闻

马斯克说会谈很顺利 黄仁勋点赞 库克比耶

头条要闻

男子称火车站走错口遭安检员追打 被认定互殴各拘5天

头条要闻

男子称火车站走错口遭安检员追打 被认定互殴各拘5天

体育要闻

登海报!哈登30+8+6创多项纪录 第8次赢天王山

娱乐要闻

肖战提名金海燕奖,这一步走得太稳

财经要闻

习近平同美国总统特朗普会谈

汽车要闻

云辇-P Ultra降维打击!三轮也能越野?方程豹豹8/豹5闪充版30.58万起

态度原创

时尚
房产
健康
艺术
教育

T恤+低腰阔腿裤、衬衫+低腰半裙,今年夏天最时髦的搭配,谁穿谁好看!

房产要闻

海南楼市新政要出!拟调公积金贷款额度,最高可贷168万!

干细胞能让人“返老还童”吗

艺术要闻

充满光感的花卉油画 | 亚历山大·沙巴德伊

教育要闻

6月一早,准备高考~7月一到,志愿填报~

无障碍浏览 进入关怀版