网易首页 > 网易号 > 正文 申请入驻

测试全绿,代码却错了?AI自己写测试的坑

0
分享至

一个AI编程助手拿到需求,写完实现,顺手把测试数据、夹具、测试用例也一并生成。跑一遍,全绿。这算交付完成了吗?

有人把这个问题拆开看之后,发现了一个不太舒服的结论:全绿可能只证明了一件事——这套代码在自己定义的世界里是自洽的。


一个从物理学家那里借来的念头

很多年前,有人和一位前同事聊过很多关于AI的话题。对方是理论物理学家,喜欢往复杂问题里钻,那会儿正好是AlphaGo和Leela Chess的时期。他们聊决策、聊世界模型,也聊意识。

其中一句话留了下来:一个决策只有相对于某个世界模型才有意义。

这句话当时和软件测试没有任何关系。直到编程智能体开始自己写实现、写夹具、写测试,它突然变得非常实用。

测试数据不是输入,是"世界"的一部分

给智能体一个需求,它会依次产出:实现、夹具、测试。整个过程顺畅,结果全绿。

但如果它在最开始就理解错了需求呢?

实现遵循的是解释A,夹具代表的是解释A,预期值建立在解释A之上,最后测试证明的是——解释A内部自洽。没有任何环节互相矛盾,系统仍然可以是错的。

这就是重新理解测试数据的起点。测试数据不只是执行一次测试所需要的输入,它定义了实现必须在其间表现的那部分世界。

对一个孤立的小函数来说,这个区别可能无关紧要。但对一个有状态、有关系、有存量数据、跨多个系统、还带着一堆没人完全记得的规则的业务流程来说,区别很大。

实现不该定义那个证明它正确的世界

让智能体生成测试数据本身没有问题。一个能力足够的智能体可以写Python脚本、执行它、造出质量很高的数据。

有人正是用这一点提出反驳:聪明的智能体可以先写生成代码再执行。

这个说法成立。代码还是模型,并不是关键。关键在于信息从哪里来

理想情况下,构建测试世界的智能体应该拿到这些东西:

  • 规格说明
  • 数据结构定义
  • 领域约束
  • 契约
  • 来自真实环境的相关信息

但不应该拿到它之后要评判的那份实现。

否则就存在一条捷径:智能体可以生成贴合实现实际行为的数据,而不是用数据去挑战实现本该有的行为。它甚至不需要有意识地这么做,同一个假设会从实现悄悄挪到夹具,再挪到预期值。结果是自洽的,也是错的。

为什么更倾向模型而不是生成代码

生成的代码可以工作。但审阅任意一段夹具代码时,必须同时理解两件事:它试图创造的是哪个世界,以及代码是怎么创造出来的。

把这两个问题分开会更好。用模型驱动的方式,可以直接看世界本身:

  • 实体
  • 关系
  • 基数
  • 允许的取值
  • 范围
  • 分布
  • 外键
  • 复合键
  • 预期

引擎负责持有这些东西,人看的是世界长什么样,而不是一段代码怎么把世界拼出来。当实现和测试由同一个理解偏差驱动时,全绿就不再是证据,只是回声。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国篮球之队发文回应“77-97负于日本男篮”:暴露出攻防多种问题;失利令人心情沉重,全队将深刻总结、调整状态,全力打好接下来的比赛

中国篮球之队发文回应“77-97负于日本男篮”:暴露出攻防多种问题;失利令人心情沉重,全队将深刻总结、调整状态,全力打好接下来的比赛

极目新闻
2026-09-19 00:42:11
被打崩绝非偶然!中国男篮高大身躯下,却是“民国篮球”的现实

被打崩绝非偶然!中国男篮高大身躯下,却是“民国篮球”的现实

中国足球的那些事儿
2026-09-18 20:20:14
国乒在918当天5场对阵日本球员全败 一天输了12场外战:男女单6场

国乒在918当天5场对阵日本球员全败 一天输了12场外战:男女单6场

风过乡
2026-09-19 08:22:12
浙江夜场整治事件舆论发酵!网传一女生从浙江回乡,先后相亲12个对象,听闻籍贯直接拒绝

浙江夜场整治事件舆论发酵!网传一女生从浙江回乡,先后相亲12个对象,听闻籍贯直接拒绝

火山詩话
2026-09-18 05:31:57
3天3夜只睡45分钟,爬升超过24000米,相当于往返两次珠峰!浙江36岁建材店老板拿下“巨人之旅”男子组第三,去年曾打破亚洲纪录

3天3夜只睡45分钟,爬升超过24000米,相当于往返两次珠峰!浙江36岁建材店老板拿下“巨人之旅”男子组第三,去年曾打破亚洲纪录

都市快报橙柿互动
2026-09-19 00:43:36
所有人都不发声,那就一起待在黑暗里!

所有人都不发声,那就一起待在黑暗里!

走读新生
2026-09-18 17:07:50
河南一数学老师花300多万拍院线电影,上映三天票房不到3万,本人回应:已无力回天

河南一数学老师花300多万拍院线电影,上映三天票房不到3万,本人回应:已无力回天

互联网大观
2026-09-18 17:44:42
香港再次超越新加坡:亚太第一,全球第三!

香港再次超越新加坡:亚太第一,全球第三!

港你知
2026-09-18 12:09:54
4亿人都在用的豆包,今天成了全网最大的笑话

4亿人都在用的豆包,今天成了全网最大的笑话

财通社
2026-09-17 20:35:18
三大指数跳空高开放量收涨,创业板指涨超2%,半导体行业涨4.35%

三大指数跳空高开放量收涨,创业板指涨超2%,半导体行业涨4.35%

终南听雨
2026-09-18 19:26:21
外衣透,内衣漏:女装,完了

外衣透,内衣漏:女装,完了

视觉志
2026-09-18 19:22:28
崩牙驹被爆是妙瓦底园区后台老板,他坚决否认!一组照片出卖了他

崩牙驹被爆是妙瓦底园区后台老板,他坚决否认!一组照片出卖了他

BenSir本色说
2025-01-08 22:32:35
没想到,敬一丹葬礼仅1天,倪萍竟因一个举动被公然挑毛病

没想到,敬一丹葬礼仅1天,倪萍竟因一个举动被公然挑毛病

叶公子
2026-09-18 11:50:52
17次丢失球权!蓝军36岁新援耍大牌 丢球后怒吼大马丁

17次丢失球权!蓝军36岁新援耍大牌 丢球后怒吼大马丁

球事百科吖
2026-09-19 05:32:21
新闻分析|亚运再次失利,中国男篮差距何在

新闻分析|亚运再次失利,中国男篮差距何在

新华社
2026-09-19 01:32:21
炸裂!女网红和男子开房,因动作太猛导致女网红腰部骨折,告上法庭索赔50万

炸裂!女网红和男子开房,因动作太猛导致女网红腰部骨折,告上法庭索赔50万

小徐讲八卦
2026-09-17 09:49:48
人民日报发声:机关事业单位的隐性收入,正在消失

人民日报发声:机关事业单位的隐性收入,正在消失

细说职场
2026-09-18 16:35:31
广东佛山一男子高空作业从30楼下到2楼,发现绳子被2楼老人剪断,当事人:老人不知是高空作业,想当晾衣绳用,已赔偿费用

广东佛山一男子高空作业从30楼下到2楼,发现绳子被2楼老人剪断,当事人:老人不知是高空作业,想当晾衣绳用,已赔偿费用

潇湘晨报
2026-09-18 15:47:14
圆明园人员经费五年超10亿,钱都花在哪了?

圆明园人员经费五年超10亿,钱都花在哪了?

马小白
2026-09-18 14:01:07
为了顺利邀请中方秋季访美,美国将拿出顶级规格迎接中国代表团。

为了顺利邀请中方秋季访美,美国将拿出顶级规格迎接中国代表团。

荆楚寰宇文枢
2026-09-18 23:19:04
2026-09-19 10:28:49
像素与芯片
像素与芯片
有态度网友ytd
220文章数 75关注度
往期回顾 全部

科技要闻

直击iPhone 18新机发售:黄牛加价不如前代

头条要闻

牛弹琴:菲律宾南海挑事 在中国人无法忘记的特殊日子

头条要闻

牛弹琴:菲律宾南海挑事 在中国人无法忘记的特殊日子

体育要闻

好吧,中国男篮辛苦了

娱乐要闻

陈思诚 佟丽娅不想让儿子知道两人离婚

财经要闻

江西首富破产:一张927万商票压垮千亿帝国

汽车要闻

纯电/插混双动力+五座/六座双布局 海狮08应该怎么选?

态度原创

游戏
健康
教育
艺术
军事航空

《Fate/Extra》重制版游民采访:全新方式重现原作

脑动脉瘤的治疗方法,该选哪一种?

教育要闻

学校不是“无限责任公司”——给校长的校园安全责任地图与操作清单

艺术要闻

画坏又怎样?黄胄一句话,骂醒无数不敢下笔的人!

军事要闻

特朗普再称对伊朗战争将很快结束

无障碍浏览 进入关怀版