网易首页 > 网易号 > 正文 申请入驻

483项测试通过却无法安装:AI编程两个月的真实教训

0
分享至

两个月,四个AI智能体,878个测试,三个版本发布——这是开源Python框架Vestibule的诞生记。但真正让作者记住这段经历的,不是那些亮眼的数字,而是两个让他印象深刻的瞬间:AI发现了人类没发现的生产环境竞态条件,以及483个测试全部通过、框架却根本装不上的荒诞现实。

AI审AI:五轮设计迭代揪出真实竞态


Vestibule最棘手的组件是向量索引的按需创建——要保证多个worker并发时安全。这个设计被反复否决修改了五次,才进入编码阶段。第一轮评审时,负责审查的AI就发现了一个真实的生产环境竞态:当某个worker还在执行一次慢速索引创建(含重试约390秒)时,它的状态看起来已经过期(阈值默认300秒),于是等待中的worker会接管任务,最终导致两个worker创建同一个索引。

一个AI读另一个AI的设计,在代码还没写出来之前,就发现了默认配置下的生产环境竞态。这种"AI审AI"的协作方式,让作者第一次感受到流程本身的价值。

绿色测试的谎言:483个测试通过,pip install却失败

v0.2版本发布后,作者第一次以陌生人的视角运行快速上手脚本——结果翻车了。pip install直接失败,一个打包冲突让整个框架根本无法安装,而此时483个测试依然全绿。紧接着,一小时的实测又暴露了两个问题:一个从未在真实SDK上跑通的默认模型名,以及一个在缺少可选依赖时能拖垮整个包的import语句。

问题不在测试本身,而在于测试衡量了什么。这些测试证明的是代码与自身的一致性:同一工作目录、同样的模拟接缝。但没有任何测试去验证用户真实所处的世界:干净的机器、真实的安装、真实的SDK。测试通过和产品可用,原来是两个完全不同的命题。

修复不止于补丁:CI流程的持久改变

最终的修复不是那三个补丁,而是一个新的CI任务:每次PR都会构建一个干净的虚拟环境,执行真实安装,并运行快速上手脚本。三个bug全部被公开写进了发布说明——包括那个让框架完全无法安装的打包冲突。

这段经历留下的教训很直白:测试绿了不等于产品能跑。当代码只和自己对话,而从未和用户的世界对话时,再多的测试也只是自我安慰。

Vestibule到底解决什么问题

每个RAG教程都会讲解析、分块、嵌入。但没人讲第六个月会坏什么:重试导致分块重复、文档在管道中静默消失、一个团队的配置改动破坏另一个团队的索引、没人能回答"那篇文档到底进没进去"。

Vestibule就是这层缺失的中间件——四个契约,所有组件都插在这上面:

  • 统一的到达信封:每篇文档都通过同一个校验形状进入,ACL前置要求,而不是事后补丁。
  • 确定性身份:doc_id和chunk_id是其输入的纯函数。重试覆盖而非重复,重新摄入缩减后的文档不会留下孤儿分块。
  • 状态账本:每篇文档一行记录,一个合法的状态机,让"文档X在哪"成为可回答的问题。

这些设计背后,是作者用两个月时间换来的核心认知:AI能写出通过测试的代码,但只有人——或者一个足够好的流程——才能确保代码在真实世界里也能跑通。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
乌克兰撑不住了?泽连斯基向俄方喊话,普京却提出一个交换条件

乌克兰撑不住了?泽连斯基向俄方喊话,普京却提出一个交换条件

爱吃醋的猫咪
2026-08-25 17:07:08
你吃过最贵的一道菜是什么?网友:曾经喝过两百多一杯的瑞幸,我这辈子都忘不了

你吃过最贵的一道菜是什么?网友:曾经喝过两百多一杯的瑞幸,我这辈子都忘不了

解读热点事件
2026-08-25 00:05:12
牡丹花下死?汪峰将森林北踢出局,这次终于彻底印证葛荟婕的评价

牡丹花下死?汪峰将森林北踢出局,这次终于彻底印证葛荟婕的评价

历史的烟火
2026-08-14 15:48:04
杀害赴韩女留学生凶手是学校老师,遗体在住所发现,家属要求偿命

杀害赴韩女留学生凶手是学校老师,遗体在住所发现,家属要求偿命

映射生活的身影
2026-08-26 16:36:11
江西50岁阿姨一生未婚,坚持寻找30年前的初恋,找到时她哭出声来

江西50岁阿姨一生未婚,坚持寻找30年前的初恋,找到时她哭出声来

白云故事
2025-06-09 19:05:03
惊人的父女定律:爸爸什么样,女儿大概率就什么样

惊人的父女定律:爸爸什么样,女儿大概率就什么样

户外阿毽
2026-08-10 07:37:00
为千万企退老人发声!企退养老金年年上涨,一分都不能少

为千万企退老人发声!企退养老金年年上涨,一分都不能少

你在偷看谁
2026-08-10 21:21:08
央视再三提醒:绑定银行卡的手机,务必开启这几项功能!

央视再三提醒:绑定银行卡的手机,务必开启这几项功能!

记录生活日常阿蜴
2026-08-12 06:02:43
港媒:中国高铁已被“粪便淹没”!再不解决后果严重,真的假的?

港媒:中国高铁已被“粪便淹没”!再不解决后果严重,真的假的?

青山夜谈
2026-07-23 03:37:44
彻底炸锅!北大副校长自首全是演的?网友:被逼顶罪,大鱼没动!

彻底炸锅!北大副校长自首全是演的?网友:被逼顶罪,大鱼没动!

米果说识
2026-08-26 11:59:23
Windows 95趣闻:防伪标婴儿图被认作裸体 微软被逼紧急整改

Windows 95趣闻:防伪标婴儿图被认作裸体 微软被逼紧急整改

快科技
2026-08-26 16:55:15
闲鱼上还有多少惊喜是朕不知道的,太牛了!

闲鱼上还有多少惊喜是朕不知道的,太牛了!

康富贵碎碎念
2026-08-03 16:36:13
“只有男人最懂男人”,女儿哭诉父亲不让穿小白裙,看照片才明白

“只有男人最懂男人”,女儿哭诉父亲不让穿小白裙,看照片才明白

泽泽先生
2026-08-25 13:18:57
费德勒喊话球迷:你不可能全年20次巅峰,阿尔卡拉斯与辛纳伤病缠身

费德勒喊话球迷:你不可能全年20次巅峰,阿尔卡拉斯与辛纳伤病缠身

热血体育社
2026-08-25 14:45:31
被韩沛颖公开喊话后,“一言不发”的王晓晨,印证了俞灏明的评价

被韩沛颖公开喊话后,“一言不发”的王晓晨,印证了俞灏明的评价

孤芳自赏的小李
2026-08-26 00:29:22
56岁张延20年婚姻落幕!前夫亲认单身,港媒戳破离婚根因

56岁张延20年婚姻落幕!前夫亲认单身,港媒戳破离婚根因

橙星文娱
2026-08-26 14:01:33
告别客串光环 《生活大爆炸》衍生剧第5集实现彻底独立

告别客串光环 《生活大爆炸》衍生剧第5集实现彻底独立

生活观察员啊
2026-08-26 01:55:15
转战娱乐圈两年,还能回归打职业联赛,难怪都说CBA是草台班子

转战娱乐圈两年,还能回归打职业联赛,难怪都说CBA是草台班子

禾三千体育
2026-08-25 14:30:52
宇树机器人比赛倒数第一,全网炸锅

宇树机器人比赛倒数第一,全网炸锅

科技头版Pro
2026-08-25 14:45:15
离职一年,公司竟让我飞来修设备,财务报销9千差旅费,领导懵了

离职一年,公司竟让我飞来修设备,财务报销9千差旅费,领导懵了

红豆讲堂
2025-05-15 13:10:03
2026-08-26 17:35:00
我是一个养虾人
我是一个养虾人
有态度网友ytd
260文章数 76关注度
往期回顾 全部

科技要闻

2026新一代AI深圳创业创新大赛颁奖典礼

头条要闻

多人植入"戒酒芯片"19人完全戒酒 患者:喝酒的感觉没了

头条要闻

多人植入"戒酒芯片"19人完全戒酒 患者:喝酒的感觉没了

体育要闻

B费当选PFA最佳球员 曼联近16年首人

娱乐要闻

包文婧当初担心包贝尔出轨,预言成真

财经要闻

宗馥莉汽水铺销售遇冷

汽车要闻

220万台交付 GL8陆尊/至境世家发布限时焕新置换价

态度原创

时尚
亲子
手机
旅游
公开课

夏天衣服不用买贵的,看看这几款针织短袖,舒适百搭又显得温柔

亲子要闻

我们上了整整一年幼小衔接,跟大家浅浅分享一下感受。 杨雪呀

手机要闻

OPPO Find X10系列阵容大调整:Pro版缺席 新增Pro Max

旅游要闻

奔县去|感受这份清凉 游客奔向桐庐马岭古道

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版