网易首页 > 网易号 > 正文 申请入驻

Stripe 公布 AI 编程基准:集成构建尚可,校验仍是大坑

0
分享至

Stripe 最近推出了一套基准测试,用来衡量 AI 智能体能不能端到端地搞定真实的 Stripe 集成——覆盖后端服务、前端应用,一直到浏览器里的结账页面。这个测试不是光看代码生成得漂不漂亮,而是瞄着更完整的软件工程流程:在真实环境里执行、测试、校验,每一步都得跑通。尤其因为场景落在金融系统里,正确性是硬指标,部分成功就等于失败。

整套基准围绕 11 个可复现的环境搭建,模拟了 Checkout 迁移、Billing API 建模这类典型的 Stripe 集成项目。每个环境都带着完整的应用代码库、数据库、脚本,还有测试用的 Stripe API 密钥。对智能体的考核分成三类:纯后端任务、涉及浏览器结账流程的全栈任务,以及订阅管理和 Checkout 集成这类产品特定的练习。


智能体通过一套基于 Goose 和模型上下文协议(MCP)的统一工具链来操作,拥有终端访问、浏览器自动化和文档检索的能力。任务不止于写代码,还得把服务跑起来、跟 API 交互,再用自动化测试或模拟用户流程来校验端到端行为。判定靠的是确定性评分程序,通过 API 调用、UI 自动化和检查 Checkout Session 这类 Stripe 对象来给出结果。Stripe 没有公布一个汇总的总成功率,但不同任务类型之间的表现差异很明显:后端集成更稳,一涉及到跨系统的校验和状态跟踪,分数就往下掉。

具体拆开来看,Claude Opus 4.5 在四个场景的全栈 API 集成任务里平均拿了 92 分,GPT 5.2 在两个结构化训练场风格的任务里达到 73 分。表现最好的那几次运行,平均交互轮次稳定在 63 轮,说明长时间的执行能力有所提升,不过一旦工作流拉长,正确性的衰减还是会出现。

Stripe 的软件工程师 Carol L 在 LinkedIn 上点出了关键局限:瓶颈不在代码生成,而在校验。她认为,AI 智能体眼下还取代不了软件工程师,至少在构建 Stripe 集成时是这样——金融系统要求严格正确,而当前的智能体缺少一个稳定的校验层去应付集成工作流中的各种状况。

报告里列出了两种反复出现的失败模式。第一种是在 SDK 升级场景中,智能体有时会误读校验信号。当收到无效的 Stripe 输入时,它们观察到预期的 HTTP 400 响应,反而错误地判断集成已经成功。在表现更稳健的运行里,智能体则能生成合成测试数据,并据此正确地验证行为。

第二种失败模式出现在浏览器结账流程中。智能体需要走完一个完整的网页支付过程,相关测试在涉及前端状态跟踪和多步骤交互时,暴露出当前模型在校验层面仍然不够可靠。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
阿根廷2-1英格兰,梅西刷新世界杯历史助攻总数纪录;英格兰队主帅图赫尔赛后遭猛批,本人回应

阿根廷2-1英格兰,梅西刷新世界杯历史助攻总数纪录;英格兰队主帅图赫尔赛后遭猛批,本人回应

封面新闻
2026-07-16 09:59:08
前无古人!梅西5项数据全场最佳:基本锁定第3座世界杯金球奖

前无古人!梅西5项数据全场最佳:基本锁定第3座世界杯金球奖

邱泽云
2026-07-16 06:18:23
赢麻了!上半年GDP增长4.7%,人均收入大涨5.2%

赢麻了!上半年GDP增长4.7%,人均收入大涨5.2%

说财猫
2026-07-15 10:36:30
膜拜真神!39岁梅西当选MVP:6分钟2助攻 连续2届世界杯率队进决赛

膜拜真神!39岁梅西当选MVP:6分钟2助攻 连续2届世界杯率队进决赛

风过乡
2026-07-16 05:20:39
女护士遭同居男友杀害案即将二审,一审被告获死刑,女方家属:放弃民事赔偿、绝不谅解

女护士遭同居男友杀害案即将二审,一审被告获死刑,女方家属:放弃民事赔偿、绝不谅解

极目新闻
2026-07-16 09:26:15
国企董事长的办公室,成了上香求财的“财神殿”

国企董事长的办公室,成了上香求财的“财神殿”

News脑洞
2026-07-14 08:50:19
女子花200万包养情夫,2021年让情夫考研提升气质,情夫杀她和娃

女子花200万包养情夫,2021年让情夫考研提升气质,情夫杀她和娃

汉史趣闻
2026-07-14 10:26:06
替补奇兵!劳塔罗连场压哨绝杀,世界杯生涯首次,迎40球里程碑

替补奇兵!劳塔罗连场压哨绝杀,世界杯生涯首次,迎40球里程碑

奥拜尔
2026-07-16 05:14:06
西班牙、阿根廷将争冠!决赛对阵图、比赛时间一览

西班牙、阿根廷将争冠!决赛对阵图、比赛时间一览

鲁中晨报
2026-07-16 07:08:09
众生相!阿根廷绝杀英格兰:梅西怒吼庆祝 恩佐哭成泪人 凯恩失落

众生相!阿根廷绝杀英格兰:梅西怒吼庆祝 恩佐哭成泪人 凯恩失落

侃球熊弟
2026-07-16 03:52:04
奥委会尴尬了:中国上海、成都 广州都没申办2036年奥运会,很失望

奥委会尴尬了:中国上海、成都 广州都没申办2036年奥运会,很失望

混沌录
2026-07-15 22:45:21
泽连斯基半年换将:乌克兰"无人机防长"费多罗夫被免职

泽连斯基半年换将:乌克兰"无人机防长"费多罗夫被免职

互联网大观
2026-07-16 09:21:30
多图复盘梅西最后的绝杀助攻有多逆天,张路和詹俊两人赞不绝口

多图复盘梅西最后的绝杀助攻有多逆天,张路和詹俊两人赞不绝口

菊哥品球
2026-07-16 10:14:05
白鹿发文与欢娱影视十年合作到期不续约,感谢于正老师

白鹿发文与欢娱影视十年合作到期不续约,感谢于正老师

韩小娱
2026-07-16 10:14:27
【环时深度】告别幻想,印度深刻反思对美政策

【环时深度】告别幻想,印度深刻反思对美政策

环球网资讯
2026-07-16 06:34:21
硕士毕业生一年已超100万,较2019年增长足足80%

硕士毕业生一年已超100万,较2019年增长足足80%

互联网大观
2026-07-16 08:33:23
看完阿根廷2-1英格兰!不得不承认的5个事实,梅西神纪录难被破

看完阿根廷2-1英格兰!不得不承认的5个事实,梅西神纪录难被破

江启
2026-07-16 10:09:21
贴脸开大?阿根廷逆转英格兰后举横幅:马岛是我们的 或遭FIFA重罚

贴脸开大?阿根廷逆转英格兰后举横幅:马岛是我们的 或遭FIFA重罚

我爱英超
2026-07-16 06:44:14
中国体坛功勋女教练严重违纪违法,被带走调查,弟子巴黎奥运摘金创历史

中国体坛功勋女教练严重违纪违法,被带走调查,弟子巴黎奥运摘金创历史

米修体育
2026-07-15 23:58:51
主帅全责!领先后极度保守葬送英格兰队,“这是图赫尔职业生涯最耻辱一战”

主帅全责!领先后极度保守葬送英格兰队,“这是图赫尔职业生涯最耻辱一战”

红星新闻
2026-07-16 07:39:29
2026-07-16 11:39:00
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
307文章数 44关注度
往期回顾 全部

科技要闻

SpaceX一度跌破发行价,较高点回落约40%

头条要闻

牛弹琴:战场重大变化 美伊又开始杀红眼了

头条要闻

牛弹琴:战场重大变化 美伊又开始杀红眼了

体育要闻

世界杯两大巨星,加一起22岁

娱乐要闻

黄晓明回应赈灾车辆发生交通意外

财经要闻

长鑫科技批量造富:8名高管身家过亿

汽车要闻

零百加速1.96秒 腾势Z国内预售价68万起/四季度上市

态度原创

教育
数码
旅游
本地
公开课

教育要闻

职业教育专业目录(2021年)(更新时间:2026年7月)

数码要闻

网友改造128GB SSD成Steam游戏卡带,插入后直接启动游戏

旅游要闻

倒计时2天丨2026年青岛国际啤酒节・寻梦古城台儿庄即将震撼启幕啦!

本地新闻

一脚踢进宋朝?来开封解锁宋式快乐

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版