网易首页 > 网易号 > 正文 申请入驻

OpenAI把API设计翻了个底朝天:5个改动让AI代理不再发疯

0
分享至


去年冬天,某电商平台凌晨3点被AI代理灌了12000笔重复订单。不是黑客攻击——是某个企业客户的自动化脚本在疯狂重试。API返回超时,代理以为没成功,于是再试一次。再试一次。再试一次。

人类开发者会看错误码,会读文档里的"注意事项",会停下来想"是不是服务器卡了"。AI代理不会。它们读的是OpenAPI规范(开放API规范,一种机器可读的接口描述格式),逐字执行,循环调用,20个请求链在一起不带喘气。

你的API设计还在服务前端程序员点按钮,但新用户已经是7×24小时运行的自主代理。

从"大概懂"到"必须懂":文档的颗粒度革命

人类看描述能猜意图。看到"创建订单",程序员会脑补"这应该是草稿状态吧?得确认后才扣款吧?"AI代理不脑补,它只信规范里写了什么。

选错端口的代价,往往只差一句话。FastAPI(一个Python Web框架)的Field描述字段,现在成了产品决策现场。

「Create a new order. Does NOT charge the customer. Use POST /orders/{order_id}/confirm to finalize and charge.」

这段描述在代码里看着啰嗦,但对代理是生死线。没有它,代理可能在测试环境直接调用生产支付接口。没有格式说明"cust_xxxxxxxxxxxx",代理会发明自己的ID格式然后报错。

三个以前可以模糊、现在必须精确的东西:货币单位(USD cents还是dollars?)、状态流转(草稿→确认→完成)、字段格式(正则表达式写进description)。

还有暴露规范本身。人类开发者从落地页找API入口,代理从/openapi.json(标准规范端点)发现能力。没这个端点,代理连你有哪些接口都不知道。

幂等性:给重试机制上保险

每个代理框架都内置重试。LangChain(一个AI应用开发框架)遇到异常就重试,OpenAI的函数调用(function calling,让模型能调用外部工具的能力)遇到格式错误就重试,你自己的代理循环遇到超时就重试。

没有幂等性键(Idempotency Key,保证同一请求多次执行结果相同的唯一标识),每次重试都是新订单。一个"创建订单"的意图,变成三个订单、三笔扣款、三个物流单号。

实现不复杂:客户端生成唯一键,服务端24小时内遇到相同键直接返回缓存结果。Redis(一个内存数据库)或数据库都能做。关键是这个键必须从客户端来——代理才知道"我刚才那个请求"和"我现在这个请求"是同一个意图。

HTTP头里的Idempotency-Key字段,现在和Authorization(授权令牌)一样基础。


错误信息:从"给人看"到"给机器修"

人类喜欢"操作失败,请联系管理员"。代理需要"amount_cents字段超出范围,最大值99999999,当前值150000000"。

结构化错误响应是新的刚需。JSON Schema(一种数据格式验证标准)描述错误结构,让代理能程序化地解析:是参数错了?权限不够?还是资源不存在?每种情况对应不同的修复策略。

状态码也得诚实。200 OK但body里藏错误,是人类UI的坏习惯,对代理是灾难。代理看到200就以为成功,继续下一步,把错误数据传进下游。

更隐蔽的是部分成功。批量接口里5个item成功了3个,人类扫一眼列表能发现,代理需要明确的子状态码和可索引的错误对应关系。

限流与配额:从"防滥用"到"防误伤"

传统限流按IP或用户,代理场景下同一个"用户"可能是100个并发实例。更麻烦的是代理的调用模式:不是人类式的"点一下等结果",而是"发20个请求然后处理响应"。

新的限流维度在涌现:按会话(session,一次连续交互的上下文)、按意图链(intent chain,完成一个目标所需的请求序列)、按计算成本预估。429状态码(Too Many Requests,请求过多)的响应头里,Retry-After(建议重试时间)和X-RateLimit-Reset(配额重置时间)成了代理的导航信号。

配额信息要主动暴露。代理需要知道"我还剩多少额度"来决定是继续还是暂停,而不是盲打到403(Forbidden,禁止访问)才知道超限。

可观测性:在代理黑箱里开灯

代理的调试是连锁反应。第一步请求失败,第二步用错误数据继续,第三步把错误放大,第四步触发了补偿机制——等你看到日志,已经是一团乱麻。

请求ID要贯穿整个链。从代理的第一次调用,到后端服务的所有下游,同一个X-Request-ID(请求追踪标识)把分布式日志串成故事线。

更激进的是代理意图标注。让调用方在头里声明"这批请求属于订单创建流程",后端就能按业务语义聚合监控,而不是只看HTTP路径的散点。

OpenTelemetry(一种可观测性标准)的trace上下文(追踪上下文,传递调用链信息的机制)现在该进API网关的强制头了。

某云厂商的API团队在内部复盘里写:「我们花了三个月把错误信息改完,代理客户的支持工单下降了70%。不是代理变聪明了,是API终于说清楚了。」

你的API准备好被机器"阅读"了吗?还是说,你还在等下一个凌晨3点的电话?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
蔡正元即将入狱,国台办做出回应,内容不寻常,已看透他的真面目

蔡正元即将入狱,国台办做出回应,内容不寻常,已看透他的真面目

影孖看世界
2026-03-26 23:45:49
曝张雪峰在苏州举办葬礼,生前最后一次直播,趴桌子上身体已不适

曝张雪峰在苏州举办葬礼,生前最后一次直播,趴桌子上身体已不适

180视角
2026-03-25 16:58:57
拟10派70元!A股又现大手笔分红

拟10派70元!A股又现大手笔分红

中国能源网
2026-03-27 08:49:21
张雪峰被骂8年,走后全网才发现:他说的5句话是给普通人的保命符

张雪峰被骂8年,走后全网才发现:他说的5句话是给普通人的保命符

奇思妙想草叶君
2026-03-25 13:22:05
南京女教师停职风波反转!大批家长发声力挺,恳请恢复岗位与声誉

南京女教师停职风波反转!大批家长发声力挺,恳请恢复岗位与声誉

火山詩话
2026-03-26 06:37:23
奥运冠军“拉拉链露胸”,让耐克绷不住了!

奥运冠军“拉拉链露胸”,让耐克绷不住了!

品牌营销报
2026-02-23 11:31:10
香港马拉松名场面:林志玲牵手黄晓明引围观,阿Sa可爱抢镜

香港马拉松名场面:林志玲牵手黄晓明引围观,阿Sa可爱抢镜

幽棠的趣式
2026-03-27 10:26:43
全球货币支付排名:美元跌至49.25%,欧元涨到22.82%,人民币呢

全球货币支付排名:美元跌至49.25%,欧元涨到22.82%,人民币呢

张嘴说财经
2026-03-26 20:56:17
据张雪峰公司一位员工透露,镜头前的张雪峰和私下里的他判若两人

据张雪峰公司一位员工透露,镜头前的张雪峰和私下里的他判若两人

砚底沉香
2026-03-27 07:43:52
深圳地铁18号线  “彻底出局”了?

深圳地铁18号线 “彻底出局”了?

新浪财经
2026-03-26 03:47:16
20人老头乐公司起诉小米汽车,把网友们CPU干冒烟了……

20人老头乐公司起诉小米汽车,把网友们CPU干冒烟了……

柴狗夫斯基
2026-03-26 11:44:33
张雪峰猝然离世,办公室内景曝光,摆设奇怪,写真照被指像遗照,生前的话字字催泪

张雪峰猝然离世,办公室内景曝光,摆设奇怪,写真照被指像遗照,生前的话字字催泪

笔墨V
2026-03-26 14:53:51
A股:刚刚,大消息传来,股民准备好,3月27日周五将迎来新的变盘

A股:刚刚,大消息传来,股民准备好,3月27日周五将迎来新的变盘

云鹏叙事
2026-03-27 00:00:07
斯柯达将退出中国,大众中国回应

斯柯达将退出中国,大众中国回应

第一财经资讯
2026-03-26 15:14:56
县法院副院长办案期间与原告同行同吃同烧香拜佛?被告:启动惩戒但没结果;涉事法官:你找单位了解

县法院副院长办案期间与原告同行同吃同烧香拜佛?被告:启动惩戒但没结果;涉事法官:你找单位了解

大风新闻
2026-03-26 21:47:02
严查退休兼职!机关事业单位人员,这些事千万别碰!

严查退休兼职!机关事业单位人员,这些事千万别碰!

音乐时光的娱乐
2026-03-27 08:26:00
前国脚郜林分享退役生活:收入落差巨大 目前月薪覆盖通勤费后所剩无几

前国脚郜林分享退役生活:收入落差巨大 目前月薪覆盖通勤费后所剩无几

爱奇艺体育
2026-03-27 10:41:54
48岁大叔每月9次夫妻生活,单位体检结束后,结果让他大吃一惊

48岁大叔每月9次夫妻生活,单位体检结束后,结果让他大吃一惊

饭小妹说历史
2026-03-26 20:26:05
再战热火!骑士3人继续缺席,但阿伦将复出,哈登迎期待的结局

再战热火!骑士3人继续缺席,但阿伦将复出,哈登迎期待的结局

巴叔GO聊体育
2026-03-27 11:20:37
商务部:中方将自5月1日起对所有非洲建交国全面实施零关税举措

商务部:中方将自5月1日起对所有非洲建交国全面实施零关税举措

界面新闻
2026-03-26 16:08:24
2026-03-27 12:31:00
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
210文章数 1关注度
往期回顾 全部

科技要闻

OpenAI果断砍掉"成人模式",死磕生产力

头条要闻

男孩被抢走17年后找到生母 对"命好"的弟弟感情微妙

头条要闻

男孩被抢走17年后找到生母 对"命好"的弟弟感情微妙

体育要闻

近29战23胜!这支黄蜂有多强?

娱乐要闻

张雪峰灵堂内景曝光,四周摆满了鲜花

财经要闻

很反常!油价向上,黄金向下

汽车要闻

与众08,金标大众不能输的一战

态度原创

房产
教育
时尚
数码
游戏

房产要闻

刚刚,海南楼市,官方数据发布!

教育要闻

教育孩子,你掌握边界感了吗?

张雪峰曾经“5次谈猝死”

数码要闻

口袋里的135英寸HDR巨幕!雷鸟Air 4 Pro蝙蝠侠图赏

紧急救火!《博德3》推送百兆热补丁 修复炸档与崩溃

无障碍浏览 进入关怀版