网易首页 > 网易号 > 正文 申请入驻

当AI代理开始批量下单,云工作流引擎如何扛住每秒300次冲击

0
分享至

凌晨两点,你的AI代理还在帮用户比价、填表、等审批。突然,500个代理同时启动,每个要跑十几个步骤——你的后台扛得住吗?

Cloudflare的工程师最近就遇到了这个问题。他们发现,原本为人类点击设计的工作流引擎,正在被机器以百倍速度调用。这不是简单的流量增长,而是整个使用场景的质变。


从"人等系统"到"系统等机器"

Cloudflare Workflows最初的设计假设很朴素:用户注册、下单、提交表单——人的手速能有多快?一个用户同时跑一个工作流实例,绰绰有余。

但过去两年,数据讲了一个完全不同的故事。

人类触发的工作流在减少,代理触发的工作流在暴增。这些AI代理不是瞬时完成的工具调用,而是可能持续运行数小时甚至数天的"数字员工"。它们需要记住进度、等待外部事件、在失败时从断点恢复——这正是工作流引擎的强项。

更关键的是架构层面的变化:代理本身开始用工作流来实现核心循环。一个代理会话可能同时启动几十个嵌套工作流,成百上千个代理并发运行时,实例创建速度从"每秒几次"跳到了"每秒几千次"。

Cloudflare的Agents SDK集成加速了这一趋势。代理可以实时获取工作流进度,形成双向反馈。随着Project Think的发布,这个速度只会更快。

数字背后的架构重构

面对这种压力,Cloudflare公布了新的性能上限:

• 并发实例数:4,500 → 50,000(11倍提升)
• 每秒创建实例:100 → 300(3倍提升)
• 单工作流队列深度:100万 → 200万(2倍提升)

这些数字不是简单的扩容,而是控制平面的彻底重写。

V1架构中,单个Durable Object(持久化对象)充当整个账户的中央注册表和协调器。这在人类速度下没问题,但面对机器速度时成了瓶颈。

V2拆成了两个新组件,实现水平扩展。所有客户在零停机的情况下完成了迁移——这意味着Cloudflare在重构核心架构的同时,还要保证线上流量不受影响。

为什么"持久化"成了代理时代的刚需

Workflows的核心设计哲学在原文中写得很清楚:每个步骤独立可重试、可暂停等人机交互、故障不丢进度。这三点在代理场景下变得至关重要。

代理不像传统API调用那样"请求-响应"即结束。它们可能在第5步等待用户确认邮件,在第12步等外部系统回调,在第20步因为下游服务超时自动重试。如果中间服务器重启,人类可以刷新页面重新登录,代理却需要底层引擎帮它"记住"刚才做到哪了。

Cloudflare把这叫作"durable harnesses"(持久化 harness)——工作流成了代理的"生命维持系统",确保这些自主运行的程序不会中途"猝死"或"失忆"。

一个典型的工作流代码结构展示了这种设计:

步骤1:调用API获取数据
步骤2:等待"approval"类型事件,最长等24小时
步骤3:处理并存储结果

第二步的等待是代理时代的典型模式。代理可以去做别的事,工作流引擎帮它守着这个"坑位",事件到来时自动唤醒继续执行。

这对开发者意味着什么

性能提升只是表象,更深层的信号是:云厂商正在重新划定"基础设施"的边界。

传统的无服务器函数(Serverless Functions)假设执行是短暂的、无状态的。但代理需要状态、需要持久化、需要跨时间的协调能力。这推动Cloudflare把工作流引擎从"辅助工具"升级为"代理的基础设施层"。

对构建AI应用的开发者来说,选择执行环境时多了一个关键考量:你的代理能"活"多久?能记住多少?能同时养多少个?

Cloudflare的答案很明确:5万个并发实例,每个可以等上数天,每秒还能新增300个。这个规格已经足以支撑相当规模的自动化代理集群。

但这也引出一个开放的问题:当代理开始以机器速度批量创建工作流,传统的计费模式、调试工具、监控体系是否还跟得上?Cloudflare没有透露迁移后的单位成本变化,但架构层面的复杂度显然在上升。

如果你的AI代理明天需要同时启动一万个长时任务,你现在用的基础设施,真的能接住吗?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
突发!美军武力劫持一艘伊朗巨型货船,上面满载中国商品

突发!美军武力劫持一艘伊朗巨型货船,上面满载中国商品

Ck的蜜糖
2026-04-20 10:44:52
2.25TB内存被当垃圾扔掉:企业IT资产管理盲区

2.25TB内存被当垃圾扔掉:企业IT资产管理盲区

报错免疫体
2026-04-19 20:20:12
牡丹江男子拽住跳楼女友整整五分钟,力竭松手女方坠亡,法院判了

牡丹江男子拽住跳楼女友整整五分钟,力竭松手女方坠亡,法院判了

奇思妙想草叶君
2026-04-18 12:15:59
光纤王炸!央视:国产光纤全球爆单部分产品价格暴涨650% 名单更新

光纤王炸!央视:国产光纤全球爆单部分产品价格暴涨650% 名单更新

次元君情感
2026-04-19 11:32:28
菜市场泡“药水”的10种蔬菜,菜贩自己从来不吃,好多人还天天买

菜市场泡“药水”的10种蔬菜,菜贩自己从来不吃,好多人还天天买

房产衫哥
2026-04-20 06:07:51
22岁男大学生爱上30岁知心姐姐,约会当晚女子赞叹:还是年轻人棒

22岁男大学生爱上30岁知心姐姐,约会当晚女子赞叹:还是年轻人棒

红豆讲堂
2025-09-08 23:25:03
日本已具备制造核武器的几乎所有物质和技术条件:已囤积约44.4吨分离钚,足够制造约5500枚核弹头,同时还有核武器的投射工具

日本已具备制造核武器的几乎所有物质和技术条件:已囤积约44.4吨分离钚,足够制造约5500枚核弹头,同时还有核武器的投射工具

鲁中晨报
2026-04-18 16:40:15
苹果宣布淘汰11款iPhone!你的手机能用多久?

苹果宣布淘汰11款iPhone!你的手机能用多久?

小柱解说游戏
2026-04-20 12:10:50
互联网是有记忆的,她的黑历史一大堆啊!

互联网是有记忆的,她的黑历史一大堆啊!

BenSir本色说
2026-04-15 22:38:07
停止焦虑最好的办法,不是读书,不是运动,而是……

停止焦虑最好的办法,不是读书,不是运动,而是……

壹心理
2026-04-19 11:03:36
马英九摊牌:两岸开战在所难免,台成不了乌克兰,只因有致命死穴

马英九摊牌:两岸开战在所难免,台成不了乌克兰,只因有致命死穴

混沌录
2026-04-16 17:31:13
女团成员爆料:每个男团都有人来追过我

女团成员爆料:每个男团都有人来追过我

影视情报室
2026-04-19 15:10:13
为什么没人联合打以色列,答案很简单:不是没人想打,是没人敢打

为什么没人联合打以色列,答案很简单:不是没人想打,是没人敢打

青烟小先生
2026-04-18 09:50:57
夏海钧当年为何放弃高薪,加入负债累累的恒大?这是细思极恐的事

夏海钧当年为何放弃高薪,加入负债累累的恒大?这是细思极恐的事

林小明商业评说
2026-04-20 11:22:02
土皇帝?许家印18大喜好曝光:只喝恒大冰泉+吃进口水果 最爱辽参

土皇帝?许家印18大喜好曝光:只喝恒大冰泉+吃进口水果 最爱辽参

念洲
2026-04-20 11:34:37
52岁朴树近况:无儿无女,没钱没房,成了要钱不要命的“疯子”

52岁朴树近况:无儿无女,没钱没房,成了要钱不要命的“疯子”

流云随风去远方
2026-04-14 12:22:59
1300亿的果链龙头,爆雷了

1300亿的果链龙头,爆雷了

股市动态分析
2026-04-17 08:55:03
明知道佩泽希齐扬和阿拉格齐“有问题”,革命卫队为何不拿下他们

明知道佩泽希齐扬和阿拉格齐“有问题”,革命卫队为何不拿下他们

民间胡扯老哥
2026-04-19 07:27:18
中介晒出通话记录,4年前业主没110万不卖,如今房子只值56万

中介晒出通话记录,4年前业主没110万不卖,如今房子只值56万

映射生活的身影
2026-04-19 23:05:55
胯大的女生简直就是天选旗袍人,看王楚然就知道了

胯大的女生简直就是天选旗袍人,看王楚然就知道了

阿废冷眼观察所
2026-04-20 11:39:10
2026-04-20 16:00:49
我是一个养虾人
我是一个养虾人
有态度网友ytd
1544文章数 11关注度
往期回顾 全部

科技要闻

抛弃OpenAI,Anthropic为何成中国AI新偶像

头条要闻

拼多多等被罚近36亿:有人吞证据抗法 执法人员骨折

头条要闻

拼多多等被罚近36亿:有人吞证据抗法 执法人员骨折

体育要闻

阿森纳已拼尽全力,但你早干嘛去了...

娱乐要闻

鹿晗生日上热搜,被关晓彤撕下体面

财经要闻

月之暗面IPO迷局

汽车要闻

把天门山搬进厂?开仰望U8冲上45度坡的那刻 我腿软了

态度原创

艺术
时尚
本地
教育
公开课

艺术要闻

王羲之《换鹅帖》尚在人间,惊艳无比!

今年最流行的衣服竟然是它?高级又气质!

本地新闻

12吨巧克力有难,全网化身超级侦探添乱

教育要闻

“博士+硕士”是按问题导向的改革,别异化成又一场学历竞赛

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版