网易首页 > 网易号 > 正文 申请入驻

六层Agent栈里,最常被跳过的是哪一层?

0
分享至

把团队真正在生产环境跑的AI Agent栈画出来,会得到六个层和三条纵向切面。层从上到下依次是:模型、框架、工具与MCP、记忆、持久运行时、计算与沙箱。纵向切面横跨所有层:身份与访问、护栏、可观测性与评估。


预算和注意力大多花在上面三层。最常被漏掉的那一层,是框架和它运行其上的计算之间的运行时,通常由一个检查点保存器(checkpointer)加一个重试装饰器顶替。而恰恰是这一层,决定了崩溃一次要付出多少代价。

每一层各自管什么

模型负责推理和语言。它迟早会被换掉,所以把供应商的选择放在配置里,而不是写进Agent代码。

框架是编程模型:一个循环、一张图,或者一个crew。挑团队读起来最顺手的那个。各家框架正在收敛到同样的几种模式上,可读性比功能多寡更重要。

工具与MCP决定Agent怎么触碰世界。MCP描述工具,把访问决策留给运行工具的人,这也是身份和护栏必须做成纵向切面、而不能事后补的原因。

记忆是对话历史、长期事实和检索到的上下文。记忆是最常被和下面那层搞混的一层:记忆是Agent知道什么,是它能回忆起来的事实;持久运行时是Agent做过什么,是它绝不能重复的步骤。

被跳过的那层:持久运行时

持久运行时在每次大模型调用和工具调用完成时记录下来,这样崩溃后从下一步接着跑,而不是从头再来。

检查点保存器不等于持久执行。在节点之间保存图状态,并不会记录某个工具已经做了什么。重试装饰器一触发,退款就发两次,邮件再发一遍。

还有一个附带好处:一次被记录下来的运行,同时就是一份可以逐步回放的评估,输入完全一致。

计算与沙箱这一层,可以是Kubernetes、虚拟机、无服务器,或者给不可信代码准备的沙箱。它负责运行并隔离进程,然后把它丢掉。沙箱让持久性问题更尖锐:它们按设计就是短命的,会超时、被回收、每个任务结束后被拆除。对隔离来说这是对的,也意味着运行状态不能住在里面。

“运行时”是这套栈里最被滥用的词

翻几份Agent栈的图就会发现,“运行时”至少指三样不同的东西:

  • 循环。在进程内跑推理、行动、观察的骨架。
  • 宿主。会话被部署、扩缩容和隔离的地方。
  • 持久运行时。让一次运行能比它启动时的进程活得更久的东西。

这个词之所以被滥用,是因为它来自语言运行时,那里它指“执行代码的东西”,而Agent栈里每个产品都在执行点什么,于是人人都来认领。前两个让Agent跑起来,只有第三个让它在生产环境里稳定地一直跑下去。

身份、护栏、可观测性与评估不是层。每一层都需要知道是谁在调用、被允许做什么、发生了什么、做得好不好。把它们当成栈里的一个格子,你在每一层都会得到不同的答案。身份与访问:哪个Agent在调用、它可以调用什么,每个Agent一个身份,每个工具默认拒绝。护栏:Agent可以说什么、做什么,输入输出检查、工具调用策略、高风险步骤交给人。可观测性与评估:每一步的输入、输出、耗时和成本,以OpenTelemetry导出到你已经在用的后端;评估在发布前和生产中给这些链路打分。

Web服务时代也走过同样的路:可靠消息和事务各自有了规范,因为光有连接协议从来不足以让分布式工作变可靠。Agent是同一个问题,只是每一步更贵。看到Agentic AI基金会描述一套开放的Agent栈是好事,AGENTS.md、MCP、A2A、网关和沙箱给了行业关于Agent如何连接的共同基础。Agent如何在失败中存活,是顺理成章该被带进这场对话的下一层。

把持久执行放到你选定的框架下面,崩溃就不再意味着重复劳动。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
高校教师的黄金时代,一去不复返了!

高校教师的黄金时代,一去不复返了!

职场资深秘书
2026-11-17 15:38:44
你见过最没用的人脉是什么?网友:花70w到信用社当柜员,月薪800

你见过最没用的人脉是什么?网友:花70w到信用社当柜员,月薪800

另子维爱读史
2026-11-15 22:43:52
11月起开始严厉打击,这八类灰色行为将入刑!

11月起开始严厉打击,这八类灰色行为将入刑!

逍遥论经
2026-11-16 09:00:39
英国公布的圆明园被毁前照片,美如仙境,引发世界关注

英国公布的圆明园被毁前照片,美如仙境,引发世界关注

贱议你读史
2026-05-23 15:23:34
《多喜一家人》:全员演技惊艳,唯有一人挤眉弄眼差评一片

《多喜一家人》:全员演技惊艳,唯有一人挤眉弄眼差评一片

一娱三分地
2026-11-17 16:28:59
西方媒体再也捂不住了!胡塞武装的真实身份被揭开,压根不是伊朗的代理人,那真正的幕后玩家到底是谁?

西方媒体再也捂不住了!胡塞武装的真实身份被揭开,压根不是伊朗的代理人,那真正的幕后玩家到底是谁?

谈史论今1
2026-10-08 20:19:04
4分钟,20%涨停!光刻机,大爆发!发生了什么?

4分钟,20%涨停!光刻机,大爆发!发生了什么?

券商中国
2026-11-17 11:43:19
张学良至死不知:他最小的妹妹张怀敏,才是张家真正的传奇!

张学良至死不知:他最小的妹妹张怀敏,才是张家真正的传奇!

赵枹是个热血青年
2026-11-16 11:05:26
宝玉刚梦遗,袭人就伸手摸到了大腿根:这场“意外”也太巧了吧

宝玉刚梦遗,袭人就伸手摸到了大腿根:这场“意外”也太巧了吧

如玉公子
2026-11-04 08:30:16
2012年,太原公安局长李亚力想保酒驾儿子,偷偷将89mg酒精检测改成66mg,甚至抹掉袭警情节

2012年,太原公安局长李亚力想保酒驾儿子,偷偷将89mg酒精检测改成66mg,甚至抹掉袭警情节

磊子讲史
2026-11-13 17:21:50
一张“专科男生穿始祖鸟学习”照,被嘲笑惨了:穿上龙袍也不像太子

一张“专科男生穿始祖鸟学习”照,被嘲笑惨了:穿上龙袍也不像太子

泽泽先生
2026-11-15 13:59:44
霍啟山未婚妻娜然起底 173cm俄蒙混血名模曾出演周杰倫MV女主

霍啟山未婚妻娜然起底 173cm俄蒙混血名模曾出演周杰倫MV女主

粤睇先生
2026-11-14 20:43:59
原价500美元的哈曼卡顿音箱,黑五直降80%到99.99美元

原价500美元的哈曼卡顿音箱,黑五直降80%到99.99美元

晚星归航2
2026-11-17 07:03:22
以前被西方垄断,现在世道变了!广州番禺让国外奢侈品牌睡不着

以前被西方垄断,现在世道变了!广州番禺让国外奢侈品牌睡不着

去山野间追风
2026-11-17 15:29:50
格林谈伦德博格:把他放进库里的角色,这不公平

格林谈伦德博格:把他放进库里的角色,这不公平

日常碎碎念啊
2026-11-17 17:03:19
双脚出现这三个异常,是脑梗在敲门,很多人竟不当回事

双脚出现这三个异常,是脑梗在敲门,很多人竟不当回事

荔子言
2026-11-13 10:25:16
横店迎来三十年最为惨烈的一次断臂求生!130多座摄影棚,合计50万平方米,全部免租金向剧组开放

横店迎来三十年最为惨烈的一次断臂求生!130多座摄影棚,合计50万平方米,全部免租金向剧组开放

扶苏聊历史
2026-10-28 15:47:11
“差评”极多的国家:好色成瘾,骗子遍地?却被评为最佳旅行地

“差评”极多的国家:好色成瘾,骗子遍地?却被评为最佳旅行地

咸鱼金脑袋
2026-11-17 09:09:16
浙江女子深夜打车失禁尿后座,付566元清洗费,司机反被平台判加价处罚

浙江女子深夜打车失禁尿后座,付566元清洗费,司机反被平台判加价处罚

齐鲁壹点
2026-11-16 14:15:18
电视直播中,女主播突然宣布怀三胎?全网看傻:姐,你都59岁了啊!

电视直播中,女主播突然宣布怀三胎?全网看傻:姐,你都59岁了啊!

英国那些事儿
2026-11-17 00:47:46
2026-11-17 17:24:49
码上闲叙
码上闲叙
有态度网友ytd
217文章数 105关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

亲子
教育
数码
艺术
公开课

亲子要闻

宝宝气人但是聪明的4个行为

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

数码要闻

满电开躁!11月16日,航嘉满电青年计划约你西南交大见!

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版