网易首页 > 网易号 > 正文 申请入驻

在生产环境运行Agent的团队,都在回答同样三个问题

0
分享至

你的Agent返回HTTP 200,延迟在预算内,没有任何工具调用报错。但它还是把3A座位标记为"已确认",从头到尾没问过选座子Agent这个座位到底空不空。或者,它给一个资料里写着素食的旅客,推荐了一家佛罗伦萨牛排馆。

每个在生产环境运行Agent的团队,都在试图回答同样三个问题:我的Agent表现如何?它有哪些反复出现的失败模式?我怎么改进——改点东西、确认有用、并且不让它退回去?


前80%很快,后20%才是坑

把Agent做到"能处理你预想到的测试用例"这个程度,今天相对直接也相对快。一个评估数据集、一个编码Agent、加上"跑-评分-修-对比"的紧凑内循环,通常几天就能在已知场景上拿到任务成功。

然后你上线了,质量曲线就平了,甚至往下走。

剩下20%难在哪?难在上线之后地面会动。用户发现Agent真正能干什么之后,使用方式就变了,线上流量不再像你最初的评估集。

同时底层系统也在变:升级模型、更新harness、改动某个工具或技能,一切照常运行,健康检查全绿,但对话质量和任务成功可能已经悄悄偏移——标准部署流水线根本不会警告你。

而当某次会话真的出了问题,想搞清楚原因,意味着要拆开几层从外面看几乎一模一样的环节。这些失败模式可能归属不同的负责人、对应不同的修法。

原始轨迹记录的是"什么接在什么后面",不是"什么导致了什么"。要区分这些层,得把失败的轨迹和产生它的那个确切代码版本放在一起读。

在线评估看板会告诉你分数动了,编码Agent也能检查trace——前提是你知道往哪看。但在生产量级下,没人能靠手读每一段对话。

AQuA怎么干活

AQuA(Ambient Quality Agent)运行在你的Google Cloud项目里、你的Agent旁边,无人值守。它按计划、每次部署后、或按需从Cloud Trace、Cloud Logging、BigQuery里扫生产轨迹,你合上笔记本它也在跑。

原始会话记录、源码快照和BigQuery表都留在你的项目边界内,AQuA从不进入请求路径,也不回写你的Agent。

每次运行读取一批近期会话样本,走一条五阶段流水线。可以把它理解成一个初级质量工程师做第一遍筛查:读对话、过滤噪音、为值班的人准备好带证据会话的案卷。

要把第二阶段引向你的领域,你写一份大白话的开发者目标(goal.md),它会附加到每一次评审提示词后面;确定性的Python自定义指标(eval_config.yaml)和评审器并行运行,用来追踪通过率趋势。

默认情况下,AQuA使用单次会话评审器session_review,每次会话一次模型调用,对照清单评估对话,既让计划性扫描保持经济,也产出驱动聚类的实际/预期差异。

你也可以选择启用Gemini平台托管的轨迹AutoRaters(task_success、tool_use_quality、trajectory_quality),它们运行专门的逐指标评估器——比如你想用标准化的开箱即用评分卡给会话打分,或者让指标和离线评估对齐。

当某条洞察值得深挖,你从看板Chat或agents-cli aqua run触发根因分析。AQuA会读取失败轨迹,连同部署时捕获的不可变源码快照。

缺陷在你的仓库里时,它引用:-并提出锚定到快照行的修改建议;故障在你的代码之外时(上游依赖、交接、或检索到的载荷),它把失败归因到轨迹中的那一步,不提代码diff。它从不自行应用修改或开pull request。

它卡在你已有的两个循环之间

离线评估用已知测试用例给候选构建打分,在线评估监控生产中的通过率趋势,编码Agent或专门的优化器去改提示词和代码。

AQuA的位置在它们之间:把原始生产流量变成经过诊断、锚定代码的洞察,以及归档的失败记录,用来喂养你的内循环。

拿travel-concierge(google/adk-recipes)跑一遍看看。它把旅客路由给多个子Agent——inspiration_agent、place_agent、poi_agent、planning_agent、flight_search_agent、flight_seat_selection_agent、booking_agent,以及pre_trip / in_trip / post_trip,并通过memorize(key, value)(travel_concierge/tools/memory.py)把工作行程存进session state。

把AQuA接到travel-concierge项目上需要三条agents-cli命令:

agents-cli extension add "${AQUA_CHECKOUT}"

agents-cli infra single-project --project="${GOOGLE_CLOUD_PROJECT}" --apply

agents-cli deploy --project="${GOOGLE_CLOUD_PROJECT}" --region us-east1

除了AQuA的runner、BigQuery数据集和Cloud Run看板(在Identity-Aware Proxy后面),agents-cli deploy还会把travel-concierge源码树的不可变快照写入Cloud Storage,以部署修订版本为键(Revision 1)。

在看板的Configuration页面上,我们保存一份开发者目标(goal.md),把评审引向高层产品不变量、抑制风格噪音(同时仍然要求每条发现都引用一个具体的轮次,即某个Agent或子Agent违反其指令或工具标准的地方)。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国乒协:因身体状况,取消林诗栋2026亚锦赛男子单打、混合双打(与蒯曼配对)的参赛报名,取消梁靖崑男子单打、男子团体的参赛报名

中国乒协:因身体状况,取消林诗栋2026亚锦赛男子单打、混合双打(与蒯曼配对)的参赛报名,取消梁靖崑男子单打、男子团体的参赛报名

南方都市报
2026-10-10 15:16:08
郑钦文vs安德列娃时间已定!CCTV5直播,手握三大优势望夺冠

郑钦文vs安德列娃时间已定!CCTV5直播,手握三大优势望夺冠

凉了时光人
2026-10-11 04:20:40
他是邓小平的得力助手,曾任河南省委第一书记,官至副国级职位

他是邓小平的得力助手,曾任河南省委第一书记,官至副国级职位

谈古论今历史有道
2026-10-10 09:30:04
58岁男子猝死,生前每天雷打不动吃他汀,检查后:犯了4个错误

58岁男子猝死,生前每天雷打不动吃他汀,检查后:犯了4个错误

路医生健康科普
2026-10-11 09:25:08
看吐了!孕妇擦边视频引众怒,网友调侃:不是孕妇擦边,是喜欢擦边的女人怀孕了

看吐了!孕妇擦边视频引众怒,网友调侃:不是孕妇擦边,是喜欢擦边的女人怀孕了

火山詩话
2026-10-11 13:06:39
寒露后要“养骨”!中老年少吃白菜豆腐,多吃3样,腿脚有劲精气足

寒露后要“养骨”!中老年少吃白菜豆腐,多吃3样,腿脚有劲精气足

江江食研社
2026-10-09 13:30:16
中欧贸易谈判取得重大突破,很多人不理解中国为何主动让步?

中欧贸易谈判取得重大突破,很多人不理解中国为何主动让步?

罗富强说
2026-10-10 21:38:16
男子吃妻子情夫的醋,2010年为让妻子证明更爱他,让妻子将情夫诱来杀死

男子吃妻子情夫的醋,2010年为让妻子证明更爱他,让妻子将情夫诱来杀死

汉史趣闻
2026-10-10 13:59:11
不给钱就卖到园区会所?22岁哈尔滨女孩王然,这次怕是凶多吉少了

不给钱就卖到园区会所?22岁哈尔滨女孩王然,这次怕是凶多吉少了

皮蛋儿电影
2026-09-22 11:20:47
深圳APEC峰会临近,日方首相相关称谓被撤销,高市少见地公开表态,称中国是日本极为重要的邻国

深圳APEC峰会临近,日方首相相关称谓被撤销,高市少见地公开表态,称中国是日本极为重要的邻国

z千年历史老号
2026-10-10 21:28:08
樊振东恋爱真相大白!在德国的现状曝光,难怪首次谈及退役及心愿

樊振东恋爱真相大白!在德国的现状曝光,难怪首次谈及退役及心愿

趣味八卦
2026-10-03 11:11:17
对于明天周一A股,我只说3句话:第一,3813点很可能也许并不是终点?

对于明天周一A股,我只说3句话:第一,3813点很可能也许并不是终点?

趋势清风侠
2026-10-11 09:58:47
杭州降39%、广州降32%、上海降31%!不是房子卖光, 而是房东不卖了

杭州降39%、广州降32%、上海降31%!不是房子卖光, 而是房东不卖了

兴趣知识
2026-10-09 01:02:33
10月10日俄乌:泽连斯基痛斥美俄达成协议,乌继续打击俄炼油厂

10月10日俄乌:泽连斯基痛斥美俄达成协议,乌继续打击俄炼油厂

山河路口
2026-10-10 21:52:59
白酒再次被关注!医生发现:肠息肉人喝白酒,不用多久或有7变化

白酒再次被关注!医生发现:肠息肉人喝白酒,不用多久或有7变化

健康之光
2026-10-11 05:20:04
民国中将娶一对双胞胎为妻,姐妹俩只生一子,长大后成家喻户晓戏剧大师

民国中将娶一对双胞胎为妻,姐妹俩只生一子,长大后成家喻户晓戏剧大师

文人相爱A
2026-10-11 06:21:50
对着库里敬礼的波杰,拿到了五年1.1亿

对着库里敬礼的波杰,拿到了五年1.1亿

只关于篮球
2026-10-11 13:14:09
女子两次标记客剩榴莲均被摆回取餐台。12315:证据不完善

女子两次标记客剩榴莲均被摆回取餐台。12315:证据不完善

乔志峰
2026-10-10 11:06:01
超级新援替补制胜,阿森纳2-1逆转利兹联,豪取9连胜追平曼城

超级新援替补制胜,阿森纳2-1逆转利兹联,豪取9连胜追平曼城

钉钉陌上花开
2026-10-10 21:31:42
中菲争端升温,歼-16挂弹升空,日本已介入,日菲首启军援协定

中菲争端升温,歼-16挂弹升空,日本已介入,日菲首启军援协定

璀璨幻行者
2026-10-10 03:40:30
2026-10-11 14:03:00
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
217文章数 95关注度
往期回顾 全部

科技要闻

卸任CEO后,苹果董事长库克再度到访中国

头条要闻

男子打扫发现女友偷留上千私房钱 喊兄弟来家中"作案"

头条要闻

男子打扫发现女友偷留上千私房钱 喊兄弟来家中"作案"

体育要闻

十年回首:湖人三榜眼的夏天,与NBA无关

娱乐要闻

梅艳芳63岁冥诞骨灰被盗,亲哥从不知情

财经要闻

黄仁勋长女完婚,万亿帝国如何传承?

汽车要闻

红旗天工07上市 限时16.79万起 硬核通关巴音布鲁克

态度原创

旅游
本地
艺术
公开课
军事航空

旅游要闻

接下来的北京好美!赏红叶如何“不跑空”?预报来了→

本地新闻

踏访沙县第一村,寻国民小吃本源

艺术要闻

中国当代画家,区础坚作品选(二)

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

沙特利雅得机场遭袭致12死309伤 中国大使馆紧急提醒

无障碍浏览 进入关怀版