网易首页 > 网易号 > 正文 申请入驻

你凭什么相信它?这个工具记录了每一次真实调用

0
分享至

你的Agent回了一句“搞定”。上周有个依赖包静默升级了。现在,你其实没办法证明Agent还在按老样子干活,因为你手里根本没有它之前是怎么干的记录。

三周前我就栽在这上面。合并了一个标记为“安全”的Dependabot补丁更新——SemVer说没问题,CI流水线全绿。三天后,有用户反馈Agent跳过了以前一直会跑的关键步骤。更让人恼火的是,我的测试套件完全没捕获到。因为我所谓的“测试”,就是手动跑一次Agent,翻翻生成的对话文本,看一眼觉得还行就过了。Agent每次都说“已完成”。它不是在故意撒谎。它只是没办法知道自己漏了东西,而我也没办法检查出来。

真正的问题隐藏在那句“怎么证明Agent做了它声称的事”底下:跟什么比?如果你连一个确定正确的运行记录都没有,谈论“验证”就毫无意义。

你的对话文本不是凭据

第一反应通常是去重读Agent生成的对话摘要。但超过三五轮对话,这件事就彻底做不下去了。更要命的是,那段对话本质上是Agent自己的叙述。如果它声称写入了文件但实际没写,那份摘要仍然会白纸黑字地写着“文件已写入”。

你真正需要的是最底层的原始数据:它发起了哪些工具调用,传入了什么参数,拿到了什么样的返回值。不是故事,是收据。

记录一次真正跑通的运行

后来我找到的办法极其朴素,恰恰因为朴素才真的有用。趁Agent还在正常干活的时候,完整记录一次真实运行。把这次抓取当作后续一切的比对基准。

具体就一条命令:用reelier工具记录一次确认无误的Agent运行。它会抓取每一个工具调用、对应参数以及执行结果。这不是模拟数据,也不是手动编写的测试桩。这就是Agent刚才真实完成的工作,一步接一步,原封不动。那张你一直缺的收据,现在有了。

零成本回放与差异检测

真正的价值在于后续操作。每当环境发生变化——不管是哪个依赖升了版本,还是MCP工具服务器打了补丁,又或者你重构了代码——只管回放这份记录,然后把输出结果和最初那条基准做差异对比。

这条回放指令的设计很实用:回放时不调用任何大语言模型。这意味着全程不消耗生成式AI的推理token。在我实际运行中,连续回放1000次,1000次全都字节级一致。正是这种确定性让diff结果变得可信。如果比对发现差异,那一定来自你刚刚做的变更,而不是模型今天“感觉不太一样”。

要是更新没改变任何东西,diff输出就是空的,你可以放心合并。如果某个工具调用变了、某个参数被改了、某个返回值出现了偏移,diff会在被用户察觉之前,精确地告诉你变在哪儿、怎么变的。

在CI流程里,全量diff是给人看的。自动化检查一般只需要关注具体断言:这个工具必须被调用,那个参数必须维持原样。把关键约束写进测试,以后每次变更,先过机器那关。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
新型啃老正在流行,67岁大妈哭诉:儿子的陪伴式孝顺让我苦不堪言

新型啃老正在流行,67岁大妈哭诉:儿子的陪伴式孝顺让我苦不堪言

烙任情感
2026-07-28 11:52:12
00后是如何整顿婆媳关系的?网友:我连我儿子都不想管,还会去理儿媳妇

00后是如何整顿婆媳关系的?网友:我连我儿子都不想管,还会去理儿媳妇

解读热点事件
2026-07-25 00:10:52
中国电网负债3万亿,外媒称百年难回本

中国电网负债3万亿,外媒称百年难回本

梦想的现实
2026-07-01 01:11:56
东莞男子溺亡后续!遇难细节曝光,遗体已找到,悲剧本可以不发生

东莞男子溺亡后续!遇难细节曝光,遗体已找到,悲剧本可以不发生

人间百态纪实
2026-07-29 06:41:09
佛得角世界波,拿下“世界杯最佳进球”

佛得角世界波,拿下“世界杯最佳进球”

澎湃新闻
2026-07-28 12:53:02
即将“称王”?“白海豚”成“超强台风”无悬念!最终归宿难定居

即将“称王”?“白海豚”成“超强台风”无悬念!最终归宿难定居

声情专递
2026-07-28 16:50:40
不装了?“他说是不禁止,实际上只想卡中国”

不装了?“他说是不禁止,实际上只想卡中国”

观察者网
2026-07-28 19:45:05
中方打破多年外交惯例,王毅不出席中日韩外长会传递清晰态度

中方打破多年外交惯例,王毅不出席中日韩外长会传递清晰态度

阿器谈史
2026-07-28 15:41:53
戏剧翻转!11架歼-20部署中印边境,印度媒体终于破防了

戏剧翻转!11架歼-20部署中印边境,印度媒体终于破防了

观锐器
2026-07-28 23:12:53
97%白人占比的阿根廷,为什么永远挤不进欧美“白人圈子”?

97%白人占比的阿根廷,为什么永远挤不进欧美“白人圈子”?

健身狂人
2026-07-05 06:06:40
果然,这届年轻人个个都是“遮丑高手”!我以前怎么没想到,太绝了

果然,这届年轻人个个都是“遮丑高手”!我以前怎么没想到,太绝了

一枚大装家
2026-07-28 12:15:03
菲尔兹奖王虹致辞未提北大:不必苛责感恩,该反思的是育人土壤

菲尔兹奖王虹致辞未提北大:不必苛责感恩,该反思的是育人土壤

十为先生
2026-07-27 17:52:54
华为员工:我的人生很失败,赚了1000多万,买房赔了;孩子成绩全班倒数;媳妇每天不停的抱怨……

华为员工:我的人生很失败,赚了1000多万,买房赔了;孩子成绩全班倒数;媳妇每天不停的抱怨……

LULU生活家
2026-07-21 21:01:36
朝鲜著名女特工金贤姬在自传中披露特工秘训细节,训练营伙食待遇远超高级干部,教官提出一条硬性要求暗藏任务背后的沉重代价

朝鲜著名女特工金贤姬在自传中披露特工秘训细节,训练营伙食待遇远超高级干部,教官提出一条硬性要求暗藏任务背后的沉重代价

磊子讲史
2026-07-28 14:47:20
婆婆:你姐怀孕不方便租房,你跟你女儿搬走,我:好,没问题。

婆婆:你姐怀孕不方便租房,你跟你女儿搬走,我:好,没问题。

清水家庭故事
2026-07-28 11:15:40
今年“超级爆冷”的985大学,两次征集志愿都无人报考,全国罕见!

今年“超级爆冷”的985大学,两次征集志愿都无人报考,全国罕见!

教育导向分享
2026-07-27 23:07:19
世界最大弹药库:相当于18个澳门大,足够打一次世界大战也用不完

世界最大弹药库:相当于18个澳门大,足够打一次世界大战也用不完

一姐说军史
2026-07-29 12:06:54
郭碧婷回应“被迫给向佐生孩子”,结婚6年分居两地,曾自曝丈夫只用和孩子维持感情就好,网友:总算明白她为啥是向太一眼看中的儿媳妇了

郭碧婷回应“被迫给向佐生孩子”,结婚6年分居两地,曾自曝丈夫只用和孩子维持感情就好,网友:总算明白她为啥是向太一眼看中的儿媳妇了

美芽
2026-07-27 21:37:21
重磅!确定了,恭喜欧文!

重磅!确定了,恭喜欧文!

左右为篮
2026-07-28 12:24:55
宋美龄一天更换5到8次床单,孔令侃:这般浪费是因为她的皮肤病

宋美龄一天更换5到8次床单,孔令侃:这般浪费是因为她的皮肤病

雍亲王府
2026-07-28 13:45:03
2026-07-29 12:47:00
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
348文章数 79关注度
往期回顾 全部

科技要闻

千名AI员工联署:别让AI快到人类跟不上

头条要闻

女子偷走3瓶茅台后多次变装 警方未在其屋内发现白酒

头条要闻

女子偷走3瓶茅台后多次变装 警方未在其屋内发现白酒

体育要闻

毫无存在感的NBA状元,最先谢谢惠顾?

娱乐要闻

吴镇宇儿子自曝小学时遭同学霸凌

财经要闻

“轻AI”策略重塑科技股叙事?

汽车要闻

24K金LOGO,纯手工打磨腰线,第二代腾势D9暗夜鎏金高定色,一天只能造3台?

态度原创

艺术
本地
游戏
亲子
公开课

艺术要闻

造价20亿美元!印度首富的家,舆论上两极分化

本地新闻

跟着影视去旅行:八仙篇

《柏拉图深空》8 月 14 日发售 追寻记忆科幻冒险

亲子要闻

怪不得咱们小时候不容易生病,因为不管是吃的喝的还是体能训练,早早的就安排上了

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版