网易首页 > 网易号 > 正文 申请入驻

400行AI代码测试全过,评审却问不出为什么

0
分享至

一位评审打开AI代理提交的拉取请求。改动有400行,测试全部通过,但有一个问题始终悬着:为什么选这个方案,而不是另一个?要回答它,光靠日志不够,需要一套面向代理式AI的可解释性审计,把每一次代理代码事件都绑定到人能读懂的理由上。


这类审计检查的是:代理做出的每一处代码变更,是否都带着三样东西——它服务的目标、它使用的证据、以及批准它的人。传统审计止步于谁在何时改了什么;可解释性审计要再加一层:为什么是这个改动,为什么不是别的。

最需要解释的代理代码事件有四类:提交、拉取请求、依赖升级、流水线配置变更。这四类都可能在没有人类写下一行代码的情况下抵达生产环境,因此每一类都需要一份评审能在一分钟内读完的记录。

审计轨迹与解释是两回事。审计轨迹证明某个事件发生过;解释让评审能够判断它是否本该发生。两者都需要,但团队通常只建了前者。

为什么Git历史和CI日志解释不了代理改动

一条“更新依赖”的提交信息,不会提到代理否决了哪些选项。CI日志显示测试结果,却从不显示意图。评审最后只能猜,而猜测在审计里站不住脚。

另一个常见问题是代理身份塌缩成一个机器人账号。许多团队让所有代理共用一个服务账号,追责时十个不同的代理、版本和任务都指向同一个机器人。没有独立的代理ID和版本号,就分不清是提示词变了还是模型换了。

每次代理代码事件该记录什么?保持简短和结构化:目标、考虑过的替代方案、查阅过的证据、测试结果、批准人。五个字段会被人读,一页散文不会。

怎么把解释挂到提交和拉取请求上

用提交尾注携带代理ID、任务和批准人。尾注存在提交本身里,会随代码经过每一次克隆和变基,Git可以直接查询。例如在提交信息末尾写上代理ID、代理版本、任务引用、理由引用和批准人,再用git log按尾注键过滤即可。

尾注保持简短,更长的推理放进Git笔记,这样无需重写历史就能追加。把同一份JSON镜像到拉取请求描述里,评审不用离开页面就能看到。

要让审计轨迹防篡改,就得对关键内容签名。要求签名提交,再附上一份指向提交哈希和理由记录的签名证明。理由记录还要复制到只写一次存储并串联哈希:每条记录包含前一条的哈希,悄悄改动会断链,并在下一次校验时暴露。

把审计就绪写进流水线

纸面政策改变不了什么,流水线里的强制执行才行。把理由记录当作合并的硬性要求,和测试通过同等对待。一个CI门禁可以这样拦:检查提交区间内是否存在代理ID和理由引用尾注,再验证签名是否有效。

再加上人工审批:代理发起的改动必须指定评审人。然后做重放检查——把存下的目标和证据重新喂给测试环境里的代理,确认它提出的改动与已合并的一致。不一致就说明出现了漂移,而且是在审计员发现之前就暴露出来。

Xccelera围绕一条规则构建代理式软件:自动化改动只有在被测过、被记录、可评审之后才算完成。代理提出并应用修复,但每个修复都要先过回归测试,在政策要求处由人批准;一个专门的证据代理记录发现了什么、改了什么、验证了什么,让解释就放在代码旁边,而不是躺在没人打开的另一个系统里。团队通常从一个仓库、一类改动、一条审批路径起步,等记录被证明可靠后再扩大范围。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
APCE上的温情一幕,让人好感动!

APCE上的温情一幕,让人好感动!

低调看天下
2026-11-20 15:46:04
特朗普今天凌晨(北京时间11月20日凌晨)发文写道:正从中国返回华盛顿特区,这是一次非凡且意义深远的旅程

特朗普今天凌晨(北京时间11月20日凌晨)发文写道:正从中国返回华盛顿特区,这是一次非凡且意义深远的旅程

林杰论事
2026-11-20 12:46:16
两男子半夜抢劫杀害招待所同屋住客,潜逃27年落网即将受审,死者女儿:父亲是来看我的,他被害后我内疚多年

两男子半夜抢劫杀害招待所同屋住客,潜逃27年落网即将受审,死者女儿:父亲是来看我的,他被害后我内疚多年

极目新闻
2026-11-20 19:13:17
黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

财联社
2026-11-20 16:09:05
胖东来新乡门店因涨租金搬离11年,市民称原址所开新商场几乎倒闭,仅剩一楼几家手机店还在营业,商场客服热线已成空号

胖东来新乡门店因涨租金搬离11年,市民称原址所开新商场几乎倒闭,仅剩一楼几家手机店还在营业,商场客服热线已成空号

极目新闻
2026-11-20 15:34:45
U17世界杯开门黑!国足0-5西班牙 邝兆镭争议送点 12分钟崩盘丢3球

U17世界杯开门黑!国足0-5西班牙 邝兆镭争议送点 12分钟崩盘丢3球

我爱英超
2026-11-20 23:57:22
中国最公平的一件事,是亏钱

中国最公平的一件事,是亏钱

小星球探索
2026-11-20 14:50:05
克里米亚大桥完全断了,大帝不想打了,但谈的过程川普想重构北约

克里米亚大桥完全断了,大帝不想打了,但谈的过程川普想重构北约

邵旭峰域
2026-11-20 15:03:48
欧美视角下的深圳中俄美峰会

欧美视角下的深圳中俄美峰会

公评世界
2026-11-20 13:01:43
张维为:美国越来越多的年轻人接受社会主义

张维为:美国越来越多的年轻人接受社会主义

看看新闻Knews
2026-11-20 21:36:04
湖南“淫魔”李金标:10年祸害17名留守妇女,最大已经70岁

湖南“淫魔”李金标:10年祸害17名留守妇女,最大已经70岁

悬疑故事屋
2026-11-20 14:25:26
特朗普感慨:请中国继续保持强大,参加深圳APEC会议后,态度变了?

特朗普感慨:请中国继续保持强大,参加深圳APEC会议后,态度变了?

麓谷隐士
2026-11-20 15:17:11
比恒大更惊人,中国第二大民企轰然倒下,负债7500亿,创始人落网

比恒大更惊人,中国第二大民企轰然倒下,负债7500亿,创始人落网

墨策史
2026-11-14 02:15:05
荷兰再谈光刻机禁令: 已经对先进光刻机实施对华封锁,不同意继续限制低端光刻机,反对match法案

荷兰再谈光刻机禁令: 已经对先进光刻机实施对华封锁,不同意继续限制低端光刻机,反对match法案

逍遥漠
2026-11-20 13:17:09
局势反转,美国突然反水,宣布对乌新立场,欧盟:这一天终究来了

局势反转,美国突然反水,宣布对乌新立场,欧盟:这一天终究来了

浯江孤舟
2026-11-20 15:18:35
越来越多孩子自杀  多地高中严格执行周末双休

越来越多孩子自杀 多地高中严格执行周末双休

风向观察
2026-11-20 07:40:00
红果短剧全面下架,彻底失控了

红果短剧全面下架,彻底失控了

李东阳朋友圈
2026-11-20 10:00:35
号商下乡收Claude账号:Anthropic算尽了一切,唯独没算到中国号商会上山下乡!

号商下乡收Claude账号:Anthropic算尽了一切,唯独没算到中国号商会上山下乡!

城事堂
2026-11-19 08:49:08
突发!63 岁黄仁勋正在考虑创立新公司,网友:一定要自己控股呀!

突发!63 岁黄仁勋正在考虑创立新公司,网友:一定要自己控股呀!

起点财经
2026-11-20 13:46:06
爽了!火箭轰动NBA!恶棍状元或联手杜兰特

爽了!火箭轰动NBA!恶棍状元或联手杜兰特

篮球实战宝典
2026-11-20 18:47:13
2026-11-21 03:52:49
全栈遛狗员
全栈遛狗员
白天跟需求对线,晚上在小区遛狗。
231文章数 128关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

家居
时尚
本地
数码
手机

家居要闻

2026建博会(广州) 公装联探展交流活动

《后会友期》的癫,还得她们治

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

数码要闻

英特尔公布D270加速器成绩单 部分专业计算性能最高领先英伟达近六倍

手机要闻

Counterpoint:耐用性成购机核心考量

无障碍浏览 进入关怀版