每个认真上线的智能体系统,最后都会在某个环节塞进一个"人类"。这句话已经变成了一句口号,像是一个勾选项——要么有,要么没有。但在真实的生产环境里,它既不是非黑即白,也不是免费的。
把人类放进流程里,成本是延迟加上注意力。如果智能体把所有事都往上抛,这个人就成了它本该消除的瓶颈;如果它什么都不抛,这个人就只是个摆设。而大多数团队落在了一个更糟的位置上:智能体抛上来的东西,琐碎的和关键的混在一起,毫无规律。人很快就学会了"大部分都是小事",然后开始不看就点通过。
![]()
于是你得到了一个名义上在流程里、实际上已经出局的人。你造了一枚橡皮图章,还给它起了个名字叫"治理"。
审批队列,是故意让人变贵
审批队列这个模式存在的意义,就是故意让人的时间显得昂贵,并且只把这份昂贵花在真正能改变结果的地方。
所谓审批队列,是一份持久化、有顺序的列表,里面装的是智能体判断自己无权独自执行的动作。推理和起草由智能体完成,它停在"执行"这一步。人来批准、修改或驳回。这个决定,以及做出决定的人,都会被记录下来。
让它成为一个模式而不是一个按钮的,是三个属性:
- 持久。一条待审批项要能扛住崩溃、重启,以及人下班回家过周末。它活在数据库表里,不是内存里。
- 有序且有边界。每一项都有优先级和"年龄"。一项超过约定时限还没被批,这件事本身就该触发升级,而不是陷入沉默。
- 在边界处可逆,而不是事后可逆。人在不可逆动作发生之前做决定,而不是在收到"已经做了"的通知之后。
队列的单位是"拟执行的动作",永远不是"对话"。你不是请人去看一份聊天记录,而是请他批准一件具体的、可执行的事。
四个字段,把模糊请求变成几秒钟的决定
如果一条待审批项只写了"智能体想做X,批准吗?",那就是逼着人去重建他根本没有的上下文。结果只有两种:要么过度调查,慢;要么盲批,危险。所以每一项都必须带上四个字段。
- 动作。精确、可执行的操作,既用大白话说清楚,也给出它的具体形态。不是"发送外联",而是"把这封完整展示的邮件,发到这个地址"。人批准的是成品,不是对成品的描述。
- 理由。智能体为什么现在提出这件事——触发条件、规则、导致走到这一步的数据。一两句话。如果它说不出为什么,这本身就是驳回的理由。
- 影响半径。这个动作会碰到什么,以及有多难撤销。"一封发出去就收不回的邮件"和"一次完全可回滚的行更新",是两个完全不同的决定。人在给风险定价,那就把价格告诉他。
- 置信度与备选方案。如果被驳回,智能体会怎么做,以及它有多确定。低置信度但备选方案明确的提议,可以快速批或快速驳;高置信度却没有备选方案的提议,才值得人投入全部注意力。
这四个字段,能把一个含糊的请求,变成忙碌的人几秒钟内就能做出的决定,而不至于沦为一枚橡皮图章。
什么该进队列,什么不该
真正的纪律,体现在你不往队列里放什么。一个什么都装的审批队列,等于对自己的运营人员发起了一场拒绝服务攻击。
满足以下任意一条时,才送进队列:动作不可逆或撤销代价高昂;动作对外可见(客户能看到、钱动了、记录离开了你的系统);或者智能体的置信度低于你为这类动作设定的阈值。
而当动作是内部的、可逆的、且在智能体既定范围内时,不要送。读数据、起草、总结、更新一条它自己拥有且能回滚的记录——这些都在边界之内。如果你把这些也送进队列,就是在训练运营人员停止阅读,而那唯一重要的一项,会藏在四十项不重要的后面溜过去。
阈值是一个旋钮,不是一个默认值。按动作类别分别设定:对外客户沟通可能任何置信度都需要审批;内部标签更新可能只在低于70%时才需要审批。把阈值写下来。它们是系统的一部分,不是运行时的临时猜测。
四种失效模式
橡皮图章。队列里塞满低风险项,运营人员批量通过,队列不再是一种控制手段。修法:激进地削减进入队列的东西,并测量每一项的审批耗时。如果审批时间的中位数低于读完这个动作所需的时间,说明他们根本没在读。
队列变坟场。没人负责,项目越堆越多。智能体要么卡住,要么更糟——因为超时被接成了"继续执行",它开始自己动手做那些没被批准的事。修法:每个队列都有负责人和时限,超时升级到具体的人,永远不升级为自动批准。
上下文饥饿。四个字段缺失或单薄,运营人员只能盲批。修法:把理由薄弱的提议,当成智能体的一个缺陷来处理,而不是让人去做的判断题。
静默的范围蔓延。绕过队列的动作集合会随时间增长,每一次增加都显得合理,直到智能体在做一些没人审查的事。修法:路由规则放进版本控制,并按照与信任边界相同的节奏进行评审。
把队列写进一个文件
在智能体的代码仓库里建一个 APPROVALS.md。它列出智能体能提出的每一个动作类别、每一类的路由规则(总是、从不,或低于某个置信度阈值)、每个优先级对应的时限、时限被突破时的升级目标,以及队列的负责人。它还要记录上一次评审的日期。
这份文档,是你的运营负责人在第一天会读的东西,也是审计师在最糟的那天会读的东西。没有书面契约的审批队列不是一种控制,只是一种习惯——而习惯是会漂移的。
把人类放进流程里,是一笔成本。只在它能改变结果的地方,花掉它。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.