当AI开始替你做决定,谁来为结果负责?这个问题正在从会议室辩论变成系统架构层面的硬约束。
1950年代,美国空军飞行员约翰·博伊德有个赌约:从劣势位置起步,他能在40秒内击落任何对手。他很少输。秘诀不是飞机性能,而是决策速度——更快观察、更快调整、更快行动。这套方法后来发展成OODA循环理论:观察(Observe)、调整(Orient)、决策(Decide)、行动(Act)。
![]()
现在,同样的动态正在企业AI系统中复现。AI从分析工具变成决策参与者,问题也随之转移:人类还能留在决策环内吗?
正方:人类必须留在决策环内
Axonis首席产品官Chris Yonclas的立场很明确。他在TechRadar Pro的署名文章中写道:「对于重大决策,人们仍必须评估证据、运用判断力,并最终对结果负责。」
这个判断基于一个正在发生的转变。AI正从「分析信号」走向「生成解释」再到「提议行动」——三步递进,每一步都在压缩人类的介入空间。Yonclas的警告针对的是最后一步:当AI开始「提议行动」时,如果人类被挤出决策环,责任链条就会断裂。
企业AI的问责制需要决策上下文(decision context)作为基础。没有上下文,就无法追溯某个决策是如何做出的、基于什么信息、谁最终拍板。Yonclas将「决策上下文」称为「企业AI问责与绩效中缺失的一环」。
战斗机飞行员的逻辑在此适用:OODA循环的每一步都需要可被审计、可被中断、可被覆盖。博伊德能在40秒内取胜,前提是他对每一步都有完全掌控。企业AI如果跳过这个设计,就是把控制权让渡给黑箱。
反方:速度压力正在压缩人类介入空间
但商业竞争的现实是另一套逻辑。当对手用AI在毫秒级响应市场变化,「人类评估证据」可能成为致命延迟。
金融交易、供应链调度、网络安全响应——这些场景的共同点是决策窗口极窄。等人类「评估证据、运用判断力」,机会窗口已经关闭。某些高频交易系统的决策周期以微秒计,人类介入在物理上不可行。
更深层的张力在于:AI的「提议行动」质量正在快速提升。当系统基于海量数据生成的建议持续优于人类直觉,「必须人类最终负责」会不会变成形式主义?如果AI的误诊率低于医生,AI的信贷审批坏账率低于信贷员,坚持人类签字会不会只是责任转移的仪式?
Yonclas自己也承认,AI「越来越多地参与决策循环本身」。这个趋势的方向是明确的:AI的参与度只会加深,不会回退。问题在于架构设计能否跟上。
判断:关键不在「是否参与」,而在「如何设计退出机制」
双方的分歧被放大了。真正的问题不是人类是否该留在决策环内,而是什么机制能保证人类在需要时可以介入。
博伊德的OODA循环有个被忽略的细节:它是个循环,不是流水线。飞行员在任何一个节点都可以回到上一步,甚至完全重置。观察后发现情报有误?回到观察。调整时发现假设错误?重新调整。这种可逆性才是决策质量的安全网。
企业AI系统很少被这样设计。当前的架构倾向是单向推进:数据输入→模型推理→行动输出。人类被安排在「输出后审核」的位置,这实际上是把人变成了事后纠错的补丁,而非决策环的有机组成。
Yonclas呼吁的「决策上下文」正是为了修复这个结构缺陷。如果系统能完整记录每个决策的输入、推理路径、置信度评估,人类就可以在任意节点介入——不是只能否决最终结果,而是可以回溯到「调整」环节修正假设,或在「观察」环节补充信息。
这需要技术架构的重新设计,而非仅仅在UI层加一个人类确认按钮。当前的企业AI集成方案,Yonclas认为「将由集成定义,而非模型聚合」——意思是连接不同系统的数据流和控制流,比堆砌更大的模型更重要。
产品视角:为什么这会改变AI采购逻辑
对企业技术负责人来说,这个辩论有直接的采购 implications。
过去两年,企业AI的评估重心是模型能力:参数规模、基准测试分数、多模态支持。但Yonclas的框架暗示,下一个竞争维度是「决策基础设施」——系统能否提供可审计的决策链条、能否支持分级的人类介入、能否在自动化和可控之间动态调节。
这与「智能体AI(agentic AI)」的治理需求直接相关。当AI从「回答问题」变成「执行任务」,它需要被赋予一定自主权,但这种自主权必须有边界机制。Yonclas在另一篇文章中专门讨论过智能体AI的治理框架需求。
战斗机飞行员的隐喻在这里变得具体:企业需要的不只是更快的AI,而是有「弹射座椅」的AI——当系统偏离预期,人类可以安全接管,而不是在失控后才发现没有制动装置。
当前市场的缺口在于,大多数AI供应商还在优化「决策质量」,而非「决策可控性」。前者是模型层的竞赛,后者是系统层的工程。Yonclas所属的Axonis显然押注后者,但整个行业的认知迁移才刚刚开始。
一个尚未被回答的问题
如果未来的企业AI系统在特定领域(如医疗诊断、司法辅助)持续表现出超越人类的决策质量,「人类最终负责」的原则会不会从质量保障变成责任陷阱?当系统足够可靠,人类介入反而增加错误率,我们还需要坚持形式上的控制权吗——还是说,这正是博伊德40秒赌约的终极版本:不是人类更快,而是人类敢于在关键时刻放手?
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.