网易首页 > 网易号 > 正文 申请入驻

企业AI决策该学战斗机飞行员?

0
分享至

当AI开始替你做决定,谁来为结果负责?这个问题正在从会议室辩论变成系统架构层面的硬约束。

1950年代,美国空军飞行员约翰·博伊德有个赌约:从劣势位置起步,他能在40秒内击落任何对手。他很少输。秘诀不是飞机性能,而是决策速度——更快观察、更快调整、更快行动。这套方法后来发展成OODA循环理论:观察(Observe)、调整(Orient)、决策(Decide)、行动(Act)。


现在,同样的动态正在企业AI系统中复现。AI从分析工具变成决策参与者,问题也随之转移:人类还能留在决策环内吗?

正方:人类必须留在决策环内

Axonis首席产品官Chris Yonclas的立场很明确。他在TechRadar Pro的署名文章中写道:「对于重大决策,人们仍必须评估证据、运用判断力,并最终对结果负责。」

这个判断基于一个正在发生的转变。AI正从「分析信号」走向「生成解释」再到「提议行动」——三步递进,每一步都在压缩人类的介入空间。Yonclas的警告针对的是最后一步:当AI开始「提议行动」时,如果人类被挤出决策环,责任链条就会断裂。

企业AI的问责制需要决策上下文(decision context)作为基础。没有上下文,就无法追溯某个决策是如何做出的、基于什么信息、谁最终拍板。Yonclas将「决策上下文」称为「企业AI问责与绩效中缺失的一环」。

战斗机飞行员的逻辑在此适用:OODA循环的每一步都需要可被审计、可被中断、可被覆盖。博伊德能在40秒内取胜,前提是他对每一步都有完全掌控。企业AI如果跳过这个设计,就是把控制权让渡给黑箱。

反方:速度压力正在压缩人类介入空间

但商业竞争的现实是另一套逻辑。当对手用AI在毫秒级响应市场变化,「人类评估证据」可能成为致命延迟。

金融交易、供应链调度、网络安全响应——这些场景的共同点是决策窗口极窄。等人类「评估证据、运用判断力」,机会窗口已经关闭。某些高频交易系统的决策周期以微秒计,人类介入在物理上不可行。

更深层的张力在于:AI的「提议行动」质量正在快速提升。当系统基于海量数据生成的建议持续优于人类直觉,「必须人类最终负责」会不会变成形式主义?如果AI的误诊率低于医生,AI的信贷审批坏账率低于信贷员,坚持人类签字会不会只是责任转移的仪式?

Yonclas自己也承认,AI「越来越多地参与决策循环本身」。这个趋势的方向是明确的:AI的参与度只会加深,不会回退。问题在于架构设计能否跟上。

判断:关键不在「是否参与」,而在「如何设计退出机制」

双方的分歧被放大了。真正的问题不是人类是否该留在决策环内,而是什么机制能保证人类在需要时可以介入。

博伊德的OODA循环有个被忽略的细节:它是个循环,不是流水线。飞行员在任何一个节点都可以回到上一步,甚至完全重置。观察后发现情报有误?回到观察。调整时发现假设错误?重新调整。这种可逆性才是决策质量的安全网。

企业AI系统很少被这样设计。当前的架构倾向是单向推进:数据输入→模型推理→行动输出。人类被安排在「输出后审核」的位置,这实际上是把人变成了事后纠错的补丁,而非决策环的有机组成。

Yonclas呼吁的「决策上下文」正是为了修复这个结构缺陷。如果系统能完整记录每个决策的输入、推理路径、置信度评估,人类就可以在任意节点介入——不是只能否决最终结果,而是可以回溯到「调整」环节修正假设,或在「观察」环节补充信息。

这需要技术架构的重新设计,而非仅仅在UI层加一个人类确认按钮。当前的企业AI集成方案,Yonclas认为「将由集成定义,而非模型聚合」——意思是连接不同系统的数据流和控制流,比堆砌更大的模型更重要。

产品视角:为什么这会改变AI采购逻辑

对企业技术负责人来说,这个辩论有直接的采购 implications。

过去两年,企业AI的评估重心是模型能力:参数规模、基准测试分数、多模态支持。但Yonclas的框架暗示,下一个竞争维度是「决策基础设施」——系统能否提供可审计的决策链条、能否支持分级的人类介入、能否在自动化和可控之间动态调节。

这与「智能体AI(agentic AI)」的治理需求直接相关。当AI从「回答问题」变成「执行任务」,它需要被赋予一定自主权,但这种自主权必须有边界机制。Yonclas在另一篇文章中专门讨论过智能体AI的治理框架需求。

战斗机飞行员的隐喻在这里变得具体:企业需要的不只是更快的AI,而是有「弹射座椅」的AI——当系统偏离预期,人类可以安全接管,而不是在失控后才发现没有制动装置。

当前市场的缺口在于,大多数AI供应商还在优化「决策质量」,而非「决策可控性」。前者是模型层的竞赛,后者是系统层的工程。Yonclas所属的Axonis显然押注后者,但整个行业的认知迁移才刚刚开始。

一个尚未被回答的问题

如果未来的企业AI系统在特定领域(如医疗诊断、司法辅助)持续表现出超越人类的决策质量,「人类最终负责」的原则会不会从质量保障变成责任陷阱?当系统足够可靠,人类介入反而增加错误率,我们还需要坚持形式上的控制权吗——还是说,这正是博伊德40秒赌约的终极版本:不是人类更快,而是人类敢于在关键时刻放手?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
奇点临近!全球AI终局战,只剩OpenAI和Anthropic的双人舞

奇点临近!全球AI终局战,只剩OpenAI和Anthropic的双人舞

新智元
2026-04-27 14:13:34
爱奇艺是疯了,还是要死了?

爱奇艺是疯了,还是要死了?

七使2022
2026-04-26 17:06:54
美媒:以色列总统暂不赦免内塔尼亚胡,寻求促成认罪协议

美媒:以色列总统暂不赦免内塔尼亚胡,寻求促成认罪协议

澎湃新闻
2026-04-27 15:06:07
朝鲜获赠德国“豹2”、美国M1A1坦克,这下朝鲜又有好东西山寨了

朝鲜获赠德国“豹2”、美国M1A1坦克,这下朝鲜又有好东西山寨了

蓝星杂谈
2026-04-27 17:33:21
五一前后,这4种水果最好不要买,果贩子:我从来都不吃,涨知识

五一前后,这4种水果最好不要买,果贩子:我从来都不吃,涨知识

阿龙美食记
2026-04-24 15:23:53
A股新“股王”净利大涨1153%,近一年股价飙升超10倍

A股新“股王”净利大涨1153%,近一年股价飙升超10倍

21世纪经济报道
2026-04-27 20:25:42
“骨盆前倾成这样,还不去医院?”家长晒一年级女儿体态,被群嘲

“骨盆前倾成这样,还不去医院?”家长晒一年级女儿体态,被群嘲

妍妍教育日记
2026-04-24 11:15:25
中国石化完成DeepSeek-V4私有化部署

中国石化完成DeepSeek-V4私有化部署

每日经济新闻
2026-04-27 16:40:48
上海地铁32岁女子与66岁老太互殴后续:央媒发声,拘留只是开始!

上海地铁32岁女子与66岁老太互殴后续:央媒发声,拘留只是开始!

阅微札记
2026-04-27 17:06:42
日本政府图谋出口二手武器,不断突破“红线”引担忧

日本政府图谋出口二手武器,不断突破“红线”引担忧

参考消息
2026-04-26 20:00:08
明晚开始 央视又4部王炸大剧来袭!赵又廷 张嘉益 窦骁 再掀追剧狂潮

明晚开始 央视又4部王炸大剧来袭!赵又廷 张嘉益 窦骁 再掀追剧狂潮

阿废冷眼观察所
2026-04-28 00:29:47
65至85岁抓紧4月申报,错过又要等一整年时间!

65至85岁抓紧4月申报,错过又要等一整年时间!

小蜜情感说
2026-04-25 13:08:24
国防部长被炸身亡!俄罗斯外交重大损失,关键时刻雪上加霜

国防部长被炸身亡!俄罗斯外交重大损失,关键时刻雪上加霜

大国之翼
2026-04-27 08:00:39
遭Steam下架的日本美女影游回归 7月发售!

遭Steam下架的日本美女影游回归 7月发售!

3DM游戏
2026-04-27 10:46:09
“欧洲淫窟”案终局!雷探长胜诉,嫁立陶宛老公,生3胎宝妈破防

“欧洲淫窟”案终局!雷探长胜诉,嫁立陶宛老公,生3胎宝妈破防

嫹笔牂牂
2026-04-27 07:35:14
40家网贷被银行拉黑,平台没了欠款却跑不掉,这3件事赶紧做!

40家网贷被银行拉黑,平台没了欠款却跑不掉,这3件事赶紧做!

老特有话说
2026-04-27 17:42:51
黑八奇迹正在上演!魔术要将活塞推向悬崖,G4大战一触即发

黑八奇迹正在上演!魔术要将活塞推向悬崖,G4大战一触即发

体育妞世界
2026-04-28 00:15:03
71.5%!历史性暴跌,以贷养贷的泡沫崩了

71.5%!历史性暴跌,以贷养贷的泡沫崩了

月满大江流
2026-04-16 13:54:38
阿里纳斯:真湖人球迷不会黑詹姆斯!别忘记科比退役前带队多烂!

阿里纳斯:真湖人球迷不会黑詹姆斯!别忘记科比退役前带队多烂!

历史第一人梅西
2026-04-26 23:41:22
阿尔特塔不会也不敢轮换 阿森纳双核快用废 本赛季英超跑8次全马

阿尔特塔不会也不敢轮换 阿森纳双核快用废 本赛季英超跑8次全马

智道足球
2026-04-27 16:58:29
2026-04-28 01:08:49
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
1824文章数 21关注度
往期回顾 全部

科技要闻

DeepSeek V4上线三天,第一批实测出来了

头条要闻

坐在特朗普身边亲历枪击案的女记者 身份非常不一般

头条要闻

坐在特朗普身边亲历枪击案的女记者 身份非常不一般

体育要闻

人类马拉松"破二"新纪元,一场跑鞋军备竞赛

娱乐要闻

黄杨钿甜为“耳环风波”出镜道歉:谣言已澄清

财经要闻

Meta 140亿收购Manus遭中国发改委否决

汽车要闻

不那么小众也可以 smart的路会越走越宽

态度原创

本地
教育
旅游
手机
数码

本地新闻

云游中国|逛世界风筝都 留学生探秘中国传统文化

教育要闻

学生课堂偷吃、听课“摆烂”……这位老师的应对方式绝了!

旅游要闻

茶卡盐湖的那颗"心" 为什么让人心里不舒服?

手机要闻

轻薄本迎来骁龙时刻!华硕推出三款万元AI PC,太精准了

数码要闻

LABUBU冰箱还未正式发售就已溢价3000元

无障碍浏览 进入关怀版