北京
过去十年，“给AI加一道人类审核”被企业安全手册奉为铁律。但2026年6月20日，这项铁律遭到最激烈的一次内部瓦解——亚马逊安全副总裁Eric Brandwine公开宣称，把人类放进AI决策回路，不仅不是安全补丁，反而会系统性地拉低可靠性。同一天，The Register以“为什么亚马逊厌恶人在回路中的AI治理”为标题，放出了这场震动行业的采访。
Brandwine是亚马逊杰出工程师兼安全VP。他的论证角度简单而致命：我们太把自己当回事了。“说到人类，我们有点‘娇气’，”他告诉The Register，“我们总觉得人类是始终如一、有纪律、靠得住的。真落到实处，人类一点也不一致。人类和AI系统一样，都是非确定性的。”同一个提示、同一份数据，丢给同一个人两次，很可能吐出完全不同的判断。人会疲劳，会编造，会抄近道——这些恰好也是大语言模型被诟病的毛病。Brandwine补了一句：“这不是在爆什么猛料，只是事实。整个行业只是这么多年都不敢放到台面上说。”
真正切开认知茧的那句话，紧跟着就来了。“我们知道人类怎么犯错，我们对这些错很熟悉、能容忍。所以‘人在回路中’未必是什么金标准。”这句话出自一个超大规模云服务商的安全最高负责人之口，让他成为2026年AI技术治理领域最安静的激进者。过去数年，所有卖代理方案的厂商都在兜售同一种叙事：只要在审批环节挂上一个人类，你就合规了。大型语言模型爆发后，这种声音更是在企业把代理部署到IT环境时飙升到“狂热高点”。而现在，全球最大的四个基础设施提供商，在同一周里公开扔掉这套剧本。
谷歌云首席运营官Francis deSouza在几乎同期的表态中，描绘出一条清晰的迁移路线——从“人为主导”到“人在回路中”再到“AI主导防御，人类行监督之职”。微软CEO萨提亚·纳德拉的主张更进一步，强调要在系统中嵌入“循环学习”，而不是一步步等人类拍板。IBM高管同样释放出抛弃旧模式的信号。亚马逊、谷歌、微软、IBM，四家在同一个时间窗口步调一致地转身，这在企业级AI治理史上尚无先例。
这种同步退场揭示了一个更深层的系统失效，一种作者所称的“AI协同差距”。其核心在于：当人类和AI双方都不可靠时，简单叠加的人机协同不会自动提高可靠性，甚至会在某些条件下主动摧毁系统的稳定性。识别出这个差距，才能准确判断人类审核究竟什么情况下是帮手，什么情况下是伪装成安全网的新漏洞。Brandwine点破的正是这套差距的源头——我们一直容忍人类的非确定性，假装它是确定的，再把它当作衡量AI安全性的尺子。这把尺子本身就不直。
这对此刻正在用LangGraph、Anthropic的MCP、AWS Bedrock或CrewAI部署代理的每一个团队来说，直接意味着架构层级的反思：监督机制不能再设计成一个需要人类时刻在场的审批节点。亚马逊的立场并非否定人的作用，而是要求把人从“不可靠的最后一关”这个位置上请下来，把非确定性作为系统设计的前提，而非例外。当四家巨头在同周用脚投票，那个靠“人类按钮”兜底的时代，正式宣告进入倒计时。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
