自主性悖论：当人类批准而AI已决定一切

采用AI的企业占比从2023年的8.7%上升到2025年的20.2%，绝大多数企业预计到2030年AI将改变其业务。

但过度依赖AI带来了一种自主性悖论：人类批准了结果，但在任何人点击批准之前，AI已经对选项进行了排序、筛选了证据并设定了默认选项。

陷入这种自主性悖论的组织，在熟悉的条件下会变得高效，但当这些条件发生变化时，却会出人意料地脆弱。

招聘人员审查AI生成的候选人名单。信贷官研究风险评分。采购总监看到一份排序后的供应商列表。每个人仍然在批准最终决定。表面上看，人类掌握着主导权。

然而系统早已决定了什么值得关注、什么可以忽略以及哪个选项会首先出现。人类拥有选择的权力，但对选择如何形成的控制力却更少。

这种正式权力与实际影响力之间的差距，是企业使用AI中最少被审视的成本之一。这一点如今变得尤为重要，因为该技术正从实验阶段走进组织日常运作的机制之中。

在有可用数据的国家中，经济合作与发展组织（OECD）报告称，采用AI的企业占比从2023年的8.7%上升到2025年的20.2%。世界经济论坛《2025年就业前景报告》发现，86%的雇主预计AI和信息处理技术将在2030年之前改变他们的业务。

其带来的好处可能相当可观：更快的分析、更广泛的专业知识获取渠道以及更多的创新空间。风险在于，企业可能会逐渐意识不到自己已经交出了多少判断权。

工作场所中的自主性悖论

大多数组织的应对方式是让人类"参与其中"。经理批准预测；招聘人员审查候选人名单；银行家签署贷款决定。这是必要的，但还不够。

最终的签字告诉我们谁承担了责任，却没有告诉我们谁塑造了这个决定。如果AI对选项进行了排序、总结了证据、分配了风险评分并将某个推荐结果呈现为默认选项，那么在任何人点击批准之前，大部分选择工作就已经完成了。

这就是自主性悖论：人们保留了选择这一可见行为，而技术则安排了他们做出选择的条件。在公司内部，这看起来不像是权力的转移，更像是一种便利。推荐结果清晰明了，截止日期临近，而挑战系统需要额外的工作，于是顺从便成了常态。

其商业后果可能是严重的。反复接受机器输出结果的员工可能会丧失识别特殊情况所需的专业能力。团队可能会趋向于相同的假设。组织在熟悉的条件下变得高效，但当市场发生变化，或者模型遇到其训练数据未曾预料到的情况时，却会出人意料地脆弱。

这是一个竞争问题。竞争优势很少来自与其他人得出相同的结论，它往往来自注意到模型无法察觉的东西：客户行为的转变、不寻常的当地实际情况、新出现的风险，或是历史尚未记录的机遇。

今天的效率如何削弱明天的判断力

AI的经济潜力是巨大的，但生产力不能简化为节省的时间或产出的报告数量。OECD对生成式AI的一项分析指出，企业需要调整其组织结构、流程和战略，才能充分发挥其生产力潜力。这不仅仅是软件部署的问题，更是关于公司如何持续学习的问题。

企业可能在提高当下效率的同时，削弱其未来所需的能力。如果初级员工不再通过实际工作来培养判断力，那么五年后谁会成为经验丰富的决策者？如果每个团队都从相同的机器生成综合结果开始，建设性的争论又将从何处开始？如果经理每次偏离算法推荐都需要辩解，那么人类监督就会变成一种形式。

劳动力面临的风险已经相当广泛。国际劳工组织估计，全球四分之一的工作者所从事的职业受到生成式AI的一定影响，同时强调工作转型比彻底取代更有可能发生。这种转型的质量将取决于工作者是被动接受机器输出结果，还是能够主动质疑并改进这些结果的参与者。

人类监督必须包括表达异议的自由

企业不必在技术野心和人类主导权之间做出选择。但它们确实需要做出三项审慎的改变。

绘制影响力地图，而非仅仅记录责任归属。治理机制应记录的不仅是谁批准了结果，领导者还应审视系统对什么内容进行了排序、筛选、总结或呈现为默认选项。AI的影响力需要在其固化为权威之前变得可见。

让异议变得可行。员工需要的不仅是理论上推翻系统的权利，他们还需要获得替代方案的途径、足够的证据来评估推荐结果，以及一条可行的质疑或上报渠道。推翻决定和险些出错的情况应被视为学习的来源，而非低效的标志。

保护判断力资本。董事会监控财务资本、技术资本和人力资本，他们也应保护人员和团队在解读模糊情况、检验假设以及在模型失效时采取行动方面积累的能力。这意味着即使自动化在短期内看起来更便宜，也要保留学徒制、专业领域知识以及真正不同的观点。

从原则走向实践的紧迫性已十分明显。世界经济论坛《推进负责任AI创新》行动指南报告称，只有不到1%的组织以全面且具有前瞻性的方式，完整落实了负责任的AI原则。缩小这一差距，正是使创新变得足够可信且足够有韧性以实现规模化的关键。

AI应该消除枯燥重复的工作、拓宽人们的视野并帮助人们做出更好的决策。它不应悄然消除思考的责任。最强大的企业不会是那些仅在名义上让人类参与决策的企业，而将是那些让人类在智识层面真正参与其中——具备说出"机器可能是对的，但让我们再看一看"的能力和权威——的企业。

Q&A

Q1：什么是自主性悖论？

A：自主性悖论指的是这样一种情况：人类批准了最终结果，但在任何人点击批准之前，AI已经对选项进行了排序、筛选了证据并设定了默认选项，实际上大部分选择工作已经完成。

Q2：企业过度依赖AI会带来什么风险？

A：企业会在熟悉的条件下变得高效，但当市场变化或模型遇到训练数据未预料到的情况时会变得脆弱。员工反复接受机器输出可能丧失识别特殊情况的专业能力，团队也可能趋向相同假设。

Q3：企业该如何应对这种自主性悖论？

A：企业需要做三项改变：记录AI在决策过程中的实际影响力而非仅记录责任归属；让员工能够便捷地对系统提出异议；保护员工和团队解读模糊情况、检验假设的判断力资本。