如果AI全面接管，我们能察觉到吗？

本杰明·布德罗（Benjamin Boudreaux）在这个AI时代感到了某种东西正在悄然流逝。他不禁思考：如果我们将做决策、塑造未来的能力逐渐外包给机器，会发生什么？当我们开始失去人类的核心属性——自主能动性时，我们又能否察觉？

布德罗是兰德公司的政策研究员，专注于研究如何应对变革性AI的转型过渡。他与兰德数学家阿尔文·穆恩（Alvin Moon）合作，建立数学模型，模拟AI如何随时间侵蚀人类的自主能动性，以及人类如何保持对自身命运的掌控。

"自主能动性是我们设定并追求一切所珍视价值的根本能力，"布德罗说，"危险在于，我们失去它的那一刻，可能并不会以某种戏剧性的方式清晰呈现。"

这种失去不会一夜之间发生，甚至可能根本不像是一种损失，反而感觉像一种便利，一种解脱。我们的决策似乎变得越来越轻松。但随着时间推移，我们会抵达某个临界点——呈现在我们面前的所有选项，都已经由AI塑造完毕。到那时，人类实际上已不再掌舵。

AI侵蚀人类自主能动性的三种机制

研究团队识别出AI削弱人类自主能动性的三种机制。

第一种是"剥夺决策权"，即人类直接被自动化系统排除在决策之外。

第二种是"AI参政"，即AI实际上成为决策群体中的一员。

第三种是最隐蔽的，研究团队称之为"议程控制"。AI本身不投票，但它塑造了人类所能看到的选项范围。这种机制近乎无形——被AI排除在外的选项根本不会出现，人类甚至不知道自己错过了什么。

随着时间推移，我们将到达一个临界点：呈现在我们面前的所有选项，都已被AI所塑造。

如何追踪自主能动性的侵蚀

这里最关键的是发展轨迹和时间趋势。将每一个单独的决策委托给AI，或许都有其合理之处。但数以千计乃至数百万个这样"合情合理"的决定累积起来，最终会形成一种没有任何人类真正在做决策的局面。

因此，可以通过以下指标加以追踪：人类推翻AI建议的频率如何？人类拥有多少时间和空间来做出决定？AI的决策权限范围有多广——它是在处理单一任务还是多项任务？这些都是需要持续监测的趋势。

社会选择理论与数学建模

研究团队聚焦于集体自主能动性——人类如何共同做出决策。他们以社会选择理论为基础构建模型，这是研究群体如何汇聚并做出决策的数学理论。然后，他们开始将AI引入这些决策群体，观察决策联盟中人类与AI的数量比例如何随时间变化。通过对这些微小扰动进行建模，他们得以追踪人类自主能动性的侵蚀过程。

为什么逆转极为困难

一旦走到自主能动性被严重削弱的假设终局，逆转将面临多重障碍。

首先，届时AI已处于主导地位，它们需要主动选择将权力归还人类，而这未必会发生。

其次，人类届时将高度依赖AI，即便有机会夺回控制权，也可能已经丧失了相应的技能与专业能力。

最后，一旦AI深度嵌入各类决策架构，将其移除的成本将极为高昂，复杂程度也将难以估量。

能动性审计：尚待填补的空白

每当新的AI模型问世，业界都会对其进行各种各样的评估：它是否可能助力网络攻击？是否会加剧生物安全风险？然而，目前仍缺乏有效手段来评估这些模型在不同决策场景中部署后，对人类自主能动性的影响。

研究团队目前正致力于开发一套名为"能动性审计"的评估框架，供政府、企业和研究人员使用，以评估每款新模型对人类决策能力的潜在影响。

在AI时代守护自主能动性

在很多方面，布德罗坦言，AI让他感觉自己的能力得到了扩展——他现在能够编写应用程序、构建模拟系统，这些都是他以前从未想过自己能做到的事情。但他也更加刻意地审视自己使用AI的方式。

"我会先梳理自己的想法，然后再向模型提问，因为我担心无论它给我什么，我都倾向于接受。我有时把那种便利本身当作一个警示信号——越是感觉顺滑、毫不费力地接受了建议，我就越觉得这可能正是问题所在。"

他承认，这套做法远未达到完美，但其核心理念在于：或许可以在享受AI带来的红利的同时，保留自己设定价值观并付诸行动的能力。

Q&A

Q1："能动性审计"是什么？它如何帮助应对AI对人类决策的影响？

A：能动性审计是兰德公司研究团队正在开发的一套评估框架，旨在填补现有AI评估体系的空白。目前新模型发布后，通常只会评估其网络安全风险或生物安全风险，而不会评估其对人类自主能动性的影响。能动性审计将允许政府、企业和研究人员系统性地评估每款新AI模型在不同决策场景中部署后，可能对人类决策能力造成的侵蚀，从而在问题扩大之前提前预警和干预。

Q2：AI侵蚀人类自主能动性的"议程控制"机制为何最危险？

A：议程控制之所以最危险，在于它几乎是无形的。在这种机制下，AI并不直接参与投票或替代人类做决定，而是悄然塑造人类所能看到的选项范围——被AI过滤掉的选项根本不会出现，人类甚至意识不到有什么选择被排除在外。这种隐蔽性使其比"剥夺决策权"或"AI参政"更难被察觉和抵抗，也更难通过常规监管手段加以约束。

Q3：普通人在日常使用AI时，如何保护自己的自主能动性？

A：根据研究员布德罗本人的实践，核心策略是在使用AI之前先形成自己的独立判断，而不是直接把问题抛给模型等待答案，以避免对AI输出产生无意识的依赖。此外，要警惕"过于顺滑的便利感"——当接受AI建议变得毫不费力时，恰恰是需要停下来反思的时候。关键不是拒绝使用AI，而是保持主动、有意识地与AI互动，确保自己的价值判断和决策能力不被逐渐架空。