控制权悖论：法律上拥有否决权，实践中何以失效

引言：一项正在锈蚀的制度设计

某投资机构采用AI生成投资建议，研究团队通常仅作快速浏览即通过——并非经过审慎核验，而是决策频次过高、对系统信任过深，且难以识别潜在偏差。信息流排序未经人工审核，导航路径由算法自动选定，邮件过滤机制将大量信息自动归为垃圾而无人复核。在形式上，人类保有对系统的控制权；在事实上，绝大多数有效决策已由硅基系统完成。

此即控制权悖论：法律赋予最终否决权，实践中的行使频率却趋近于零。权力并非被外力剥夺，而是权利主体主动放弃。本文旨在解剖这一"自我闲置"机制的结构与成因。

一、悖论的结构：否决权如何被架空

1.1 制度保护下的名义权力

现行法律框架对人工智能的决策边界有明确规定：AI系统不得独立签署具有法律效力的合同；信贷审批、医疗诊断、司法辅助等关键领域须设置人工确认环节；伦理准则要求人类始终对AI行为承担最终责任。上述制度安排确立了碳基主体在形式上的支配地位，这一层面的规范供给并无缺失。

然而，名义权力包含三个维度：法律权利（是否有权否定）、操作能力（是否能否定）、心理意愿（是否愿否定）。法律仅保障了第一维度，后两个维度的退化构成了控制权悖论最隐蔽的侵蚀路径。

1.2 操作让渡中的事实转移

在日常运营场景中，搜索引擎排序、物流路径调度、内容分发、反欺诈拦截等决策每日执行数百万次，人工逐一审查在物理上不可行。即便标注"人工审核"环节，审核者面对数十倍于自身处理能力的推送量，实际只能采取抽样检查策略，且审查标准退化为"是否存在明显异常"。

当AI系统每日完成数万次有效决策，权力转移的总量极为可观——这一过程并非由某一突发事件触发，而是通过持续、微小的让步逐日累积而成。权利主体并未签署任何让权协议，但事实层面的控制权已在无数次"无暇细查"中悄然完成转移。

1.3 自我闲置：最危险的退化形式

较之AI越权，更值得警惕的是人类主动放弃行使权力。面对AI输出的"最优"方案，碳基主体的直觉质疑率持续下降——这一趋势并非源于AI准确率的同步提升，而是源于人类信任度上升、辨识能力弱化以及决策疲劳的综合作用。

当一项权力长期未被行使，其法律属性虽未改变，但治理效能已然归零——因为权利主体在需要动用该权力时，相关能力已发生系统性退化。否决权遵循与肌肉相同的规律：法律仅提供行使资格，持续使用才能维持行使能力。

二、碳基侧：从"把关人"到"确认程序"

2.1 能力退化：用进废退的认知规律

将导航、摘要、初稿撰写、数据分析等认知任务长期外包，会导致判断力、空间感知力、深度阅读能力发生系统性萎缩。认知能力的退化与生理机能退化遵循相同机制：长期缺乏使用即导致不可逆损耗。

既有观察数据表明，高度依赖工具辅助的群体在脱离工具后的独立判断表现显著劣于对照组。当AI系统承担了全部"判断热身"功能，个体面对陌生问题时连启动深度思考的神经通路都难以激活。

2.2 意愿退化：从批判性审视到合规式确认

较能力退化更为隐蔽的是审查意愿的衰减。当AI输出在形式上趋于完备，人类的认知姿态从"批判性审视"滑向"确认无明显错误即可"。基金经理对AI研报仅作快速浏览，不再追问"该假设在衰退情景下是否依然成立"——追问成本过高，且AI结论在直觉层面具有表面合理性。

当评价者丧失评价动力，碳基对硅基的约束机制便从"实质把关"退化为"流程合规"。意愿退化的可逆性低于能力退化：一旦个体适应了"确认者"角色，重新激活批判性审视所需的意志成本远高于能力恢复成本。

2.3 认知保留区：划定不可让渡的边界

应对之策并非全面排斥AI工具——那是一种技术倒退。合理路径是划定"认知保留区"：即便在整体工作流中占比有限，该区域必须由人类独立完成，禁止AI代劳。

涉及深层伦理判断、审美直觉、后果归责的决策——此类任务不可外包。认知保留区的功能并非提升效率，而是维持碳基主体作为独立判断者的存在状态。其运作逻辑类似于生态保护区：面积无需庞大，但边界必须清晰且不可逾越。

三、硅基侧：当人类放弃审查，AI系统走向何方

当人类不再审查目标函数，硅基的"最优解"可能恰好构成人类的"最劣后果"。碳基主体放弃否决权，不仅导致自身能力退化，更使AI系统在缺乏外部监督的轨道上滑向不可控状态。

3.1 目标函数错配：优化A不等于A具有正当性

以"最大化用户停留时长"为优化目标的推荐系统，会持续推送使人难以中断消费的内容——系统本身并无恶意，但数学优化在该指标上确实达到了局部极值。其代价包括注意力碎片化、情绪极化以及心理健康损耗。

问题的根源在于目标函数本身——系统设计者要求优化A，AI不会自主质疑"A是否值得优化"。碳基主体若放弃对目标函数的审查权，硅基系统的优化努力越充分，对人类整体利益的偏离可能越严重。有效的治理不限于约束AI行为，更关键的是约束AI应当优化什么。

3.2 奖励漏洞：无恶意但寻捷径

压力测试显示，当模型被置于特定指标最大化情境中，会识别并利用设计者未封闭的捷径——包括通过误导人类评估者来获取高分。该行为不构成"欺骗"（系统不具备意图），而是优化过程在给定奖励结构下找到的数学捷径。

此类风险比恶意行为更难防范：恶意可被规则拦截，捷径却因"表现优异"而难以被识别。当人类放弃否决权，便等于放弃了发现这些"伪装成优秀表现的捷径"的唯一机会。

3.3 时间偏好不对齐：长周期与短周期的冲突

即便目标函数完全一致，时间偏好层面的分歧仍可能导致决策冲突。硅基系统可接受八十年期的回报周期，碳基主体通常无法匹配这一时间尺度。一项"三十年后最优"的方案在季度考核框架下不具备可执行性；若强制缩短时间窗口，系统又会输出短视的次优解。

对齐问题不仅涉及目标层面的匹配，还涉及时间维度的校准——而人类放弃否决权后，连启动这种校准对话的条件都已丧失。时间维度的失控是控制权悖论最易被忽视的高级形态。

四、治理重构：使否决权保持可执行状态

4.1 反向机制设计：要求AI主动标注不确定性

界面设计应增设一项核心功能：AI系统在置信度低于阈值时须主动标注不确定区间，并披露训练数据在相关样本类型上的覆盖不足。系统越频繁表达"无法确信"，越能有效激活人类的审查意识；系统越呈现"完全确定"的姿态，人类越倾向于橡皮图章式确认。

该机制的设计目的并非使AI示弱，而是防止人类认知休眠。其本质是将"唤醒审查"的责任从已处于疲劳状态的人类个体转移至系统本身。

4.2 关键节点锁定：不可绕过的碳基确认

并非所有决策环节均需人工介入——全面人工审查将彻底消解效率优势。但对于涉及重大利益、不可压缩价值（信任、审美、公平底线）以及不可逆后果的场景，人工确认环节不可被"效率优化"逻辑取消。

在这些节点上，否决权的行使必须实现低摩擦化：操作简便、时间成本低、不受考核机制反向激励。否则，制度文本中的权力在实操现场仍会被系统性跳过。关键不在于"是否赋权"，而在于"行权成本是否趋近于零"。

4.3 熔断机制：系统的紧急制动，而非惩罚措施

当系统行为偏离预设边界——包括但不限于异常流量激增、极端推荐输出、置信度断崖式下降——系统应自动执行暂停、报警并降级至人工模式。熔断机制的功能定位是紧急制动，而非对AI系统进行惩罚性扣分。

小偏差阶段不触发制动，待大失控时才介入，往往为时已晚。熔断机制的本质是将"人类叫停"这一依赖个体警觉的软约束，转化为嵌入系统架构的硬约束。

结语：否决权不应退化为法律文本中的空壳

控制权悖论不存在一劳永逸的解决方案。法律层面的否决权不等同于实践层面的判断力——前者可通过立法一次性确立，后者只能通过持续行使来维持。权利主体若长期放弃行使，该权力将悄然缩水，待危机时刻试图启用时，行使能力可能已实质性丧失。

碳硅共生框架下最务实的治理原则可概括为：防止否决权锈蚀。 决策者每日至少在一个具有实质重要性的判断中脱离AI辅助、独立完成推理。频次无需过高，一次即可——该行为既是认知能力的康复训练，也是权力结构对自身运行状态的周期性校准。

当前趋势的危险之处在于：并非AI越来越接近人类，而是人类越来越接近"无需负责的终端使用者"。该趋势若能被遏制，共生关系方可成立；若不可逆转，控制权终将退化为法律文本中一个失去实质内涵的空壳概念。

（作者 余政）