AI时代，我们正在把判断外包

来源：市场资讯

（来源：虎嗅APP）

本文来自微信公众号： HavenlonLabs ，作者：HavenlonLabs

AI可以生产答案，但不能替人成为答案的承担者

人类先把体力交给机器，把计算交给计算机，把检索交给搜索引擎。现在被交出去的是另一种更接近核心的能力：判断。

我们问AI该选哪个方案、该相信哪种说法、该如何回复一封邮件，也问它该雇谁、该拒绝谁、该投什么、该停什么。这个趋势看起来顺理成章——既然模型能读更多资料、处理更多变量、发现人难以察觉的模式，为什么不让它帮忙做更好的决定？

值得关注的并不是人开始借助AI判断，而是另一件发生得更慢的事：人可能正在习惯于不再亲自判断。

过去获得一个相对完整的答案意味着成本：搜集资料、阅读文件、请教专家、比较观点，最后在信息不充分的情况下作出选择。答案有重量，部分原因是有人为抵达它付出了时间。

如今问题刚出现，答案几乎立刻可得——一份商业计划、一次合同分析、一份会议纪要、几条技术路线的对比、一种选择的后果推演。答案越来越完整，语气越来越确定，结构越来越清晰。

但生产答案的效率提高，不等于判断本身变得可靠，因为二者从来不是一回事。答案是对信息的组织，判断是在不确定中作出选择；答案可以列出风险，判断要决定哪些风险值得承担；答案可以铺开各种可能，判断要关闭其中绝大部分，只留下一个行动方向。

一种流行的理解把判断看成计算：信息足够多、模型足够好，就能算出收益最高、风险最低的方案。如果判断真是如此，它迟早会被更强的机器接管。

但现实中的关键决定，困难之处通常不在数据量。企业该继续投入一个长期没有收入的项目，还是及时止损？医生该选更激进的治疗，还是优先保护生活质量？平台该允许多大的自由、承担多大的风险？这些问题之所以难，是因为效率与公平、增长与安全、短期利益与长期责任之间本就存在冲突，再多计算也无法把它们统一。

因此判断不是从数据里发现一个早已存在的正确答案，而是在无法兼得的价值之间作出承诺：我知道另一种选择也有道理，但我仍然决定这样做；我知道结果可能不完美，但我愿意承担。

模型可以计算概率，却不会经历概率落空后的生活。它不会因为一次错误的招聘失去同事的信任，不会因为一项失败的战略耗掉数年声誉。它可以参与决定，却不会被决定改变。

这不是说AI的建议没有价值。恰恰因为它越来越有价值，才更需要区分：谁提供了答案，谁作出了判断，谁承担后果。

一个人独立决策时，责任是清晰的。即便判断错误，仍然知道该追问谁：你为什么这样选，当时掌握了什么，忽略了什么。

当判断被拆散到模型、数据、流程与组织之间，这条线索开始变淡。管理者说这是系统推荐的结果；执行者说自己只是照方案办；技术团队说模型只提供建议；供应商说输出取决于用户输入与使用环境。每个环节似乎都只承担了一小部分。

但结果不会因此被分割。一个人仍然被拒绝，一笔钱仍然亏损，一项错误决策仍然进入现实。

这比"机器会不会犯错"更接近问题的核心。机器会犯错，人也一直在犯错。一个系统是否可靠，从来不取决于能否消除错误，而取决于错误发生后责任链是否仍然成立：谁有权相信机器，谁有权推翻机器，谁必须解释机器的结论，谁有义务在机器表现得非常自信时保留怀疑。这些问题若无答案，"人类最终负责"就只是一句缺乏结构支撑的表述。

技术很少突然夺走一种能力，更常见的方式是让它显得不再必要。导航没有消灭方向感，但多数人不再记路；搜索没有消灭记忆，但改变了知识的存放方式。

AI对判断的侵蚀路径可能类似：先是提供参考，然后排序选项，接着人们倾向于采纳它认为最优的方案，最后剩下的工作只是确认。表面上按钮仍由人按下，但如果这个人没有重新理解问题、没有比较其他可能、也没有真正准备推翻建议，这种确认是否还算判断？

这一现象在人因研究中有固定名称：自动化偏见（automation bias），通常表现为两种形态——采纳了错误建议，或忽略了自己本已察觉的异常信号。它并非新问题，但因为足够普遍，已被写进法条。欧盟《人工智能法案》第14条第4款明确要求，高风险系统必须以某种方式交付，使承担监督职责的人能够意识到"自动依赖或过度依赖系统输出"的倾向，并特别点名了那些为人类决策提供信息与建议的系统。有学者随即指出一个风险：供应商可能把这条义务理解成一次性告知，而非真正的设计约束。

合规实践中已出现相应的检验思路：查看推翻率。如果一个岗位从不推翻系统建议，其"监督"很难被认定为有效。

值得注意的是背后的激励结构。采纳AI建议后失败，当事人可以说自己遵循了系统；拒绝AI建议后失败，责任则完全归于个人。这种不对称会缓慢改变组织行为——人们未必因为信任AI而服从，也可能因为偏离AI更难解释而服从。日积月累，系统推荐就从参考意见变成事实上的默认裁决。

这种担忧已经有了初步的实证痕迹。2025年发表于《柳叶刀·胃肠病学与肝病学》的一项多中心观察研究显示，在四家中心引入AI息肉识别工具后，医生在不使用AI时的腺瘤检出率从28.4%降至22.4%，绝对下降6个百分点，相对降幅约两成；参与者均为完成过两千例以上检查的资深医师。

这项研究需要谨慎解读。它是观察性设计而非随机对照，有评论者指出研究期间总检查量上升，疲劳可能构成混杂因素；同时，在AI辅助下医生的整体表现是改善的，且技能退化风险并非AI独有，引入任何新工具都可能出现。研究者自己也把结论限定为"提示行为发生了变化"。

但它至少提出了一个此前较少被量化的问题：当辅助系统长期在场，未被使用时的能力会怎样变化。对企业而言，这个问题的对应形式是——如果某天系统不可用、给出异常结论，或场景超出其训练范围，组织内是否还有人能独立形成一个判断。

讨论到这里容易滑向另一个极端：似乎只有远离AI才能保持自主。这既不现实，也无必要。人类一直借助工具判断——医生依赖检测设备，飞行员依赖仪表，企业依赖报表。工具的价值正在于让人看见自己看不见的东西。

问题不在工具是否参与，而在工具与判断者的关系是否清晰。较可取的做法，是让系统承担扩大视野与暴露矛盾的功能：发现遗漏的信息，提出不同的解释，模拟可能的后果，指出推理中的漏洞，挑战既有偏见。

但它不应让人跳过几个问题：这个建议建立在什么假设上？哪些价值没有被写进模型？结果由谁承担？在什么条件下我必须拒绝它？

这对产品设计提出了具体要求：显示不确定性，而不只显示结论；保留少数意见，而不只输出排名；允许推翻建议，并记录接受或推翻的理由；在不可逆、高风险的场景中主动增加摩擦，而不是一味压缩决策时间。

大概不会有哪一天，某个组织正式宣布判断从此交给机器。更可能的是一个渐进过程：先把资料交出去，再把分析交出去，然后把建议交出去，最后发现自己的工作只剩下点击确认。每一步都合理，每一步都提升了效率。

风险不在于机器夺走权力，而在于人逐渐不再使用自己的权力——仍然握有决定权，却已经不习惯形成一个不依赖系统的决定。

AI可能是迄今最强大的认知工具。但工具越强，越需要区分它能做什么与不能做什么：它可以告诉我们世界可能是什么样，不能替我们决定世界应该变成什么样。

答案可以被生成，建议可以被计算，风险可以被预测。最后仍然需要有人站在结果之前说出那句机器无法真正说出的话。

本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4878223.html?f=wyxwapp