对抗AI的偏见，从纠正你的提问习惯开始

人工智能的偏见不仅根植于数据之中，它还由我们塑造，并嵌入到更广泛的人机交互生态系统中。通过有意识的努力和建立合适的系统，个人、团队和组织不仅可以更负责任地使用人工智能，还可以更有效地使用它，释放其作为真正伙伴的潜力，以产生更好的决策和更强大的成果。

关于生成式人工智能，一个被广泛讨论的担忧是：基于有偏见的数据训练出来的系统会延续甚至放大这些偏见，导致不准确的输出或不公平的决策。但这只是冰山一角。随着企业越来越多地将人工智能整合到其系统和决策流程中，一个关键因素常常被忽视：认知偏见的作用。

人工智能的偏见不仅根植于数据之中，它还由我们塑造，并嵌入到更广泛的人机交互生态系统中。偏见不仅源于数据本身，还源于人类行为与机器学习系统之间的动态相互作用。人们与人工智能互动的方式——通过他们的思维、提问、解读、决策和回应——会显著影响这些系统的行为及其产生的结果。

通过有意识的努力和建立合适的系统，个人、团队和组织不仅可以更负责任地使用人工智能，还可以更有效地使用它，释放其作为真正伙伴的潜力，以产生更好的决策和更强大的成果。

人类认知偏见

如何在人工智能使用中显现

认知偏见是人类思维中的系统性扭曲，可能源于心理捷径、情感影响或社会压力。虽然这些偏见帮助我们在复杂世界中快速决策，但它们也可能导致有缺陷的判断。例如，它们可能使我们过度强调某些数据，同时忽略其他相关信息。这些偏见大多在我们无意识的情况下发挥作用，潜移默化地影响我们解读信息和做决策的方式，且往往会破坏最终的结果。

由于认知偏见是我们大脑简化信息本能的自然副产品，理解它们如何影响我们使用人工智能至关重要。当领导者对偏见有更深刻的认识时，就能主动采取措施来管理其影响——在恰当情境下善用直觉思维的优势，同时最大程度降低偏见扭曲关键人工智能辅助决策的风险。

这种相互作用不是单向的。人工智能系统反过来也会影响人类思维，随着时间的推移强化现有偏见，而用户往往没有意识到。认识到这个更广泛、相互关联的人机生态系统对于改善我们与这些工具的互动以及做出更明智、高质量的决策至关重要。

考虑到所有这些复杂性，领导者应该关注哪里？

首先关注几个最可能引入偏见的关键点：在向人工智能寻求帮助之前，在提问阶段（此时人们向人工智能提问并评估其输出，必要时重新提问以获得有用的输出），以及提问之后（此时人们会基于人工智能给出的输出采取行动）。

提问前：甚至在开始与人工智能互动之前，提问者的思维过程就起着关键作用。是否使用人工智能以及如何使用，可能受到诸如光环效应和尖角效应等偏见的影响。如果提问者过去对人工智能有积极的体验，他们可能会带着光环看待它，并假设它在广泛情况下都是可靠的，即使对于它可能不太适合的任务也是如此。相反，负面的体验可能引发尖角效应，导致不必要的怀疑或回避，即使在人工智能可能有所帮助的情况下也是如此。

例如，一些引人注目的新闻报道——比如麻省理工学院的一项研究发现，依赖人工智能工具写论文的人表现出大脑活动减少和学习成果变差，或者律师因提交包含人工智能生成、虚构引用的法律简报而受到制裁的广为人知的案例——可能通过引入或强化对人工智能的怀疑而加剧尖角效应。

意识到这些偏见不仅对个人用户重要，对团队领导者也很重要。如果你的团队成员对采用人工智能犹豫不决，尖角效应可能是他们产生抵触情绪的原因之一。

偏见也影响着用户如何定义他们试图解决的问题。例如，确认偏误会导致某人专注于支持其现有信念的信息，而忽略其他解释。这可能导致使用人工智能来解决错误的问题。如果你已经相信自己知道问题的原因，你更有可能以强化这种信念的方式来构建人工智能提示，从而限制了输出的有用性。

提问中：提问者向人工智能构建问题的方式，极大地影响着输出结果的质量。引导性问题偏见会在提示词暗示特定答案时出现，从而使回应产生偏差。例如，问 “为什么产品 X 是最好的？” 会促使人工智能突出产品的优点，而忽略其缺点。输出结果可能听起来令人信服，但最终会歪曲全貌，有可能导致错误的决策。

作为人工智能用户，我们都遇到过第一次提问没有完全满足我们需要的情况。然而，尽管输出质量很重要，我们往往未能严格评估人工智能生成的响应。便利性偏见，即我们倾向于选择快速、方便的解决方案，可能导致我们在没有充分评估其准确性或相关性的情况下就接受输出。在时间压力下，尤其容易看一眼响应就认为“足够好了”，然后继续下一步。但这种捷径会损害我们的思维质量，并导致无法解决实际问题或产生有意义影响的决策。

提问后：最后，提问者必须决定如何处理人工智能的输出。认知偏见也会影响这个阶段。例如，一个花费大量精力与人工智能合作完成演示文稿的提问者可能会经历禀赋效应。这种偏见会使我们仅仅因为投入了时间或精力而产生对某事物的拥有感，从而高估它的价值。结果，提问者对自己的成果评价过高，并且由于对自己的想法或方法的执着，他们不太可能去探索或考虑可能更好的替代方案。

偏见也影响我们如何分享想法——以及他人如何感知它们。由于框架效应，信息的呈现方式会显著影响其被接受的程度。例如，说有20%的几率患上某种疾病，比说有80%的几率保持健康听起来更令人担忧。尽管两种陈述传达了相同的信息，但框架会强烈影响人们如何解读信息、他们的感受以及他们最终做出的决定。

这些只是认知偏见如何影响我们与人工智能互动的几个例子。虽然“提问前/中/后”的框架有些过于简化（因为我们可以提示人工智能来支持我们思维的几乎每个阶段，包括问题定义和最终输出），但它仍然是一个有用的方法，来突出偏见可能潜入的关键时刻。

我们能对认知偏见做些什么

认知偏见使我们能够在无需对每种情况都进行刻意、费力推理的情况下快速做出决策，从而帮助我们应对复杂性。但当它们缩小我们的视野时——尤其是在高风险情境下——就会产生问题。那么，我们能做什么？

幸运的是，个人、团队和组织都有重要的机会来减少偏见的负面影响。进行我们自己的批判性思维并寻求他人的意见对于最小化偏见至关重要。人工智能也可以成为支持这些努力的有价值工具，帮助我们识别盲点和挑战我们的假设。然而，重要的是将人工智能作为个人反思和多元视角的补充，而不是替代品。本节包含了一些人工智能提示示例，以说明人工智能如何支持这些实践。

1、了解认知偏见如何影响你与人工智能互动

人工智能用户无法控制嵌入人工智能系统中的偏见，但他们可以改变自己与人工智能互动的方式。建立对我们上一节描述的那些时刻的意识是关键的第一步。理解偏见如何及在何处产生，有助于用户保持警惕，主动提出更好的问题，并做出更明智的决策。

2、打断自动思维，应用批判性思维

在凭直觉行动之前暂停是至关重要的，尤其是在高风险情况下。暂停本身并不能解决问题，但暂停期间发生的事情可以。它为我们创造了空间，让我们从快速、自动的反应转向更深思熟虑、反思性的推理。用神经科学的术语来说，这意味着从本能驱动的大脑系统转向激活前额叶皮层——大脑中负责计划、批判性分析和自我调节的部分。

那么，个人如何实际实现这种转变呢？虽然认知偏见千差万别，但有几个一致的策略适用于各种偏见——这些实践有助于最小化其影响，并支持更深思熟虑、更有效地与人工智能互动：

· 揭示假设并评估推理：通过审视结论背后的逻辑，进行有意识的批判性思考。示例提示：审查我做出这个决定的推理过程，指出我可能忽略的任何假设或逻辑漏洞。

· 创造心理距离：像评价别人的想法一样批评你自己的想法。使用客观标准，并考虑一个中立的第三方会如何评价你的思维。示例提示：作为一个公正的局外人来评估我的提案。你会注意到哪些优点和缺点？

· 寻求多元视角：有意探索挑战你假设和信念的观点和证据。邀请他人——甚至人工智能——来帮助识别你推理中的盲点或弱点。示例提示：从不同利益相关者的角度提出可能挑战我当前方法或思维的观点。

3、建立支持批判性思维的系统

鉴于认知偏见是自动的且通常是无意识的，仅靠个人努力很难打断它们。这就是为什么团队和组织必须建立能够促进反思、挑战假设和鼓励深思熟虑思维的流程和系统。

这首先要认识到，将人工智能集成到工作流程中不仅仅是为了节省时间；更是为了提高思维和结果的质量。在许多情况下，放慢速度对于做出更好的决策是必要的。实施结构化的技术有助于揭示偏见并加强推理。这些技术可能包括：

· 事前剖析：团队想象未来的失败，然后倒推找出可能出错的地方，在决策最终确定前发现盲点。示例提示：帮助我们进行一次事前剖析。我们当前的计划可能会出什么问题？我们现在可以采取什么步骤来预防这些问题？

· 唱反调：指定某人挑战主流观点，测试团队思维的稳健性。示例提示：假设你不同意我们的计划，请对其进行批判。我们应该注意哪些弱点或风险？其他人可能会如何看待这个问题？

· 决策清单或结构化模板：提示团队考虑替代解释、评估权衡并记录假设。示例提示：提供一份我们在最终确定此决定前应考虑的关键因素清单。包括关于风险、替代方案、利益相关者影响和潜在偏见的问题。

无论这些实践是正式的还是非正式的，培养一种鼓励人们测试自己思维、进行开放对话和寻求反馈的文化至关重要。而为了使反馈有意义，团队必须包含具有不同视角的成员，以避免群体思维。换句话说，必须在整个团队和组织中重视并积极培养思维多样性。

认知偏见不仅影响我们如何思考——它还塑造我们如何使用人工智能。从定义问题到解读人工智能生成的输出并据此采取行动，我们的偏见对我们的影响比我们意识到的要大。但我们并非无能为力。通过建立意识、暂停反思和进行批判性思维，我们可以减少偏见的影响，更清晰地思考。

养成新的习惯，如质疑假设、寻求多元视角以及在最重要的事情上放慢速度，起初可能会感到陌生。但随着练习，这些行为会变得更容易、更自然。而这一切努力都是值得的。

关键词：

Grace Chang、Heidi Grant | 文

Grace Chang是安永会计师事务所行为科学与洞察副总监，是一位认知神经科学家，致力于架起科学与实践的桥梁以设计有效的学习项目。Heidi Grant是一位社会心理学家，研究、撰写并讲述关于动机科学的文章。她的著作包括《强化：如何让别人帮助你》《成功人士与众不同的九件事》以及《没人懂你怎么办》。她是安永美洲区行为科学与洞察总监。

周强 | 编校

联系方式

投稿、广告、内容和商务合作

newmedia@hbrchina.org