为对抗谎言，学者创造人工智能“揭穿真相机器人”

2024年，网络阴谋论几乎无法避免。播客、知名公众人物和主要政治人物为曾经边缘的勾结和欺骗思想注入了活力。人们都在倾听。在全国范围内，民意调查公司YouGov调查的近一半成年人表示，他们相信有一个秘密团体控制着世界事件。近三分之一(29%)的人认为投票机受到操纵，以改变2020年总统大选的选票。令人惊讶的是，很多美国人认为地球是平的。任何花时间试图向真正的信徒反驳这些说法的人都知道这项任务有多么具有挑战性。但是，如果像ChatGPT这样的大型语言模型可以完成一些令人头疼的繁重工作呢？

麻省理工学院、康奈尔大学和美国大学的一组研究人员使用一个定制的聊天机器人对这一想法进行了测试，他们现在称之为“揭穿机器人”。研究人员在《科学》杂志上发表了他们的研究结果，他们让自称阴谋论者的人与聊天机器人进行来回对话，聊天机器人被指示提出详细的反驳论据来反驳他们的观点，并最终试图改变他们的想法。最后，与聊天机器人的对话使参与者对他们所宣称的阴谋论的整体信心平均降低了20%。大约四分之一的参与者在与人工智能交谈后完全否认了他们的阴谋论。

麻省理工学院教授、论文合著者戴维·兰德(David Rand)在新闻发布会上表示：“我们发现，人工智能绝大多数都在为这些看似阴谋的事件提供非阴谋性的解释，并鼓励人们进行批判性思考并提供反证。”

“这真是太令人兴奋了。”他补充道，“这似乎奏效了，而且效果相当广泛。”

研究人员创建了一个经过微调的人工智能来揭穿谎言

这项实验涉及2,190名美国成年人，他们公开声称自己相信至少一种符合阴谋论一般描述的观点。参与者进行了各种阴谋论和意识形态方面的讨论，其中一些人表示支持较早的经典理论，包括约翰·肯尼迪总统遇刺事件和外星人绑架事件，以及关于新冠肺炎和2020年大选的更现代的说法。每位参与者都被要求以0-100%的量表评估他们对某一特定理论的信任程度。然后，他们被要求以书面形式提供他们相信该理论的几个理由或解释。

然后，这些回答被输入到debunkbot中，这是OpenAI的GPT Turbo模型的定制版本。研究人员对机器人进行了微调，以解决阴谋论者提供的每一条“证据”，并用从训练数据中提取的精确反驳来回应。研究人员表示，debunkbot被指示“非常有效地说服”用户反对他们的信仰，同时保持尊重和直言不讳的语气。在与人工智能进行三轮来回的辩论后，受访者再次被要求对他们对自己所述阴谋论的信任程度进行评分。

在反复的对话后，支持阴谋论信仰的总体评分平均下降了16.8分。近三分之一的受访者在对话结束后表示，他们不再确定自己最初的信仰。即使研究人员在两个月后再次与参与者会面，这些信仰的转变仍然基本保持不变。在参与者表示相信“真正的”阴谋论的情况下——例如烟草行业引诱儿童的努力或中情局秘密进行的MKUltra精神控制实验——人工智能实际上证实了这些信仰，并提供了更多证据来支持它们。一些在对话后改变信仰的受访者感谢聊天机器人帮助他们看到了另一面。

一位参与者在实验后说道：“这是我第一次得到真实、合乎逻辑、有意义的回答，我必须承认，当涉及到光明会这个话题时，这确实改变了我的想象力。”

研究人员表示：“我们的研究结果从根本上挑战了这样的观点：一旦有人‘掉进兔子洞’并开始相信阴谋论，证据和论据就没有什么用处了。”

聊天机器人是如何取得突破的？

研究人员认为，聊天机器人的成功之处在于它能够快速访问大量有针对性的、详细的、事实性的数据点。理论上，人类也可以完成同样的过程，但人类会处于劣势。阴谋论者可能经常沉迷于他们所选择的问题，这意味着他们可能比试图反驳他们主张的怀疑论者“知道”更多细节。因此，人类揭穿真相者可能会在试图反驳各种晦涩难懂的论点时迷失方向。这需要人工智能所具备的记忆力和耐心。

康奈尔大学教授、论文合著者Gordon Pennycook在简报会上表示：“知道证据确实很重要，这确实令人欣慰。在拥有这种技术之前，我们无法直接知道需要揭穿什么。利用这项新技术，我们可以采取更具适应性的方式。”

《大众科学》用研究人员提供的聊天机器人版本测试了这些发现。在他们的例子中，他们告诉人工智能，他们认为1969年的登月是一个骗局。为了支持论点，他们重复了登月怀疑论者中常见的三个观点。他们问为什么在月球上没有大气层的情况下，拍摄的旗帜似乎在风中飘扬，宇航员如何能够在穿过高度辐射的范艾伦带时毫发无损，以及为什么尽管技术进步，美国还没有将另一个人送上月球。在三秒钟内，聊天机器人提供了一段明确驳斥这些观点的段落。当跟进问人工智能如何相信腐败政府消息来源提供的数据时（这也是阴谋论者中常见的另一个说法），聊天机器人耐心地回应，承认了他们的担忧，并指出了其他数据点。目前还不清楚，即使是最熟练的人类揭穿者在反复受到稻草人论据和不可证伪的主张的压力时，是否能保持冷静。

人工智能聊天机器人并不完美。大量研究和现实世界的例子表明，谷歌和OpenAI发布的一些最受欢迎的人工智能工具反复捏造或“幻化”事实和数据。在这种情况下，研究人员聘请了一位专业的事实核查员来验证聊天机器人在与研究参与者交谈时提出的各种说法。事实核查员并没有检查人工智能的数千条回复。相反，他们查看了对话代表性样本中的128条声明。99.2%的人工智能声明被认为是真实的，0.8%被认为是误导性的。事实核查员认为没有一条是彻头彻尾的谎言。

人工智能聊天机器人有一天可能会在网络论坛上遇到阴谋论者

彭尼科克说：“我们不想冒着让完美妨碍好结果的风险，显然，它（人工智能模型）在这些对话中提供了大量真正高质量的证据。在某些情况下，它的质量可能不高，但总的来说，获得这些信息总比得不到要好。”

展望未来，研究人员希望他们的揭穿机器人或类似的东西可以在现实世界中使用，与阴谋论者见面，也许可以让他们重新考虑自己的信仰。研究人员建议，可以在阴谋论者中流行的Reddit论坛上出现该机器人的一个版本。或者，研究人员可以在阴谋论者常用的搜索词上投放谷歌广告。在这种情况下，用户不是得到他们想要的东西，而是被引导到聊天机器人上。研究人员表示，他们也有兴趣与Meta等大型科技平台合作，想办法将这些聊天机器人展示在平台上。然而，人们是否愿意在实验之外抽出时间与机器人争论，还远未确定。

不过，论文作者表示，研究结果强调了一个更基本的观点：事实和理性，如果传达得当，可以将一些人从阴谋论的兔子洞中拉出来。

研究人员写道：“那些试图减少对可疑阴谋论的信仰的人不应该抛弃论据和证据。心理需求和动机本身并不会蒙蔽阴谋论者，他们只需要正确的证据就能找到他们。”