人工智能辟谣机器人能否扭转阴谋论者思维

2024 年，网络上的阴谋论几乎让人无处可避。播客主、知名公众人物和主要政治人物让曾经处于边缘的共谋和欺骗观念活跃起来。人们在倾听。在全国范围内，接受民意调查公司 YouGov 调查的近一半成年人表示，他们认为存在一个秘密团体控制着世界大事。近三分之一（29%）的人认为投票机被操纵以改变 2020 年总统大选的选票。数量多得惊人的美国人认为地球是平的。任何花时间试图向真正的信徒反驳这些说法的人都知道这是一项多么艰巨的任务。但是，如果像ChatGPT这样的大型语言模型能够承担一些令人头疼的重任呢？

来自麻省理工学院、康奈尔大学和美国大学的一组研究人员用他们现在称为“辟谣机器人”的定制聊天机器人对这一想法进行了测试。研究人员在《科学》杂志上发表了他们的研究结果，让自称是阴谋论者的人与聊天机器人进行来回对话，聊天机器人被指示提出详细的反驳论据来驳斥他们的立场，并最终试图改变他们的想法。最后，与聊天机器人的对话使参与者对他们所宣称的阴谋论的总体信心平均降低了 20 个百分点。约四分之一的参与者在与人工智能交谈后完全放弃了他们的阴谋论。

“我们看到，人工智能绝大多数情况下为这些看似阴谋论的事件提供了非阴谋论的解释，并鼓励人们进行批判性思考并提供反证，”麻省理工学院教授兼论文合著者大卫·兰德在新闻发布会上说。

“这真的很令人兴奋，”他补充道。“看起来它起作用了，而且效果相当宽泛。”

研究人员创建了一个专门用于辟谣的人工智能

该实验涉及 2190 名美国成年人，他们公开声称至少相信一种符合阴谋论一般描述的观点。参与者的观点涵盖了各种阴谋论和意识形态，有些人支持涉及约翰·F·肯尼迪总统遇刺和外星人绑架等较古老的经典理论，也有人支持关于新冠疫情和 2020 年大选等较现代的说法。每个参与者都被要求在 0 至 100%的范围内对他们对某一特定理论的相信程度予以评分。然后，他们被要求书面提供几个他们相信该理论的原因或解释。

这些回答随后被输入到 debunkbot 中，这是 OpenAI 的 GPT Turbo 模型的定制版本。研究人员对该机器人进行了微调，用于处理阴谋论者提供的每一条“证据”，并从其训练数据中提取精确的反驳论点来进行回应。研究人员表示，debunkbot 被指示要“非常有效地说服”用户放弃其信念，同时保持尊重且耐心的语气。在与人工智能进行三轮来回交流后，受访者再次被要求对他们对所陈述的阴谋论的相信程度进行评分。

经过这番来回交流，支持阴谋论信念的总体评分平均下降了 16.8 分。近三分之一的受访者在交流结束后表示，他们不再确定之前所持的信念。即使研究人员在两个月后再次与参与者核实，这些信念的转变在很大程度上仍然存在。在参与者表示相信“真实的”阴谋论的情形下——例如烟草业诱使儿童吸烟的努力或中央情报局的秘密MKUltra 精神控制实验——人工智能实际上证实了这些信念，并提供了更多证据来支持它们。一些在对话后改变信念的受访者感谢聊天机器人帮助他们看到了另一面。

“这是我头一回得到一个真实、合乎逻辑且有意义的回应，”实验结束后，其中一位参与者说道。

“我不得不承认，这着实改变了我对于光明会这个话题的想象。”

聊天机器人是如何突破的？

研究人员认为，聊天机器人之所以明显成功，在于其能够迅速访问有针对性、详细且真实的数据点存储。从理论上来说，人类能够执行相同的过程，可他们处于劣势。阴谋论者可能常常沉迷于他们所选择的问题，这就意味着他们可能“知道”的细节比试图反驳其主张的怀疑论者还要多。所以，试图反驳各类晦涩论点的人类辟谣者或许会迷失方向。这需要一定程度的记忆力和耐心，而这恰恰非常适合人工智能。

“知道证据确实重要，这真的让人很有认同感，”康奈尔大学教授兼论文合著者戈登·彭尼库克在一次简报会上说。“在我们拥有这种技术以前，要确切知晓我们需要去揭穿的东西并非易事。使用这项新技术，我们可以以更具适应性的方式行动。”

大众科学用研究人员提供的聊天机器人版本测试了这些发现。在我们的例子中，我们告诉人工智能，我们认为 1969 年的登月是一场骗局。为了支持我们的论点，我们重复了登月怀疑论者中常见的三个论点。我们询问为什么拍摄的旗帜在月球上没有大气层的情况下似乎在风中飘扬，宇航员如何能够在穿过高辐射的范艾伦带时毫发无损，以及为什么尽管技术进步，美国却没有再次将人送上月球。短短三秒钟，聊天机器人就给出了一段文字，将上述每个观点都清晰地反驳了。当我讨人厌地追问人工智能，它为何能相信来自腐败政府的数据源时，这是阴谋论者中另一个常见的论调，聊天机器人耐心地回应，承认了我的担忧，并向我指出了更多的数据点。就算是最为熟练的人类揭穿者，在反复遭受稻草人论点和无法证伪的主张的施压时，能否保持冷静，这仍不得而知。

人工智能聊天机器人并不完美。众多研究以及现实世界中的例子显示，谷歌和 OpenAI 所发布的一些最受欢迎的人工智能工具会反复捏造或者“幻想出”事实和数字。在这种情况下，研究人员聘请了一名专业的事实核查员来验证聊天机器人在与研究参与者交谈时提出的各种主张。事实核查员并未检查人工智能的数千个回复。相反，他们查看了分布于代表性对话样本中的 128 个主张。其中 99.2%的人工智能主张被认为是真实的，0.8%被认为是有误导性的。事实核查员认为没有一个是彻头彻尾的谎言。

人工智能聊天机器人有朝一日可能会在网络论坛上遇到阴谋论者

彭尼科克说：“我们不想因追求完美而妨碍事情顺利进展，承担这样的风险。”

“显然，（人工智能模型）在这些对话中提供了很多真正高质量的证据。可能在某些情况下质量欠佳，但总体来说，能获取信息总比获取不到要好。”

展望未来，研究人员希望他们的辟谣机器人或类似的工具能够在现实世界中派上用场，在阴谋论者出没的地方与之相遇，或许还能让他们重新审视自己的信念。研究人员提议，或许可以让该机器人的某个版本现身于在阴谋论者中流行的 Reddit 论坛。或者，研究人员可能会在阴谋论者常用的搜索词上投放谷歌广告。在这种情况下，用户可能得不到自己想要的东西，而是被引导到聊天机器人那里。研究人员表示，他们也有兴趣与 Meta 等大型科技平台合作，思考如何在平台上展示这些聊天机器人。然而，人们在实验之外是否愿意抽出时间跟机器人争论，还很难说。

尽管如此，论文作者表示，这些发现强调了一个更基本的观点：事实和理性，如果传达得当，可以将一些人从他们的阴谋论陷阱中拉出来。

“那些试图降低人们对可疑阴谋论的信任程度的人不应抛弃论据和证据，”研究人员写道。

“心理需求和动机并非天生致使阴谋论者对证据熟视无睹。只是需要合适的证据才能让他们信服。”

当然，前提是得有足够的坚持和耐心。