第35期解放书单|在数据迷雾中寻找真相

在《为什么信任科学：反智主义、怀疑论及文化多样性》一书中，内奥米·奥雷斯克斯回答了“我们为什么要信任科学？在什么情况下以及在多大程度上，应该信任科学？”等问题，她主张，科学知识是“基本共识”，其可信性源于科学共同体通过同行评审、可重复实验和集体纠错机制达成的结论。

但是在《不被信任的科学：大数据、人工智能与信息欺骗》一书中，加里·史密斯却提出了一些更值得我们深思的问题：在科技高度发展的时代，公众为何对科学失去信任？大数据与人工智能如何加剧了信息混乱与认知危机？本书并非否定科学本身，而是深入剖析数智时代科学所面临的信任危机，揭示虚假信息、数据歪曲与数据挖掘如何侵蚀科学权威，并通过讲故事与讲道理的结合，揭示“科学失信”的深层根源，提出建设性反思。

在引言部分，史密斯开门见山地指出，目前科学正面临攻击，而且科学家的信誉正在受到损害，这种攻击主要有三个方面：虚假信息、数据歪曲和数据挖掘。然而颇具讽刺意味的是，这些攻击工具恰恰源自科学家自身的创造，“科学家发明的互联网传播了虚假的信息，科学家对实证证据的坚持催生了数据歪曲，科学家创造的大数据和性能强大的计算机推动了数据挖掘的出现”。这一悖论构成全书的核心关切：技术本为求真而生，却反被用于制造迷惑与操控。当科学的方法与工具被滥用或误解时，科学的权威反而成为被攻击的目标。

纵览全书，我们可以从四个层面理解作者对当代科学信任危机的剖析。

第一是科学权威在后真相时代有所“衰落”。科学曾被视为启蒙运动以来最可靠的真理来源，其方法论强调可重复性、实证验证与逻辑推理，公众对其信任也是基于这个原因。然而，进入21世纪后，科学的权威正面临前所未有的挑战。气候变化否认、疫苗犹豫、阴谋论泛滥等现象表明，情感、身份认同和政治立场已逐渐取代证据在公共讨论中的地位。

作者认为，这种“后真相”文化的兴起，不仅源于信息过载和社交媒体的碎片化传播，更深层的原因在于科学体制本身的封闭性与精英化倾向——当科学家被视为脱离大众利益的“专家集团”，其话语便容易被质疑为服务于权力或资本。此外，科学自身的发展也揭示了其不确定性，例如模型预测的误差、研究结果的不可复现等问题被误读为“科学不可靠”的证据。公众难以区分“科学过程中的正常修正”与“系统性错误”，从而动摇整体信任。

第二是对大数据的盲目崇拜掩盖了表面客观背后的偏见与操控。在数据驱动的时代，对“大数据”的过度依赖会赋予其一种虚假的客观性和中立性，似乎海量数据必然通向真相。然而，数据从来不是“纯粹”的——它的采集方式、定义标准、存储结构和分析框架都深深嵌入社会权力关系之中。

所谓“数据驱动决策”的神话掩盖了其背后的价值预设与利益动机，使公众误以为技术判断是公正无私的，从而放松警惕，加剧了信息不对称与控制风险。

第三是自动化决策会误导公众信任。人工智能系统日益介入关键社会决策领域会带来对科学的信任危机。作者指出，尽管AI被广泛应用于医疗诊断、信贷审批、司法量刑和招聘筛选等领域，但其决策过程往往缺乏透明度，形成所谓的“黑箱”。

由于深度学习模型的复杂性，即便是开发者也难以完全清楚其输出逻辑。个体无法理解自己为何被拒绝贷款或标记为高风险人群。这种不可解释性不仅剥夺了申诉权利，也模糊了责任归属：当错误发生时，是算法、数据，还是部署机构该负责？

更危险的是，公众可能因AI披着“高科技”外衣而误以为其决策必然准确公正，从而被动接受不公结果，形成“自动化偏见”。这种偏见正在悄然重塑人们对公平与正义的理解。若不建立有效的算法审计机制、强制披露义务与第三方监督制度，AI不仅不会提升效率与公正，反而可能成为制度性歧视的新载体，进一步侵蚀人们对科学与技术的信任基础。

第四是算法推荐、虚假信息与认知极化可能导致信息生态的崩溃。本书深入剖析了当代信息传播系统的结构性失灵。在传统媒体式微、社交平台主导舆论的今天，算法推荐机制成为人们获取信息的主要渠道。然而，这些算法以用户停留时间与互动率为优化目标，倾向于推送情绪化、极端化和确认偏见的内容，导致“信息茧房”与“回音室效应”普遍化。

正如研究者所言：“算法即重构，程序即政治。”信任的侵蚀不仅存在于人机之间，人与人之间的传统信任关系也因算法驱动而陷入衰退。这种机制为虚假信息和阴谋论提供了温床——一则耸人听闻的谣言可能比一项严谨的科学研究获得高出百倍的关注量。

面对全面危机，史密斯强调，信任不能靠宣传或权威压制来恢复，而必须建立在制度化的透明、问责与包容性参与之上。作者认为科学不再被视为绝对权威，部分源于技术系统本身的不透明与误用；大数据和AI虽标榜“客观”，实则嵌入人类偏见与制度漏洞；信息欺骗不仅来自恶意行为者，也源于系统设计缺陷与激励机制扭曲。

虽然本书主标题为《不被信任的科学》，但其最终目的并非批判科学，而是揭示在数智时代，科学如何因自身创造的技术被滥用而陷入信任危机。作者深刻洞察到，在技术日益主导生活的今天，重拾对科学的信任，不在于盲目崇拜，而在于建立一个更负责任、更透明的知识生产体系。

这本书正是对这一时代命题的深刻回应。它提醒我们：在数据迷雾中寻找真相，不仅需要更好的技术，更需要更强的伦理自觉、更广的公众参与，以及对科学本质的持续追问。唯有如此，我们才可能重塑公众对科学的信任。（作者系中国科普研究所研究员）

《不被信任的科学：大数据、人工智能与信息欺骗》

加里·史密斯 著

孙强 译

上海科技教育出版社

原标题：《第35期解放书单|在数据迷雾中寻找真相》

栏目主编：王一

文字编辑：王一

本文作者：王大鹏

题图来源：新华社