【人工智能】从实验室到账本：人类钥匙保障科学诚信 | 观点

人工智能发展速度超越监管范围，对数据、身份和声誉验证构成风险。如果不加以控制，可能会加剧虚假信息的泛滥，并减缓科学创新的进程。迈向超级人工智能的步伐，被其最狂热的领导者们描绘成迈向科学黄金时代的动力。然而，这种动力也增加了我们社会陷入技术退化平台期的生存风险，即不成熟的人工智能技术的大规模应用会限制甚至逐渐削弱人类的创造力和创新能力。

这与大多数加速论者的观点相矛盾。人工智能本应提高我们更快地完成工作和综合更多信息的能力。然而，人工智能无法取代归纳推理或实验过程。如今，任何人都可以使用人工智能提出科学假设，并将其作为输入生成科学论文。像Aithor这样的产品的结果通常表面上看起来很权威，甚至可以通过同行评审。这是一个大问题，因为人工智能生成的文本已经被整理成合法的科学发现，并且通常包含虚假的伪造数据来支持其主张。年轻研究人员有很大的动机去利用他们可以利用的一切手段来竞争有限的学术工作和资金机会。学术界目前的激励制度奖励那些能够发表最多论文的人，无论这些论文是否描述了合理的发现——他们只需要通过同行评审并获得足够的引用。

未经核实作者身份的学术内容也将对依赖基础科学驱动研发的行业构成重大问题，而基础科学的研发正是维持社会运转、保障全球不断增长人口生活质量的关键。因此，资金充足的研发机构只能信任其自身能够进行和复制的研究，这不仅增加了商业机密的价值，也对开放科学和获取有意义信息的渠道造成了毁灭性的打击。

昂贵的复制工作本身可以解决虚假信息问题，然而，问题远不止于此。如今，我们正面临着对知识基础信任的侵蚀，无法证实的主张和模棱两可的归因正在破坏科学进步，对科学界构成威胁。我们迫切需要建立一个基于事实的经济体系，以可靠地验证内容和数据的真实性。

AI系统的强大程度取决于其训练数据

大型语言模型是生成令人信服内容的绝佳工具；然而，它们的信息量取决于训练它们的数据。它们在训练集之外进行推断的能力仍然有限。科学的作用不仅在于综合现有知识，更在于创造新的信息成果，从而增加人类积累的知识集体语料库的熵。随着时间的推移，越来越多的人使用人工智能生成内容，而越来越少的人生成原创内容，我们将面临一种“低熵膨胀”，它不会向世界引入新信息，而只是重新组合过去的知识。除非我们在用于严肃研究的人工智能工具中构建一个有弹性的出处和经过验证的归因层，否则主要来源将会丢失，因为新的“知识”基于自指的人工智能生成的内容。

这种对人类集体智力深度的“脑叶切除”将对医学、经济和学术研究以及艺术和创意追求产生持久影响。未经验证的数据可能会影响研究，扭曲结果，并导致重大政策或技术失误，从而削弱科学研究的权威性。人工智能生成的“科学”风险重重。常规科学的日常运作将因作者身份争议、抄袭指控和同行评审受损而停滞不前。我们需要投入更多时间和精力来应对科研质量和准确性 下降带来的诸多后果。

人工智能是激发创意、构建思维和自动化重复性任务的有力工具；它必须始终是对人类创作内容的补充，而非替代。它不应被用来撰写那些无需实际操作就能提出原创性发现的科学论文，而应作为辅助手段，提升人类主导工作的效率和准确性。例如，人工智能可以帮助我们利用已知方法对现有数据进行模拟，并自动化这项工作，从而发现新的研究方向。然而，科学探究所需的实验方案和人类的创造力是无法轻易取代的。

建立基于事实的经济

基于事实的经济建立了一个包含系统和标准的框架，以确保信息和数据的真实性、完整性、透明度和可追溯性。它满足了在技术社会中建立信任和可验证性的需求，使个人和组织能够信赖共享知识的准确性。价值根植于主张的真实性、观察结果和主要来源的真实性。基于事实的经济将使数字知识变得“硬”，就像比特币使法定货币变得“硬”。这正是去中心化科学运动的承诺。

我们如何实现这一目标？我们需要从科学界最重要的元素——个体研究人员及其工作入手。目前，科学身份的网络标准不足以验证身份声明和工作证明。现行做法使得伪造一份声誉尚可的个人资料变得非常容易；由于偏见和串通，同行评审也面临风险。如果不验证科学声明所附带的元数据，就无法建立基于真相的科学经济。

学术身份标准的改进可以从一个简单的跨平台登录开始，该登录由保护隐私的身份验证技术提供支持。用户应该能够使用其凭证登录任何网站，证明其真实性，并选择性地披露有关其声誉、数据或其他代理或用户的信息。

植根于可验证研究人员声誉的身份层是 DeSci 的基础。完整的链上科学经济将允许公众匿名参与大规模在线科研活动协调。研究实验室和去中心化自治组织可以创建无需许可的系统和赏金计划，从而防止虚假声誉或身份声明的利用。基于身份声明的区块链通用科学注册表将为旨在积累可验证科学知识和检验可证伪假设的自治组织提供参考框架。

守护人类进步的未来

我们需要通过信息透明和严格验证来奠定真理的基础，以避免专家研究领域内部信任的崩塌。我们共同的进步能否持续数百年，能否在材料科学、生物技术、神经科学和复杂性科学领域开启一场又一场的科学革命，将取决于高质量研究和可靠数据的管理。这将是未来社会与我们如今一样先进的区别，与启蒙运动之前的社会截然不同。否则，我们只能预料，这已经是我们作为一个物种所能达到的极限，而我们只会变得越来越笨。DeSci 能否拯救我们尚不清楚，但让我们把事情做好的时间已经有限。

免责声明：

本文所发布的内容和图片旨在传播行业信息，版权归原作者所有，非商业用途。 如有侵权，请与我们联系。 所有信息仅供参考和分享，不构成任何投资建议。投资者应基于自身判断和谨慎评估做出决策。 投资有风险，入市需谨慎。

关注我们，一起探索AWM！

2025-05-28

2025-05-26

2025-05-24