刘永谋：AI能成为自动知识生产机器吗？AI4S哲学反思的主要问题

*中国人民大学吴玉章 讲席教授 刘永谋首发于微信公众号，保留一切知识产权，侵犯必究。

王东著：人工智能与科学发现：一种哲学探索，北京：知识产权出版社，

超级AI之后，我们研究最重要的问题是AI4S/AI4SS的哲学反思。在我看来，AI4S中的科学（S）应该包括社会科学（SS）。该项研究最重要的问题，或者最当先的问题，无疑是AI4S哲学反思究竟应该反思什么问题。

要回答该问题，就应该对AI4S出现的背景以及目前进展、未来预测等智能技术相关问题有非常充分的了解。一定要记住：科学新实践催生我们要思考的问题，而不是某种理论癖好如科学哲学新进展指导我们的反思。

我之所以这么说，是读完王东《人工智能与科学发现：一种哲学探索》的感触。王东是我的师弟，他的这本书是国内最早AI4S方面的原创性著作。这本书总结了AI4S领域的新进展，也尝试从哲学层面做了一些反思，在国内多少有些开创的味道。

但是，这本书的哲学分析部分，明显是从科学哲学理论发展的角度思考AI科研——AI用于科学研究活动的产物——的进路，因而大量内容是对科学哲学新进展的介绍，与AI4S的实际结合不紧密。正确的思路是找寻在目前AI科研实践中大家最关心的问题，然后用哲学的方法进行反思，所用的理论资源不一定是科学哲学，也可以是其他的哲学资源。

总的来说，AI科研哲学反思的核心问题是：AI在科学研究领域的应用，对科研活动会产生何种冲击？这里面的冲击，不仅包括认识论、方法论的冲击，也包括伦理学、社会学的冲击。

王东主要归纳的是认识论和方法论方面的讨论。主要包括：1）目前AI用于科研深入到科学发现的什么层次？2）是否存在科研的第五范式？3）目前AI能不能自动进行科学发现？4）生成式AI的可解释性问题，即生成式AI生成过程是否真的是黑箱。

从更广泛地AI科研哲学反思的角度，还有许多问题值得研究。

比如，一个重要的问题是：AI科研替代问题，即AI大量应用于科研活动，会让很多人失业。在科研活动中，大量的工作是重复性、机械性的，这就是所谓“科研民工”做的事情。AI替代科研民工会到什么程度，而这种替代会如何改变整个科学建制。

比如，AI科研成果的所有权和版权问题。在目前这种知识产权制度下，如何保证AI生成知识能开源和共享，毕竟目前生成式AI主要控制在AI企业手上。

比如，AI知识的根本性质问题，或者说它算不算知识呢？古老的泰阿泰德问题区分知识与意见，说的都是主体知识、人的知识。AI知识是不是无主体知识，无主体知识究竟是什么？我的意见是，它与主体一起作为知识发现者，而不是独立主体。

比如，AI4SS的科学性和限度问题。以前一直说社会科学知识不靠谱，现在用AI就靠谱了吗？AI4SS实际是新一波社会科学自然科学化，方法是借助新工具的自然科学化。这样生产的新知识真的有如自然科学知识一般的客观性吗？我们应该奉之为金科玉律，运用于当代技治社会之中吗？

再比如，AI用于科研是否有限度，还是说能用尽用呢？AI知识是相关性知识，与之前的因果性知识有什么关系？我们怀疑是否存在绝对客观中立的实验，怀疑观察渗透理论，那是否存在客观中立的数据，AI生成知识之基础的数据是否有某种前见？在科学中只有第一没有第二，所有才有优先权之争，AI再发现的意义何在。再发现与新发现是对称的吗？

要注意：这些问题的讨论，是以目前AI发展状况得出的结论，能基于可见展望进行前瞻很不容易。

我想这里面有很多有意思的问题。在接下来的阅读中，应该会有更多问题产生，然后总结归纳分类，可以形成AI科研哲学的大致轮廓。

以下把《人工智能与科学发现：一种哲学探索》的内容录于其后。这本书最重要的是比较全面地介绍了当前AI4S的进展。

王东著：人工智能与科学发现：一种哲学探索，北京：知识产权出版社，

1

部分

机器学习与科学发现的层级

1

智能驱动的科学发现

介绍一下

AI4S

现状，主要包括在天文学、宇宙学、物理学、生物学与医学、数学领域的科学新发现，以及在基于

AI

的科学再发现工作，即用

AI

尤其是极其学习技术自动再发现已有的科学概念、再提出已有的科学公式。

40

但是从目前的情况看，说人工智能能够部分替代人类科学家，或者能够发现重要的科学知识还为时尚早。从人工智能参与科学新发现的情况来看，目前的发现主要还是集中于对新“现象”的发现，或者在已知某个领域基础知识和变量的前提下，对某些具体现象的经验规律和模式的找寻，也就是给某些特定现象建模。

2

机器学习

机器学习的科普介绍

提及

AI

的可解释性问题。

3

人工智能与科学发现的层级

讨论不同层级和种类的科学发现活动中，

AI

能起到什么作用。

4

数据与智能驱动科学发现相关的争论

第一，是否存在科研的第五范式？即从数据密集型科学研究

数据驱动型科学研究范式进化到智能驱动科学研究范式。格瑞提出四种范式理论：经验科学范式，理论科学范式，计算科学范式，计算驱动科学范式。现在有没有第五种新范式？有本译本《第四范式：数据密集型科学发现》。

第二，

AI

能不能自动进行科学发现，不需要人类科学家了？

2

部分

机器学习与科学发现的关系

专门分析一下机器学习即这一波生成式

AI

或大模型在科学发现中的作用。

5

科学理论的结构和内容

科学哲学的认知进路

VS

科学哲学的具身智能

这一章没有什么

AI

，主要是科学哲学新进展

6

科学与数学认知

数学哲学新进展

7

机器学习与科学发现过程

这一章才切入

AI

，讨论了机器学习与发现逻辑、认知同构理论。

3

部分

案例研究

8

语言模型与科学发现

9

科学史案例建模研究