刘永谋：超级智能是目前AI能力被高估的标志性术语

*中国人民大学吴玉章 讲席教授刘永谋首发于微信公众号，保留一切知识产权，侵犯必究。

继续推进超级AI的研究，它是下半年我研究的一个重点。为此，我在《阅江学刊》组织名为“超级智能与未来人类的跨学科审度”专栏笔谈，并在11月9日组织在人大召开“超级智能与未来人类”学术研讨会。

笔谈主要情形如下：

——笔谈主持人：

刘永谋（中国人民大学吴玉章讲席教授）

——笔谈参与人：

刘永谋（中国人民大学哲学院教授）

龚新奇（中国人民大学数学学院教授）

邱德钧（兰州大学哲学社会学院教授）

段伟文（中国社会科学院人工智能文化促进中心研究员）

杨庆峰（复旦大学科技伦理与人类未来研究院教授）

闫宏秀（上海交通大学马克思主义学院教授）

刘 伟（北京邮电大学人工智能学院特聘研究员）

车 琳（中国传媒大学戏剧影视学院副教授）

顾 超（北京大学政府管理学院助理教授）

笔谈内容：

AI

研究（

AI studies

）领域，

超级智能

近来成为热议话题。

7

25

2025

世界人工智能大会（

WAIC

）上，诺贝尔奖物理学奖得主辛顿（

Geoffrey Hinton

）认为超级智能很快会出现，呼吁关注超级智能的全球治理问题。何为超级智能？超级智能与人类智能是什么关系？超级智能出现，将会对当代社会产生何种冲击，导致何种技术风险和技术伦理问题，又应该如何应对？本次笔谈聚焦

超级智能与未来人类的跨学科审度

，从哲学、马克思主义理论、人工智能、艺术和国际关系等视角对超级智能进行研究，抛砖引玉，以期推动该领域研究的进一步发展。

感谢诸位大佬的支持！

对于超级AI（我认为超级智能与之等同）的态度，可以分为保守、激进和温和三种，我应该是典型的保守派，因为我坚持有限AI的基本立场。庆峰属于激进派，由此他说超级AI可能已经实现了，只是没有被发现。

我多次说过，我的基本困惑是：我们为什么要搞超级AI呢？常见理由如下：第一，很多人很懵懂、糊里糊涂，根本没有想这个问题，就是跟着“AI宣传术”走的。按照宣传，专业AI、通用AI、强AI到超级AI的发展顺理成章，很“丝滑”，为什么不搞呢？第二，超级AI可以解决现在大家解决无望的复杂性全球问题，如气候变化、核大战阴影。这里逻辑是：之所以它们解决不了，因为人类太蠢。第三，我称之为“超级智能恐怖”，即敌国搞成超级智能，咱们就完犊子了，所以不仅要搞，还要大干快上。最近，兰德公司几个“二百五”提出一个MAIM的想法，简单意思就是估计敌国可能搞出超级智能就直接不惜代价打击。我感觉这是嗑药之后的想法。还有一些其他的支持理由，对此，艾志强与我合作的新论文中将一一驳斥，以维护我的有限AI理论。

不过，“超级智能恐怖”的想法倒是启发我想分析一下，也许就是在此次笔谈中，超级智能威慑与核威慑之间的类比问题。众所周知，核威慑是大家有核武器，但大家都不敢用，谁用大家都完蛋。超级智能可以起到类似威慑效果吗？其实，当年爱因斯坦要是知道结果是啥，就不会建议搞原子弹了。如果超级智能无敌，我觉得我们应该避免当年爱因斯坦的遗憾，即反对超级智能研发路径——这就是我的立场，虽然我觉得超级AI完全没有影子。

很多人已经开始觉得，此次大模型激发的“AI热”已经开始黔驴技穷了。我以为，基本原理没有什么突破，大模型在应用上有些作用，但绝不似AI宣传术说得多么夸张。人文社科研究说的夸张，我说过，主要是作为一种批判法。包括AI4S、AI4SS在内，目前AI的革新力量非常有限。

为此，我问过不少人，大家普遍觉得热十年没问题。我没有这么乐观，见过互联网泡沫、物联网热、元宇宙热，估计两三年AI还行，再往后难说了。不过，火个三年就很不错了，我差不多也要准备退休了。当AI+被高举出来的时候，AI发展这一波就差不多这样了，下面的工作主要是“+”。

我已经批评过AI发展的娱乐化，最近这一点表现非常明显。各种大会、上春晚，还有机器人马拉松、拳击，再玩就是AI上综艺、吐槽大会了。一窝蜂式的运动式发展有多大作用？肯定还是有的，但想根本性颠覆式发展很难。

还有一个很热的词：AI智能体（AI agent），明年我会组织大家研究一下。我的疑问是：有幻觉的东西，你怎么能让它代理呢？有人提出与agentic AI相对的scientist AI的概念，我非常赞同，与我说的有限AI相契合。科学家AI与代理者AI不同，它的目标不是执行或行动，而是如科学家一般研究世界。遇到问题，科学家AI会给你分析你可以如何，以及你如何会如何，但是它不会做你的代理帮你做事，真正做事还得靠你来决定。

总之，在超级智能热议中，我发现太多的无意识和非理性。接下来，还要继续深入研究。