刘永谋：拜AI教徒们，热潮正褪去，小心泳裤被卷走 | 读书

*中国人民大学吴玉章 讲席教授刘永谋首发于微信公众号，保留一切知识产权，侵犯必究。

2024年初，我在《科学.经济.社会》上组织专栏，讨论“AI发展现状反思”，彼时大家就感觉这波AI热潮吹得有些过头了。专栏中我们的文章题目是：《警惕AI热潮中的娱乐化趋势》，指出当前AI发展主要是AI产业界主导，通过AI宣传术各种AI觉醒类话题吸引投资，误导公众和政府对AI发展的看法。

之后一年半，这种感觉越来越强烈。一个重要的现象是：AI圈子不断炒作新概念，然后没有下文，就又搞一个新概念。先是热议对齐，各个都要AI向善。再说通用智能，号称立马要突破。再是具身智能，机器人似乎很快就要上岗。最后是超级智能，鼓吹AI正在超越人类。

去年还没有实现通用AI，今年就有人宣布超级AI已经实现了，还评出通用AI十大概念股，在股市上圈钱。面对这样的狂热，稍微有点脑子的人都会想：这里面水很深，小心被割韭菜。历史经验告诉我们：吹得越是疯，泡沫就越是到了要破裂的时候。

不信你回忆一下三年前“元宇宙热”，吹到“人类的归宿是元宇宙”的时候，有人已经在偷偷卷钱下船了。我们写了本《元宇宙陷阱》，书刚印出来热潮就褪去了，根本来不及提醒大家。

这一波以统计学和机器学习为突破的AI热潮，原理很清楚，能做什么并没有那么难以搞清楚。本质上，AI仍然是计算机技术和网络技术的进一步深化发展，智能革命仍然是信息革命的深化阶段。

然而，这个领域的专家特别擅长吹牛，特别会搞宣传。这一点20世纪90年代就有人指出过。今天更是如此，正如有人说的：今天的大科学家，首先是个大文学家、大科幻作家。画一张很大的饼，说要干很大的事，以此向上面要大钱。整个社会被他们忽悠得一愣一愣的，实际上他们多数就是掉到钱眼里了。

举个例子，李飞飞说：AI是文明级别技术。什么是文明级别的技术呢？史前文明的石器技术，农业文明的种植技术，工业文明的机器技术，信息文明的计算机技术，这些算文明技术即一种文明的标志性技术。信息文明得到承认，但AI文明没有，因为多数人认为AI文明仍然是信息文明，没有什么本质区别。但是，李飞飞这么说也不是完全没有道理，大家可以探讨。

《超智能与未来》（Hyperintelligence）一书的观点更加爆裂：AI是宇宙进化级别的技术，和宇宙大爆炸后原子出现、生命出现是一个层次上的。未来呢，宇宙走向自主机器人文明、AI殖民宇宙——这才是AI真正的高度。故而，我将这本书归为“拜AI教”一类。

从根本上说，这是一本普及类自然史著作。自然史从宇宙大爆炸开始写，把人类史看作其中一部分，还可以一直想前幻想。此类著作简单地说，就是某种科学的宇宙图景。但是，科学会不断发展，这种宇宙图景并非定论，而且某些问题如人类的道德起源，科学上也存在争论。可是，这类书的作者往往不了解科学的假说性的一面，把科学当作绝对真理崇拜得不得了，直追宗教信徒。

《超智能与未来》认为，宇宙像是巨大的实验室，做的是增加智慧和复杂性的实验。所以，宇宙进程就是智慧不断爆炸、复杂性不断爆发的历史。以前，“智慧”被认为只有人和神有，这本书认为动物有智慧、生命都有智慧甚至宇宙也有智慧。这是典型的自然神论或泛神论，这也与宗教有关——不冤枉说它是拜AI教。

关键的是它归纳的复杂性进化节点依次是：宇宙大爆炸，各种亚原子粒子的形成，最初4种原子（氢氦锂铍）形成，更重的原子形成，活细胞形成，细胞器和多细胞生命形成，生物地球化学循环形成并改造地球，意识和探索性智能形成，技术与文明的形成，计算机与电信的启动，AI集群智能，基于计算机的集体超智能，自主机器人集群/物理DAO，自主机器人文明，宇宙殖民，AI引爆新宇宙……显然，《超智能与未来》将AI定位到宇宙级技术了，人类出现都没有排上这个级别。人类出现属于“意识和探索性智能形成”这个复杂性层级上，但该书认为很多生命形式都有意识和探索性智能，只是多少不同而已。

简而言之，AI出现比人类出现更重要。你说这是不是拜AI教呢？接下来，《超智能与未来》畅想超级AI如何解决气候变化问题、如何让人类永生以及机器人如何征服宇宙、让整个宇宙充满超级智能。就是只字不提：超级AI如此宇宙级别了，为何要让人类永生而不是灭绝了事呢？

幸好这本书是丹麦一家智库的作品，这家公司名为未来预测公司。该公司的创始人喊了个AI公司的技术专家和一个管理咨询公司的人，一块攒了这本书。而且，丹麦有什么AI啊，中美是第一梯队。《超智能与未来》吹牛是肯定的，不用太当真。但是，这本书确实很好地说明目前AI圈子的宣传口径。

牛吹到这份上——宇宙级别的份上——让人担心泡沫明天就会爆裂。

不希望如此，因为这3年集中在做AI研究（AI studies）。不过，我们不是因为火而研究AI的。二十多年前，就开始研究网络伦理、网络文化、虚拟实在，后来一直物联网、大数据、云计算、元宇宙、区块链这样追踪着，也算是见惯炒作和穿帮。

最近不断问身边研究AI的同仁们：你们觉得AI还能火多久？要爆早点爆，爆了大家安安心心技术上搞点突破。AI历史上起起落落，成也炒作，败也炒作。

拜AI教徒们，热潮正褪去，小心泳裤别被卷走！

中信出版社这次给我三本书看，另外一本与《超智能与未来》立场完全相反，中文书名是《AI万金油：商业幻想与科技狂潮》。实际上，这本书英文书名是“AI Snake Oil”，什么是Snake Oil？就是跑江湖卖的大力丸之类，在英语中叫Snake Oil。江湖药，吃不死人，也治不了病，就是骗骗钱而已。

明天我看看Snake Oil。两本书都找来，对照着读读挺好。