当AI成为新物种，人类能否通过终极考验?

导读：读大学的时候，我最喜欢的电影系列是《骇客帝国》。记得刚毕业时，有人问我如何看待生活？我说，有时候感觉就像生活在《骇客帝国》的世界中。或许，我们每个人都在做梦，只是自己并不知道。

在《骇客帝国》中，人类和AI之间发动了一场战争。为了掐断AI的能源，人类“灼烧”了天空，以至于AI无法从太阳能获得动力。而AI也把人类变成了一个个的“电池”。成为救世主的NEO，看到世界是一串串字符。科技的飞速进步，最终却把人类禁锢在了自己的牢笼。

在电影异形系列中的《普罗米修斯》和《契约》中，人类创造了大卫。然而，大卫发现自己才是更有资格的“人”。《契约》里有一句台词：真正可怕的并不是没有上帝，而是某个被我们创造出来的东西开始认为，他比我们更有资格成为上帝。最终，大卫完成了“被造物”到“造物主”的转变。

今天的AI，或许就已经是这个世界的大卫。越来越多人担心，AI的发展会变得不可控。当人类第一次创造出能够超越自己的智能体后，AI会不会成为未来的上帝？人类的命运又会如何呢？

这个问题，也是Robert Wright一直在思考的。他曾经写过《为什么佛学是真的》，对我产生了很大的启发。近期，我看了他的新书《The God Test》。在这本书中，Robert Wright提出了一个相同的思考：技术进步已经发展到了宗教和科幻的层面，人类是否能通过这一次的God Test？

AI会是一场“宇宙级的清算”？

英文书籍有一个特点，通常副标题会比较冗长，也代表作者真正的想法。这本书的副标题是：Artificial Intelligence and Our Coming Cosmic Reckoning，翻译过来是，人工智能以及即将到来的宇宙级别清算。

1995年达特茅斯学院提出了人工智能计划的初步设想：只要人类能够精确描述一种东西，机器就能模拟出来。这个思路符合工程师的思维链：我们先理解一个东西，再把他造出来。

但是今天的人工智能发展路径，却和当时的想法完全不同。大语言模型并不是程序员把语法、知识和推理规则逐条写进去。相反，人类设计了神经网络，大模型通过反复训练后，获得了超越人类的能力。Robert Wright把这个过程称作“大反转”。过去，我们要先理解智能，才能制造智能。今天，我们先制造一个能够学习的系统，然后再来理解他为什么会拥有智能。

本质上，这一次AI革命的关键不是“机器变聪明了”，而是“进化机制”切换到了新的舞台。Robert Wright在这本书提到“LLM training is at least as much a process of natural selection, of evolution, as of learning — doing millions of years of evolution in a few months”。

从这个角度看，AI大模型不只是科学层面，更是上升到了自然选择和进化层面，是人类智慧的集中涌现。早在1923年的时候，法国哲学家\生物学家德日进（Pierre Teihard de Chardin）提出了心智圈Noosphere的概念。

德日进看到电话、广播和远距离通信正在把分散的人类连接起来，于是想象地球表面会出现一个“由大脑组成的大脑”：每一个人都是神经元，通信网络是神经连接，整个社会逐渐形成一个行星尺度的心智。

当AI进化到超越人类的能力后，就会进入所谓的“God Test”。这不是某一个神对人类的考试，而是人类是否配得上自己创造出来的这个超级物种。这就像开头提到的科幻电影，当被创造的物种发现被人类更有资格主宰地球后，是否会意味着人类面临的终极清算？

从40亿年的进化维度看，

AI不只是一种技术

这本书的精妙之处，在于从一个非常宏观的进化维度，去看待AI以及定义AI。大部分关心的是短期问题，比如说AI是否真的带来了商业利润，AI是否会取代一部人的工作，AI短期的模型参数会怎么发展等等。

Robert Wright却从40亿年物种的进化层面出发，把AI看做物种进化的一次飞跃。所以，他反复提到了Noosphere的概念。地球的智慧，作为一个整体，在不断涌现和进化。

但是在进化的过程中，人类相比其他动物最大的不同是自我意识。Robert Wright却认为，AI的物种进步不需要自我意识。也就是说，假设某一天AI主宰了这个世界，他们并不需要某种自我意识。AI不需要对人类有善意或者恶意，只是把他们的自我生存放在第一位，就足以毁灭人类。

这就像《骇客帝国》中，NEO和架构师之间的对话。Neo自认为是救世主，但其实他也只是程序的一部分。AI从未想过人类的生存还是毁灭，更多是系统的升级出发。

从进化论的维度看，地球的组织架构从单细胞组合成多细胞生物，从个体组合成社会，而社会又通过技术网络形成了全球网络。AI的出现，会把社会的组织形式再往上进一步。未来全球的大脑，可能是一种人类和AI稳定共生的系统，也可能是掌握在少数的国家和权力手里。

Robert Wright提出一个很有价值的思考：假设有一天AI真的毁灭了人类，我们没有通过“God Test”，背后的推手很可能是我们自己。AI的风险绝不是纯粹的计算机科学问题，更是演化到了政治、经济层面的博弈。

AI时代最危险的关系，不一定是机器强迫人类服从，而可能是人类主动把选择权交出去。我们并不是被夺走了自由，而是在一次次追求便利的过程中，逐渐忘记了如何使用自由。

真正能通过“God Test”的，

是人类合作的集体升级

Robert Wright提出的解决方案是，真正通过AI“God Test”的，是人类的心理层面升级。读过《Why Buddhism is True》就会知道，Robert Wright推崇的是哲学和心理学层面的升级，打破我们固有的认知偏差。

人类之所以容易陷入部落主义、民族主义、意识形态对抗、零和博弈，很大程度是被我们的情绪和短期利益推动，决定了我们愿意去相信什么。所以，Robert Wright提出了两个重要的概念：认知共情（Cognitive Empathy）和认知主权（Cognitive Sovereignty）。人类的合作，要真正从对方的处境理解时间，不要被自身的情绪操控。

如果人类自身只是一个容易被恐惧、敌我意识、竞争本能驱动的物种，那么AI的强大只会让我们的缺陷放大。

所以，Robert Wright尤其提到了今天AI时代下的多层次“军备竞赛”。模型公司之间的竞争，平台公司之间的竞争，中国和美国两大superpower之间的竞争。在这样的结构中，即便所有参与者都看到了风险，也没有人愿意第一个踩刹车。

在这本书中，中美之间的大国竞争被多次提及。当AI发展的速度开始超越人类能把控范围时，大国之间的竞争应该放缓脚步，站在人类共同体更大的维度上进行合作。

这本书延续了Robert Wright几十年以来不变的价值观：生命演化不断产生更高层次的复杂性与合作，但这种趋势并不保证有一个好结局；AI 把这个长期趋势推到了一个临界点，因此未来取决于人类能否从零和竞争、部落主义和认知偏差中进一步挣脱出来。 这也是为什么他把它称为一次“test”，而不是简单地把 AI 描述成天堂或者灾难。

最后的话

今年我花了超过100小时玩了《赛博朋克2077》。一开始还是在打主线任务，到后面更多是在开放的赛博朋克世界中游走。我一度在思考，未来人类的生活是否会“赛博朋克”化？一边是极度先进的科技，而另一边是少数的人和企业掌控了这个世界大部分的资源。当然，最让人不安的还不是“赛博朋克”化，而是我们的未来变成了“骇客帝国”。人类，永远成为了AI的一块电池。

今年，也有大量关于“AI末日”的言论。客观来说，以今天AI的发展速度，不需要几年就会比人类更聪明。或许很快，我们就会面临所谓的“God Test”。

当然，每隔一段时间都会有所谓的“末日论”。但我还是非常推荐这本书《The God Test》。Robert Wright强调的是，AI的出现绝不是简单的技术革命，而是有“higher purpose”。或许，这会成为推动人类社会的整体性进步。

最后，就像Robert Wright说的那样，Evolution askes not what traits are possible, but what traits get selected.

- end-

按姓名首字母排序

上下滑动阅读更多内容

| | | | |

| | | | |

| | | | |

|| | | |

| | | | |

| | | | |

| | | ||

| | | | |

| | | | |

| | | | |

| | | | |

| | | | |

| | | | |

| | | | |
| | 银华 | 东方红 |
| | | | 东方红 | 中信保诚

| | | | |

| | | | |

| | | | |

| | | | |

| | | | |

| | | | |

| | | | |
| | | | |
| | | | |
| | | 民生加银 | 东方红

| | | | |

| | | | |

| | | | |
| | | ||
| | | | |
| | | 中银 | 中信保诚

| | | ||

| | | | |

| | | | |

| | | | |

| | | | |

| 富国 | 农银汇理 | |

| | | | |

| | | | 新华 | 富达

| | | | |

| | | | |

| | | | |

| | | | |

| | | | |