李录关于AI革命的终极思考

· 全文共4999 字，时长约 6 分钟

· 本文来源：刘胜军大局观（刘胜军微财经出品）

置顶推荐：

文/刘胜军

李录，作为芒格将其家族财富委托外部管理的唯一对象，其水平毋庸置疑，自1997年喜马拉雅资本（Himalaya Capital）成立以来，李录管理的长期年化复合回报率保持在20%以上（巴菲特的长期年化回报率19%）。李录深得芒格智慧真传，尤其善于从历史和社会变迁的大格局思考问题。

如今人类社会再次走到十字路口，对个人和国家都是重大考验。其中，人工智能、大国博弈可谓最大的变量。AI教父Hinton警告：AI不可能真正停下来，它在科学、医疗和教育上的价值已经太大，背后的经济利益也太强。真正的问题不是“要不要让AI继续发展”，而是能否在它继续变强的同时，把安全、监管和人的控制能力也推到同样的位置，而人类可能只剩一两年准备时间。

面对AI这一时代洪流，10月5日李录在哥伦比亚商学院第36届格雷厄姆·多德年度午餐会上做了一场交流，他的很多思考颇具深度和独特视角，特此分享其精华内容：

AI革命的独特性

这一轮AI浪潮，与我们过去经历过的任何一次技术革命相比，都显得异常不同。从表面上看，你会发现几个现象：变化速度前所未有，涉及的规模前所未有，资本和金融影响的集中程度也是前所未有的。但如果继续往下问为什么，原因其实在于，这一轮技术革命背后的叙事发生了变化。过去，我们一直把技术当作提升人类生产力的工具。但这一次，技术引入了一个不同的维度：它开始处在“工具”和“造物”之间的一条光谱上。而且正在沿着这条光谱，从工具的一端向“造物”的一端移动。

大约4年前，这项技术第一次真正进入公众视野的时候，我们其实已经跨过了某种图灵测试的门槛。从那个时刻开始，仅仅通过语言，我们已经无法确定跟你交流的究竟是机器，还是人。之后，它又开始拥有所谓的“推理”能力，于是越来越多地表现出接近人的特征。从推理，又进一步发展出编程能力。有了编程能力以后，它就能够成为自主执行任务的智能体，在很多方面像人一样工作。接着，不同智能体又开始相互协作，完成越来越复杂、持续时间越来越长的任务。它们越来越像一个人类社会：能够自我组织、设定优先级、分解任务、执行任务，而且使用自己的交流语言和工具。如果你听硅谷现在流行的那套叙事，下一步就是生成式AI进入RSI，也就是递归式自我改进（Recursive Self-Improvement）。它背后的想法是：未来AI所有的改进，最终都可以由AI自己完成，不再需要人参与其中。从RSI往前，就到了AGI，再往前就是ASI。也就是它的智能水平，不仅超过任何单独一个人，而且最终超过全体人类智能的总和。如果你接受这套叙事，最后得到的东西，就有点像人类自己造出了一个“半神”或者“人造神”。因为它的能力如此强大，所以按照这个逻辑，它对经济的影响必然也会极其巨大。既然影响如此巨大，那么今天投入进去的这些巨额资本，自然就都可以得到合理解释。所以某种意义上说，等到哪一天出现那些估值上万亿美元的IPO时，大家就都被邀请去参加一场“上帝的IPO”了。

但是，如果你稍微退后一步，再问另外一个问题：假如事情真的会按照这条路径发展，人类最终会变成什么？我们会生活在一个什么样的社会里？一个由人类自己创造出来的“神”居高临下地主宰这个社会。能够真正接触它的人可能只有极少数，没有人真正理解它，甚至也没有人真正控制得了它。那么问题就是：人类真的愿意生活在这样一个社会里吗？我想答案大概是一个非常明确的“不”。我不认为任何人真正愿意生活在这样的社会里。

所以最终其实只有两种可能。第一种，这项技术根本不会沿着那条路径一直发展下去。第二种，如果它真的开始沿着那条路径发展，那么到了某个阶段，所有人最终都会联合起来阻止它继续往那个方向走。无论是哪一种情况，我都不认为最终会出现一个“人造神”，站在人类社会之上统治我们。

一条红线：AI必须始终有人参与其中

无论你接受前面哪一种判断，有一件事都应该非常明确：我们不能允许技术在“没有人参与其中”的情况下继续自我发展。所谓RSI，也就是递归式自我改进，如果脱离了人的参与和人的定义，将会非常、非常危险。因为一旦到了那个阶段，它就可能自己发展目标、子目标，形成自己的目的，那就会进一步脱离人的控制。

所以总结来说，这项技术极其有用，具有变革性；同时，它也极其危险。因此，作为社会，也作为人类整体，我们必须划出一条红线：AI的自我学习和工具使用，必须始终有人参与其中。我们必须把它牢牢留在“工具”这一端，而不能任由它走向一个脱离人类控制的“灵性物种”。

AI会带来巨大的颠覆

从就业，到人与AI之间的情感依赖，再到网络安全、生物安全，甚至核安全，各个层面都存在风险。所以最终，我们真正需要的，是让社会找到一种更加平衡的发展速度，在收益和风险之间取得平衡。

如果让我现在给AI一个暂时性的定义，我会这样描述：它本质上是一台机器，通过巨大的算力，加上一套非常聪明的算法，把人类产生的几乎全部数据放进去，然后从这些数据中提取“第一阶导数”。也就是说，它在几乎无限数量的人类数据变量之间，建立起系统性的、具有上下文关系的相关性。正是在建立这些巨大、复杂的相关性之后，它开始获得很多看起来接近于人类推理和人类智能的能力。

到目前为止，我们知道怎么使用它，也知道怎么让它变得更好。但我们并没有完全理解：它为什么会有效。当然，某种意义上这和人类自己也很像。我们其实也并没有完全理解，人脑这台“机器”究竟是怎么运作的。

现在已经可以看到，它确实能够把经济中某一个非常重要的层级极大地“普及化”和“平权化”。如果你把整个经济体系想象成一层一层搭起来的结构：最底层是能源和交通运输；在它上面，是制造业。再往上，是通信、数字化媒体；然后在这些基础设施之上，又形成了极其庞大的知识型、技术型服务业。

今天的生成式AI，在现阶段最擅长做的事情，就是把这一层已经积累起来的知识和专业能力重新综合起来，并且让它们变得更加普及。但是，它并没有改变能源和交通运输本身，也不会直接改变制造业的本质。

所以这才是生成式AI目前真正发挥作用的领域。它并没有超越人类。从这个角度继续推演，你也就能理解：它最终未必会达到今天那套宏大叙事所暗示的高度。

我们现在仍然牢牢处在人类生成数据这个范畴之内。如果真的要进入生物学意义上的层面，那是完全不同的数量级。比如说，你身体里的每一个细胞，都可以把它想象成一个大约50MB的文件，然后你还要再乘以数万亿个细胞。如果想真正跨越到生物层面的复杂性，你面对的是这样一个数量级。所以我们距离那个层次其实还非常、非常遥远。

成本纪律永远有效

有一点大家经常忽略：这项技术的成本结构也很不一样。它和互联网，以及过去很多技术不同。过去很多技术，你可以先进行一次性的巨大投入，完成基础设施建设。之后很长时间里，都可以不断利用这套基础设施。

AI不是这样，AI永远都会伴随着增量成本，因此，你永远都必须考虑投入成本和最终能够产生的收入、利润之间是什么关系。

今天AI的发展，本身也受到很多现实条件的约束：从芯片，到电力，再到劳动力。与此同时，还要考虑技术发展的速度，以及社会究竟能够容忍它发展到什么程度。所以真正决定AI发展节奏的，实际上有四五个不同层面的约束同时存在。

那么人类社会通常是怎么适应这种巨大的技术变化的？从来都不是通过完美规划。所以我们一定会经历巨大的繁荣，也会经历崩溃，很可能还不止一次。我们可能会经历几轮繁荣与崩溃的周期，这大概就是这项技术最终会发展的方式。

市场会非理性很久，但长期回报有一个锚

市场从一开始就一直会做一些很奇怪的事情。过去如此，将来也大概会继续如此。但市场在任何一个时点决定做什么，其实完全没有必要支配你的行为。这恰恰是本·格雷厄姆最重要的洞见之一，也是他对投资世界最重要的贡献之一。

比如说，我最近看过一份募资材料。有一家公司把自己称作“研究实验室”。它现在每年烧掉数百亿美元，同时还承诺，未来会继续烧掉数千亿美元。它告诉你，它正在创造一种具有变革性的技术；但与此同时，它又说，这项技术有大约10%的概率把所有人都杀死。这些话就写在募资材料里。然后，它邀请所有人至少投入1000亿美元，并且按照2万亿美元的估值来给它定价。

如果这里面存在任何逻辑上的一致性，那已经很令人费解了。这其实是一个非常极端的例子，说明市场有时候能够非理性到什么程度。这些事情不可能同时都是真的，但市场现在就是到了这种位置。这也说明，这种状态不可能以一种理性的方式长期持续下去。

如果你回头看几百年的市场历史，就会发现，市场的确会在相当长的一段时间里做非常奇怪的事情。从2010年开始算，过去大约16年里，标普500的年化回报大约有14%到15%。但是在此前的10年，也就是2000年到2010年，它的年化回报几乎正好是0，甚至略微为负。如果把这26年放在一起看，长期年化回报大致又回到了高个位数。这其实差不多就是合理的长期水平。你想一想：在这段时间里，实际GDP增长可能大约2%；再加上2%到3%左右的通胀，合在一起，名义经济增速大约就是4%到5%。而上市公司通常会比整体经济表现稍好一些，尤其像标普500这样，留下的是大约500家最优秀的企业。所以最后得到一个高个位数的长期回报，并不奇怪。而这恰恰就是市场长期以来的平均水平。所以，这应该成为一个非常重要的基础锚点：你长期究竟应该得到什么样的回报，以及市场最终会怎样回归理性。但是在这个长期趋势之间，市场会不断出现一段一段的偏离。有时候，这种偏离还会持续非常长的时间，并且走向极端。

资本越集中，另一边越便宜

如果我们真正相信社会最终不会允许一种“超级生命体”凌驾于人类之上，那么AI最终就不会走到那一步。而如果它最后仍然停留在“工具”的范畴里，那么它就和其他工具一样：它有成本，也有收益。既然如此，财务纪律和资本市场的纪律最终就一定会重新发挥作用。

至于这个过程怎么发生？往往就是通过一轮又一轮的上涨和下跌、繁荣和崩溃。这其实也没什么问题。

在任何一个时点，整个市场并不会凭空创造出无限多的新资本。所以，如果大量资本都被吸引到最热门、最顶端的那些公司里，那么另一边就一定会出现一大批原本非常优秀的企业，被忽视，并以非常低的价格交易。美国如此，中国如此，其他市场也是如此。我觉得中国的情况可能更加极端一些。

但是随着时间推移，市场自身的分量最终仍然会决定长期回报，投资者最终大体上还是会得到自己应得的东西。这个世界并没有太多真正的“免费午餐”。即使有时候看起来像有，而且这种“免费午餐”甚至可能持续相当长的时间。但从更长期来看，市场自身回归理性的力量，最终还是会把这些东西重新拉回去.所以我反而想说：今天这种巨大的市场分化，对那些能够保持理性的人来说，实际上提供了一个比平常更好的机会集。

刘胜军‍‍‍‍‍

坚持讲真话的经济学家

“企业家精神是第一生产力”首倡者

政治经济学+大历史观

2014 年参加总理经济座谈会

佛山市专家咨询委员会第一届专家委员

致公党上海市经济委员会委员

长江国际商会首席专家

山东省人力资源发展促进会首席专家

著有《下一个十年》

人大·中欧·华东师大

山东·菏泽·定陶人

【《史记·叔孙通传》：“汉王（刘邦）已并天下，诸侯共尊为皇帝于定陶”；《史记·范蠡传》：范蠡喟然叹曰：“居家则致千金，居官则至卿相，此布衣之极也。久受尊名，不祥。”乃归相印，尽散其财，以分与知友乡党，而怀其重宝，间行以去，止于陶，以为此天下之中，交易有无之路通，为生可以致富矣。于是自谓陶朱公。】

▼ 应聘、演讲邀请、商务合作 ▼

请添加微信：tina711