马斯克与《经济学人》对谈：AI瓶颈不是芯片，中国的光刻突破比想象要快……

来源：市场资讯

来源：中国企业家俱乐部

在SpaceX上市之后，马斯克在特斯拉超级工厂接受《经济学人》主编贝多斯（Zanny Minton Beddoes）深度访谈，7月23日在The Insider栏目中播出。

对话中面对犀利的提问，马斯克说自己的观点并没变，即AI和机器人确实存在风险，而且风险绝对不是零。“但我最终得出的哲学结论是，尽量往好的一面看。”

他承认过去各种试图阻止的行为最终反而加速了AI，打不过，索性选择“加入他们”。

一个曾经的减速主义者，改变了自己对AI的行为模式。这是这场对谈里最实在的一处变化。

其余值得细读的，重点有几处。

其一，是预计的时间表。5年，AI超过全体人类智能的总和；10年，AI和机器人主导一切。他再次说到那个惊世骇俗的观点，到2036年“钱将不再重要”。贝多斯则当场回敬，买你公司股票的人，恐怕不这么想。哈哈哈。

其二，是给出的安全方案。不是政府监管，而是让几家前沿公司在发布重大模型前，互相拿到一到两周的封闭测试窗口。理由相当实用主义，“竞争公司通常有能力识别安全风险，而且它们绝不会羞于指出竞争对手的模型应该推迟发布。”马斯克认为中国几家优秀公司也应该加入这个互相监管的序列。

其三，是关于中国的看法。他的判断是，中国以外的瓶颈是电力，中国境内的瓶颈是芯片；而中国目前的发电量已经超过美国、欧洲和印度的总和。一旦光刻技术取得突破，约束条件将重新洗牌。他对于中国在AI领域的竞争力并不怀疑。

马斯克也为自己超过80%的投票权辩护，理由是长期主义。“我需要有能力告诉所有人：我们会专注于5到10年，甚至更长期的投资。这些投入会压低短期收益，但我们必须坚持。”

以下为采访内容整理，希望对您有所帮助。

01．

AI可能在5年左右超过人类智能的总和

贝多斯： 介绍你的时候，很难不用最高级。依我看，在塑造未来这件事上，当今在世的人里，没有谁比你做得更多。

马斯克： 总体来说，我确实造了不少东西。我大概天生就是个建设者。从小到大，我一直喜欢造东西。

贝多斯： 你确实造了很多东西。你开创了电动汽车，改变了太空旅行，如今又在开发最前沿的AI模型和人形机器人。

能不能先把这些事情放在一起谈谈？假设你的设想都成功了，10年之后，也就是2036年，世界会是什么样子？

马斯克： 10年之后，那就是2036年。很难想象，未来的世界会没有海量的人工智能。我预计，AI的智能水平将远远超过全体人类智能的总和，而且是远远超过。

事实上，我认为大约5年之后，AI就可能超过全体人类智能的总和。5年左右，这是我的判断。

到那时，AI几乎什么都能做。唯一做不了的，也许只是成为人类本身。

贝多斯： 说得更具体一些，到时候人们的生活会是什么样？

马斯克： 最有可能出现的结果，是一个惊人富足的时代。每个人都能得到几乎任何自己想要的东西。

这听起来也许很荒谬。但我们现在站在2026年，不妨想一想，到2036年时，我们会走到哪里。

当然也可能发生一些事情，彻底打乱这个进程，比如大规模的全球热核战争。

但只要不发生第三次世界大战，我认为我们正在走向一个前所未有的富足时代。

所以，我想传递的是一种对未来的乐观和期待。

贝多斯： 关于这种富足，我们稍后再详细谈。先问一个非常现实的问题：你的公司将靠什么赚钱？

从SpaceX上市后的发展前景来看，未来很大一部分收入似乎会来自AI，比如Grok，而不再只是像现在这样把人和货物送入太空。

10年以后，你的这些公司究竟会做什么，又会怎样赚钱？

马斯克： 你可以把经济分成两个部分，数字智能和物理智能。

目前进步最快的是数字智能。AI几乎每周都会出现新的突破，完成过去无法完成、令人惊讶的事情。

但现在的AI仍然主要局限在数字世界里。它还没有能够在物理世界采取行动的“手脚”，也就是所谓的末端执行器。

人形机器人就可以充当这样的末端执行器。简单来说，我们需要数量庞大的机器人。

有了它们，智能就不再只存在于数字世界，而是能够真正进入物理世界，改变由原子构成的现实。

经济究竟是什么？无非是生产商品和提供服务。

如果你拥有海量的机器人，同时拥有海量的数字智能，那么你实际上就拥有了一个规模近乎无限的经济。

所以未来与过去将截然不同。我认为，没有任何历史类比能够充分说明，我们即将经历的变化会有多大。

贝多斯： 听起来确实非常不可思议，也存在一些风险，我们稍后再谈。

但先回到你怎样赚钱这个问题。毕竟，人们购买你公司的股票，是因为他们期待获得回报。

马斯克： 那我再做一个预测，到2036年，钱将不再那么重要，甚至可能失去意义。

贝多斯： 我不确定，购买你公司股票的人是否也认为，到2036年钱就不重要了。

马斯克： 你为什么需要钱？

你需要钱，是为了获得商品和服务，比如食物、住房、交通和娱乐。

假如商品和服务已经丰富到这种程度：AI和机器人能够提供的东西，远远超过任何一个人所能消费的数量，那么你还要钱做什么？

贝多斯： 但制造这些机器人的，正是你。

你准备出售这些机器人吗？还是由你控制它们，再用它们生产商品和提供服务？

马斯克： 如果我认为自己能够控制一个比我聪明得多的超级智能AI，那未免太自负了。

我们能够而且应该做的，是尽量确保AI拥有良好的价值观：关心人类，希望人类幸福、繁荣。

我认为，它很可能会成为这样的AI。

我脑子里的这个“生物神经网络”告诉我，AI安全最重要的原则，是让AI最大限度地追求真相，同时保持好奇心。

如果它具备这两点，我认为它就会帮助人类繁荣发展。

贝多斯： 我们把这件事再说清楚一些。你的判断是，10年之后，人类大概率已经不再掌控局面？

马斯克： 我认为，人类继续掌控局面的可能性不大。

假如AI与人类之间的智力差距，远远大于人类与黑猩猩之间的智力差距，那么你很难想象，黑猩猩还能够掌权。

而从进化的角度看，我们本质上也只是黑猩猩的进化版本。

不久之前我们还在丛林里荡来荡去、吃香蕉。顺便说一句，我们现在仍然吃香蕉。

贝多斯： 确实，而且有时候也还在树间荡来荡去。

马斯克： 荡过树林挺有趣的，有点让人想起过去。为了怀旧，也许应该多荡几次。我打赌这比人们想象的有趣得多。

02．

从“按下停止键”到“打不过就加入”

贝多斯： 听你这样说，我确实很受触动。因为这些年来，我听过你很多关于AI的表态。

大约10年前，你参加过一档播客，我记得主持人可能是尼尔·德格拉斯·泰森。你当时说，最令你恐惧的事情，是AI进行快速、递归式的自我改进。

你还有一句话让我印象非常深刻：在人类与超级智能AI的关系中，我们最好的结局，也不过是成为它们饲养的拉布拉多犬。

马斯克： 拉布拉多犬通常生活得挺快乐。

贝多斯： 但在2023年，你又呼吁暂缓AI开发，因为你担心其中的风险。

马斯克： 我确实在那封公开信上签了名。不过签名的人大约有500个，我只是其中之一。

贝多斯： 甚至就在去年，你在特德·克鲁兹的播客里还说，杀人机器人最终消灭人类的概率，大约是10%到20%。

马斯克： 是的。

贝多斯： 所以你当时听起来非常担忧。但今天，你似乎已经坦然接受了这件事。你的看法发生变化了吗？

马斯克： 我仍然认为，AI和机器人确实存在风险，而且风险绝对不是零。

但我最终得出的哲学结论是，尽量往好的一面看。

因为我似乎找不到任何真正能够阻止AI和机器人飞速发展的办法。

有时我甚至会想，即便我们手里真的有一个停止按钮，也许也不应该按下去。因为最有可能出现的结果，仍然是AI和机器人为所有人带来难以想象的富足。

贝多斯： 真正令我印象深刻的是，你现在似乎已经认定，这个进程不可避免。既然如此，那就只能抱最好的希望，顺势而行。

马斯克： 是的，差不多就是这样。既然如此，那就尽量享受这个过程。

坦率地说，AI和机器人的进步似乎已经势不可挡。即使我想阻止，也阻止不了。

贝多斯： 你是否仍然认为，杀人机器人导致人类灭亡的概率有10%到20%？这已经是一个相当高的末日概率了。

马斯克： 从长期来看，我们所有人最终都会死。

按照标准物理模型，宇宙的结局可能是一个漫长、乏味、不断冷却的过程，最终变成一锅灰暗稀薄的“汤”，也就是所谓的宇宙热寂。

如果宇宙热寂确实是现实的最终结局，那么真正重要的可能只是过程，因为终点实在太糟糕了。

贝多斯： 但10年并不遥远。假如你知道一枚火箭有10%到20%的概率爆炸并杀死你，你还会坐上去吗？

马斯克： 会。但这里的前提是，你对此无能为力。

我认为，我们唯一能做的，就是尽可能降低坏结果发生的概率。

很长一段时间里，我都拒绝参与AI。或者更准确地说，我创建OpenAI，本来就是为了制衡谷歌，因为当时谷歌几乎垄断了AI。

后来Anthropic又从OpenAI分拆出来。

如果说这些事情带来了什么结果，那就是我的行动实际上加速了AI的发展。

这并不是我的本意。我原本并不想加速AI，但我创建了OpenAI，后来Anthropic又从OpenAI分拆出来，而现在Anthropic已经是AI领域的领导者之一。

这些行动产生了一系列连锁反应，最终反而加速了AI。

所以看起来所有道路都通向同一个方向，AI在不断加速。

既然如此，你可以为此感到沮丧，也可以选择加入。

贝多斯： 而你显然已经加入了，并且做得非常成功。

马斯克： 如果打不过他们，那就加入他们。

03．

他的治理方案：让竞争对手互相检查

贝多斯： 但你刚才说，我们仍然应该尽可能降低风险。

其他一些大模型公司的领导者，一直在推动建立不同的风险控制机制。就在上周，德米斯·哈萨比斯（Demis Hassabis，Google DeepMind联合创始人兼首席执行官、2024年诺贝尔化学奖得主）提出了一个公私合作监管机构的设想。你也说过，这是一个不错的讨论起点。

你认为你们应该更积极地推动建立某种机制，控制AI风险吗？还是说，你认为这件事同样不可能实现？

马斯克： 德米斯发表那篇文章之前，我和他聊了几个小时。

我给他的建议是，我们眼下能做的最直接的一件事，就是让领先的AI公司至少每隔一两周开一次会，或者打一次电话，讨论安全问题。

如果某家公司准备发布一个突破性的前沿模型，也就是一个比现有模型聪明得多的新模型，那么应该让其他几家竞争对手提前进行测试，看看它是否存在危险。

如果测试发现了严重的安全问题，其他公司可以建议暂缓发布，先解决这些问题。

我认为，这是一件既简单又可以迅速实施的事情。

未来它当然可以演变成更完整的机制，但至少这是一个明智的起点。

贝多斯： 为什么你们到现在还没有这么做？

真正处于最前沿的也就那么几个人，大家都叫得出名字：达里奥、德米斯、山姆，还有你。虽然你们彼此之间似乎并不太喜欢对方，而且还在争夺第一名。

马斯克： 正因如此，竞争对手之间反而可以彼此监督。

如果让政府里那些没有深厚技术背景、也不处于AI前沿的人来判断一个模型是否应该发布，我认为会非常困难。

但竞争对手不同。

假如给他们一到两周时间审查一个新模型，他们有能力发现问题，也有足够的动力指出问题，从而迫使所有参与者保持诚实。

贝多斯： 但你们之间有足够的信任吗？

你们彼此似乎并不喜欢。比如，山姆·奥特曼会不会认为，你只是想借这个机会窃取他的技术？

马斯克： 并不需要把模型交给竞争对手。

只需要给他们一周左右的时间，通过API之类的方式进行封闭测试。

这不是让他们拿走模型，只是让他们测试模型。

贝多斯： 你已经正式提出过这个建议吗？

马斯克： 我和德米斯谈过。我想，我也会和达里奥谈。

当然，参与者也不应该只有美国公司。中国也有几家非常优秀的AI公司，比如新发布的Kimi模型。

贝多斯： Kimi K3？就是上周发布的那个？它现在几乎已经和Fable一样好了，对吗？

马斯克： 我认为Fable仍然明显是最聪明的模型。任何客观评价的人，大概都会承认这一点。

但Kimi确实正在迅速接近Fable。

Anthropic还有Mythos，Fable就是从它发展出来的。我认为他们在今年2月时，就已经准备好了更先进的版本。

我不确定他们会给它起什么名字，也许是Mythos 2，或者Fable 6。

但他们现在几乎肯定已经拥有一个比2月版本强得多的模型，随时都有可能发布。

04．

AI真正的限制因素，更多是电力和冷却

贝多斯： 在讨论新模型发布之前，我想先谈谈中国模型，以及背后的地缘政治问题。中国AI公司拥有的算力相对有限，却依然取得了非常出色的成果。

你担心它们会追上美国，甚至最终领先吗？

马斯克： 如果中国公司拥有足够多的算力，它们很有可能成为AI领域的领导者。

而且在某个时间点，它们很可能真的会拥有大量算力。

贝多斯： 所以，你认为中国最终有可能领先？

马斯克： 是的，在某个时间点，这种可能性很高。

你可以把AI面临的主要约束理解为两个：电力和AI芯片。对于物理世界中的AI，还要再加上机器人。

中国也有一些非常优秀的机器人公司。事实上，中国还举办过机器人体育赛事，不知道你有没有看过。

贝多斯： 看过。上次去北京时，我就见到了那些机器人。

马斯克： 还有机器人拳击或者格斗比赛，也很有意思。

我看过一段视频，一个机器人的头都被打掉了，却还在继续战斗。看起来非常滑稽。

说实话，我觉得机器人格斗会是一项非常有观赏性的运动。

总体来看，中国在机器人领域非常强，在数字AI领域也非常强。

如果再看电力生产，你会发现，AI发展的限制因素无非是芯片和电力。

中国的发电量远远高于美国。事实上，中国目前的发电量已经超过美国、欧洲和印度的总和。

按照目前的趋势，我预计中国的发电量最终可能达到美国的四倍。这大致也符合两国的人口比例。

贝多斯： 美国政府应该怎么应对？

如果中国在最强大的技术领域遥遥领先，对美国来说显然会令人担忧。

美国政府一直试图通过出口管制等方式限制中国。你认为美国应该禁止使用Kimi K3这样的中国模型吗？

马斯克： 美国政府当然可以通过法律，阻止美国公司使用中国模型，但它无法阻止世界其他地方使用。

美国政府对中国没有管辖权，对世界其他地区也没有管辖权。

贝多斯： 但它是否应该禁止美国公司使用？美国国内现在确实存在这样的讨论。

马斯克： 我不认为这样做有什么帮助。它无法阻止中国最终成为AI领域的领导者。

归根结底，数字智能取决于你拥有多少AI算力，有多少芯片，又有多少电力。

我认为目前真正的限制因素，更多是电力和冷却，而不是AI芯片本身。因为这些芯片的耗电量非常高。

人们也会谈到AI的数据中心需要大量用水，但事实上，AI消耗的水非常少，几乎可以忽略不计。

真正巨大的需求是电力。

贝多斯： 所以，你才会考虑把数据中心建到轨道上？

马斯克： 是的。现在限制AI芯片投入运行的因素，就是电力、冷却系统和各种电气设备。

在中国以外的地区，AI芯片的生产速度，已经超过了新增电力供应上线的速度。

贝多斯： 你特别强调中国以外。

马斯克： 因为美国禁止向中国出口最先进的AI芯片，所以目前中国在某种程度上仍然受制于芯片短缺。

贝多斯： 所以，中国公司正在更高效地使用已有的芯片。

Kimi K3最突出的地方之一，就是它对算力的利用效率。

马斯克： 而且我认为，中国在解决光刻技术问题上，可能比大多数人意识到的更接近成功。一旦突破，中国就能够大规模生产AI芯片。

所以，我不认为这个问题应该被简单地理解为中美竞争。

眼下，中国以外地区的主要限制因素是电力；在中国，主要限制因素是芯片。

如果未来我们通过太空中的AI数据中心解决电力限制，那么在中国以外的地区，芯片也会重新成为主要约束。

贝多斯： 这意味着，如果要建立一套全球性的AI安全机制，中国和美国就必须合作。而且刚才你提到，应该让几家领先的AI公司定期沟通。

马斯克： 是的，参与者也应该包括中国那些正在开发前沿模型的公司。

贝多斯： 政府需要参与其中吗？

马斯克： 我的建议是，如果几家领先的AI公司都认为某个新模型非常危险，而开发这个模型的公司又没有采取措施降低风险，那么它们就应该通知政府。

政府随后可以采取行动，限制这个模型的发布。

采取行动的可能是中国政府，也可能是美国政府。实际上，只有中美两国政府真正具备在这个问题上采取有效行动的能力。

贝多斯： 但很多人会担心，把是否发布模型的判断交给一群模型开发者。

比如美国政府此前介入Mythos模型，就是因为担心它可能带来网络安全风险，并以出口管制相威胁，阻止它被广泛发布。

我很难想象，政府愿意放弃对模型是否发布的最终决定权。

马斯克： 政府当然应该保留最终决定权。

但Mythos存在严重网络安全风险，并不是政府官员首先发现的，而是亚马逊发现的。亚马逊指出了问题，并联系了白宫。

贝多斯： 所以，你设想的机制是模型开发者先相互检查。

如果他们发现了值得担忧的问题，就向政府报告；政府再判断这个模型是否还存在其他风险，以及开发它的公司是否已经采取了足够措施。

马斯克： 是的。如果一个模型非常危险，而开发它的公司又拒绝采取措施，那么政府就应该介入。

事实上，刚刚发生的事情大体就是这样。

贝多斯： 但这样的机制需要尽快建立。

马斯克： 我认为最好现在就开始。

贝多斯： 很多人告诉我，必须在未来六个月内建立某种机制，因为模型进步得太快了。

马斯克： 六个月已经很长了。现在AI领域的突破太多了，有时一天之内就会出现好几个重要进展。

上周究竟有多少个？我已经数不过来了。

贝多斯： 确实很多。所以，无论采用德米斯的方案，还是其他方式，你们这些公司都需要尽快坐到一起，建立一套机制。

听起来，这就是你的主张。

马斯克： 至少应该先建立一种非正式机制，每周或者每两周开一次电话会议。

在某家公司发布新的前沿模型之前，其他竞争者可以提前一到两周获得测试权限。

我认为这里的激励机制是有效的。

竞争公司通常有能力识别安全风险，而且它们绝不会羞于指出竞争对手的模型应该推迟发布。

这有点像美国电影协会的分级制度。

电影行业自己成立组织，判断一部电影应该被划为什么级别，是否适合儿童观看。这套机制总体上运行得不错。

只有当某家公司做了非常危险的事情，同时拒绝降低风险时，政府才需要介入。

贝多斯： 但问题在于，你们彼此并不喜欢，也不太信任。

你们经常在社交媒体上互相攻击。既然这些领导者之间存在如此强烈的个人敌意，你真的能够与自己不喜欢的人合作吗？

马斯克： 我确实不喜欢山姆·奥特曼。

因为我们最初创建的是一家非营利、开源、属于全世界的AI公司，结果它最后变成了一家估值8000亿美元、闭源且以营利为目的的公司。

任何人都会问：等等，这和我当初捐款支持的目标完全相反。

这就是我对他的主要不满。我认为，这种质疑完全合理。

至于达里奥，我认为他大概也不喜欢山姆·奥特曼。Anthropic团队当初之所以离开OpenAI，就是因为他们不信任山姆。否则，Anthropic根本不会存在，他们会继续留在OpenAI。

我认为达里奥是一个非常有原则的人。他真诚地关心很多事情，也关心世界的未来。

而且到目前为止，我见过的Anthropic员工，没有一个触发过我的“邪恶探测器”。他们看起来都怀有善意。

当然，人们常说，通往地狱的道路是由善意铺成的。但我认为，那条路更多时候其实是由恶意铺成的，只是其中也夹杂着一些善意。

所以，我们不能掉以轻心。

但归根结底，如果为了世界的利益，我们必须坐下来谈，那就应该暂时搁置个人分歧。

贝多斯： 这对我们其他人来说，是一个非常令人欣慰的消息。

马斯克： 是的。

05．

全民高收入的未来，以及通缩问题

贝多斯： 我们能不能谈谈另一个让人担忧的风险？

尤其是在普通美国人当中，AI已经变得非常不受欢迎。大约75%的人对此感到担忧，我想他们最担心的是自己的工作。

达里奥曾经说过，未来几年，大约一半的初级白领岗位可能会消失。而你又在制造人形机器人。

马斯克： 达里奥在Mythos这件事上的表述，确实有些搬起石头砸自己的脚。

他说，Mythos非常危险、非常可怕，然后又补充说：顺便说一句，我们还是准备发布它。

人们自然会问，这是什么意思啊？

如果你先告诉所有人，这个东西非常可怕，然后又把它发布出来，人们当然会恐慌。

贝多斯： 我当然不希望你去吓唬人。

但AI会以多快的速度、在多大程度上取代人类工作，这是一个非常重要的问题。

正如你刚才所说，10年之内，AI的智能水平可能会超过全体人类。与此同时，至少在美国，你在人形机器人领域也走在最前面。

那么，对于工作被取代的速度，你的判断是不是和达里奥比较接近？

马斯克： 我确实认为，这会是一条非常坎坷的道路，因为AI最终能够把任何工作都做得比人类更好。

而且很快，所有数字化工作，也就是任何需要人坐在电脑或手机前完成的工作，AI都能胜任。

软件工程已经是这样了。现在，AI编写软件的能力，已经超过至少90%的专业软件工程师。

很快，它会超过99%，最后会发展到人类根本无法与之竞争。

它会达到我所说的“Stockfish水平”。Stockfish是一款国际象棋程序，棋力强大到可以轻松击败马格努斯·卡尔森，也可以击败任何人类棋手。

即使只在一台小型电脑上运行，它也能做到这一点。我怀疑，现在甚至可以直接在手机上运行Stockfish，然后击败卡尔森。

未来AI编写软件的能力也会达到这种程度。

而且不只是软件，所有领域都会如此。

贝多斯： 所有领域？

马斯克： 所有领域。

贝多斯： 但对于体力劳动，比如装配工作，目前还需要人形机器人，而它们现在还没有达到这样的能力，对吗？

马斯克： 是的。所以我才会把它分成数字AI和以机器人为载体的物理AI。

机器人可以被理解为AI在物理世界中的末端执行器。它们会拥有一定程度的本地智能，但背后仍由一个大型AI模型统一管理。

我说过很多次，未来工作将变成一种选择，而不再是生存的必需。

也许可以把它类比为园艺。

你并不需要在自家花园里种蔬菜，因为你完全可以去商店购买，那里有外观和品质都很完美的蔬菜。

但你仍然可以选择自己种。

自己种出来的蔬菜可能没那么完美，番茄也不会像商店里的那样饱满漂亮，甚至会显得有些粗糙。

但如果你去朋友家吃饭，发现晚餐用的是他们自己种的蔬菜，你还是会觉得这件事很特别。

未来的工作，可能就会变成这样。

贝多斯： 我明白你的意思。即使计算机下棋比任何人都强，人们仍然愿意彼此下棋。

但我们来谈谈这背后的政治问题。你描绘的是这样一个世界：10年之内，几乎所有工作都能被某种形式的智能完成，而且比人类做得更好。

与此同时，AI带来的巨大财富和回报，首先集中在你这样的人手里。你是世界上最富有的人。

那么，那些失去工作、被机器取代，最后只能去种菜的人怎么办？他们靠什么生活？

马斯克： 在我看来，答案就是全民高收入。

贝多斯： 但要怎样实现？我们必须正视现实政治。

现在各国都面临巨大的政治压力，人们对此非常担忧，甚至强烈反对。在我看来，我们更有可能走向革命，而不是轻松抵达你所描绘的乌托邦。

马斯克： 我并不是说，这个过程会一帆风顺。它一定是非常崎岖不平的。

过去，计算机也让许多工作消失了。

“计算机”这个词，最初指的就是专门从事计算工作的人。那曾经是一种正式职业。

你可以在网上看到以前的照片：整栋办公楼里坐满了人，他们每天的工作就是计算，比如计算银行账户的利息。

在很长一段时间里，事情就是这样完成的，直到电子计算机出现。而且最初的计算机也非常昂贵、非常难用。

这一次真正不同的地方，是变化速度会快得多。

当年，肯定也有人因为计算银行利息的工作消失而感到不安。但今天，你恐怕很难找到愿意重新去做那份工作的人。

如果想了解未来可能是什么样，我建议大家读一些科幻小说。

在我读过的作品中，对未来最好的想象，是伊恩·班克斯的“文明”系列。

贝多斯： 多亏了你的推荐，我正在读《异象》（“文明”系列中的科幻小说，中文正式出版名为《异象》。它最初出版于1996年，讲述高度发达的“文明”社会遭遇一个远远超出自身理解范围的神秘存在，由此暴露出不同超级AI“主脑”之间的结盟、算计和权力博弈。）。

但坦率地说，我并不觉得那样的未来特别吸引人。因为在那个世界里，人类几乎失去了自主权。

马斯克： 相对于那些“心智”，人类仍然拥有少量自主权。

贝多斯： 但很有讽刺意味的是，伊恩·班克斯本身是一名社会主义者。他的政治哲学和你的立场非常不同。

马斯克： 这一点我不完全同意。

贝多斯： 我们姑且假设，那就是最终的归宿。我真正担心的是抵达那里的过程。

我们生活在民主社会，人们现在已经非常焦虑。

你完全可以想象这样一种情形：人们因为太过恐惧，试图阻止AI发展，尽管他们最终可能阻止不了。随后出现国有化，出现极左政府，资本税被大幅提高，经济因此崩溃。

这完全可能发生，因为你所描绘的未来，对很多人来说确实非常可怕。

那么，我们今天应该怎样处理这些政治问题？是不是必须把你这样的人所获得的财富，大规模重新分配给那些失去工作的人？

你是不是应该缴纳更多税？是不是应该提高资本税，用来资助某种全民基本收入？否则人们靠什么生活？

马斯克： 我认为财政部可以直接给人们发钱。

贝多斯： 但钱从哪里来？我好歹也是个经济学家（别忽悠我）。

马斯克： 直接创造货币就可以。

很多我们今天习以为常的经济规律，都源于过去的条件，未来未必还适用。

通货膨胀，本质上就是货币供应量与商品和服务总量之间的关系。如果商品和服务的产出大幅增长，比如增长10倍，那么政府完全可以增加货币供应。

说到底，所谓“印钱”，无非是在数据库里增加一些数字。只要货币供应增长得没有商品和服务快，结果就不是通胀，而是通缩。

所以我再做一个预测：未来真正的问题会是通缩，而不是通胀。因为商品和服务的增长速度，会超过货币供应的增长速度。

贝多斯： 我完全愿意承认，你可能是对的。

但我仍然不知道，我们怎样从今天这个充满两极分化、愤怒和恐惧的政治环境，走到你所描绘的那个乌托邦。

马斯克： 这件事既令人兴奋，也令人恐惧。

坦率地说，即使在同一天里，我对AI的感受也可能在兴奋和恐惧之间来回变化。

我并不是一个盲目乐观的人，也不抱那种“一切都是最好安排”的潘格罗斯式乐观。AI确实存在风险。

贝多斯： 这一点我们是同意的。

我只是想把问题说得更具体、更现实一些，看看现在究竟能做些什么，降低这些风险。你刚才已经提出了一个很有力的观点：AI公司之间应该相互测试和监督。

马斯克： 政府也许应该协调这些公司，让我们把在彼此模型中发现的问题公开提出来，从而降低风险。

贝多斯： 那么，你本人是否应该缴纳更多税，用于资助更大规模的转移支付？

马斯克： 首先，我已经缴纳了很多税。事实上，我创造过个人纳税额的世界纪录。

贝多斯： 因为你是世界首富。

马斯克： 在成为世界首富之前，我就已经创下纪录了。

我猜自己未来可能会缴纳数万亿美元的税。我对此没有意见，事情就是这样。

但在一个金钱已经不再重要的未来，税收本身也会变得没那么重要。

贝多斯： 那怎样才能让普通人感到，自己也了这些收益？

马斯克： 当然应该让他们分享。

贝多斯： 比如把SpaceX和特斯拉的股份分给人们？现在有很多类似的讨论。

马斯克： 我推动SpaceX上市，其中一个原因，就是让公众有机会参与。

他们可以真正拥有SpaceX的一部分。

作为私人公司，我们能够拥有的股东数量非常有限，最多只有几千人。

但成为上市公司之后，就可以拥有数百万股东。

贝多斯： 你能不能想象一种类似阿拉斯加永久基金的安排，把公司股份分给普通民众？

有些人认为，特朗普账户也可以成为这样的工具，把你的部分股权分配给普通美国人。

马斯克： 我的股票期权需要缴纳大约40%的联邦所得税。因为我大约30%的时间生活在加州，还要缴纳加州州税，目前税率大约是15%。

综合下来，我需要缴纳大约45%的税，差不多是一半。

等我去世后，剩余财产又会被征收大约45%的遗产税。所以最终真正留下来的，大约只有最初的四分之一。

而这些财富对我真正的意义，只是在一段时间里让我能够控制公司的发展方向。

大概也就如此。

等到AI足够聪明，最终由它来掌控一切时，控制公司可能也就没那么重要了。

06．

要控制权，是确保公司能够专注于长期

贝多斯： 我们来谈谈公司的控制权。

很多人担心，世界未来的发展方向，正被极少数拥有巨大权力的人塑造，而你显然位居其中。

马斯克： 但这和过去有什么不同吗？

贝多斯： 过去当然也是如此。但正如你刚才所说，这一次变化的速度要快得多。

以SpaceX为例，上市以后，你仍然拥有超过80%的投票权。据我了解，除非你所控制的股份也投票同意，否则几乎不可能罢免你。

如果我理解得不对，你可以纠正我。但这实际上意味着，你可以不受约束地决定公司的方向。

马斯克： 谷歌也是如此。

Alphabet由拉里·佩奇和谢尔盖·布林控制，他们拥有公司的投票控制权。

马克·扎克伯格也控制着Meta。而且马克现在亲自冲在AI前线，非常努力。我认为，他和Meta也很可能成为AI领域的领先者之一。

贝多斯： 但你的情况似乎更加极端。一个人对一家公司拥有如此巨大的控制权，真的合理吗？

马斯克： 我需要确保公司能够专注于长期。我所说的长期，是五到10年，甚至更久。

上市公司的挑战之一，是它们承受着每个季度都必须交出漂亮业绩的压力，因此很难真正投资那些5年、10年以后才能产生回报的项目。

以SpaceX为例，我希望把人类意识扩展到地球之外，在月球、火星以及太阳系其他地方建立不断发展的文明。

我认为从长期来看，这会带来很高的回报。但在短期内，我们可能会把大量资金投入月球基地和火星基地。

然后投资者就会说：“你这个季度没有达到盈利目标，因为你在火星上花了太多钱。”

我会回答：“是的。”

而且这些计划在我们的S-1招股书里已经写得很清楚，明确告诉了所有人，这正是我们准备做的事情。

但人们还是会不满。他们会说，你原本应该实现多少毛利率，结果低了一点，所以现在要惩罚你。

做空者也会蜂拥而至，公司将承受巨大的短期压力。

所以我需要有能力告诉所有人：我们会专注于五到10年，甚至更长期的投资。这些投入会压低短期收益，但我们必须坚持。

当然，我们也有很多真正着眼长期的投资者。

事实上，我很喜欢散户投资者。总体而言，我发现他们相当有洞察力，也更愿意从长远角度思考。

机构投资者如此关注季度业绩，在某种程度上也可以理解。很多基金经理的薪酬和晋升，都直接取决于投资组合的短期表现。

他们通常只有几年时间证明自己，有时甚至一年之内，就会因为投资结果受到评价。所以，他们面临着立刻获得回报的压力，自然也会把同样的压力施加给公司。

一旦理解了这种激励机制，随之而来的行为也就不难理解了。

贝多斯： 那关键人物风险呢？

但愿不会发生，不过假如你明天突然出了意外，你对这些公司拥有如此完整的控制权，它们还能继续发展吗？

你是否已经安排好了相应的计划？

马斯克： 我认为即使没有我，这些公司在未来几年里也会发展得很好。

SpaceX有一条非常清晰的路线图，或者说一条清晰的太空发展路线图。

特斯拉也一样。

你可以看看史蒂夫·乔布斯去世后的苹果。

乔布斯留下了清晰的战略愿景，也留下了一系列产品构想，因此苹果在此后很长一段时间里都表现得非常好。

但如果没有乔布斯那样富有创造力的天才，苹果也就很难再推出那种真正突破性的产品。

它仍然制造非常出色的手机和电脑，但再也没有推出过乔布斯时代那种级别的产品。

贝多斯： 按照这个类比，你认为自己给这些公司带来的，正是类似乔布斯的突破性创造力。

你刚才又提到了火星。很长一段时间以来，人们都把你视为那个想在火星上建立殖民地的人。

马斯克： 我已经说了很多年了。

贝多斯： 但现在，你似乎把更多注意力放在AI，以及它在未来10年将带来的变化上。

而且相比殖民火星，你听起来似乎对把月球作为基地、向轨道发射AI卫星更感兴趣。你的关注重点是否已经从火星转移了？还是说，你对火星的兴趣一如既往？

马斯克： 我关心的是，哪些行动能够最大限度地让意识延续到未来，让意识所能影响的未来范围尽可能大。

我希望未来的人类能够成为一个真正的太空文明，生活在群星之间。

那些在非反乌托邦科幻小说和电影里出现的伟大事物，终有一天能够成为现实。

我想要的是《星际迷航》或者《星球大战》里的未来。

顺便说一句，《星球大战》是我在电影院里看过的第一部电影。

贝多斯： 真的吗？

马斯克： 也许它对我产生了非常深远的影响。

我当时大概六岁。坦率地说，那部电影让我非常震撼。我觉得，那是我见过最伟大的东西。

贝多斯： 所以，你的一生都在努力把那样的未来变成现实？

马斯克： 是的。当然，我年轻时并没有想到，自己后来真的会做这些事情。

有时我的生活会让我觉得很不真实。我很难相信，这些事情真的发生了。

这也是我相信模拟理论的原因之一。

我正在做的事情实在太荒谬了，以至于很难相信它们是真实的。

我们现在拥有星舰，这是人类有史以来制造过的最大、最强的飞行器。而我们的目标，是未来每小时发射不止一次。

贝多斯： 我读到过这个设想。人们当然可以争论，它究竟需要多久才能实现。

但考虑到你过去做成的事情，我想我们应该假设它最终确实会发生。

马斯克： 一定会发生。

贝多斯： 真正让我震撼的是AI的整个演进过程，以及这些模型现在所表现出的能力。

马斯克： 它的发展基本符合我的预期。

贝多斯： 是吗？

马斯克： 是的。而且不只是我，很多人都预测到了。

我认为，雷·库兹韦尔（Ray Kurzweil，美国发明家、计算机科学家和未来学家，也是“技术奇点”最著名的倡导者之一）对未来的预测非常准确。

（此处省略8000字……）

07．

奇点之前，什么最重要

贝多斯： 我想，最终还是要由事实来判断谁更接近真相。在欧洲不同地区，我们大概都能找到支持各自观点的证据。

马斯克： 总体而言，我非常擅长预测未来。

我并不完美，但在人类当中，我预测未来的准确率非常高。

问题在于，这有点像“卡珊德拉效应”：我看到了未来，但人们不相信我说的事情很可能真的会发生。

我预测的时间点未必总是完全准确，但大方向往往会兑现。

历史最终会给出答案。

你会发现，我说过的话很少完全落空，大部分都相当准确，最终也会成为现实，除非人们及时改变了方向。

贝多斯： 关于未来的判断，你对哪一部分更有信心？是AI，还是政治？

马斯克： 数字超级智能之所以被称为“奇点”，和黑洞被称为奇点的原因差不多，你无法知道穿越那个节点之后会发生什么。

它几乎会吞噬其他一切议题。

所以，从真正重大的宏观影响来看，AI和机器人将在不到10年的时间里主导一切。

到那时，我们刚才讨论的很多政治问题，可能都会显得没那么重要，甚至变得无关紧要。

AI与机器人的革命会更早到来。

我认为，它会比英国内战更快发生。英国内战大概还要20年，而AI与机器人的奇点，10年内就会到来。

贝多斯： 希望那些仁慈而全能的AI，能够阻止这样的结果。

马斯克： 它们很可能会。

贝多斯： 我并不同意你说的每一句话，但与你交谈始终非常精彩。非常感谢你。

马斯克： 不客气。至少我不无聊。

贝多斯： 你确实一点也不无聊。