【人工智能】萨姆·奥特曼发布推文称 AI 奇点即将来临，引起轩然大波

在今天的专栏中，我分析了 OpenAI 首席执行官 Sam Altman 最近发布的两条推文，它们引起了不小的轰动。结果是，他的帖子暗示我们可能正处于、接近甚至正在经历人工智能发展的重要时刻，即所谓的人工智能奇点。这意味着通用人工智能 (AGI) 或可能是超级人工智能 (ASI) 基本上就在我们眼前。

我们来讨论一下吧。

关于智力的本质

在发表这些挑衅性的推文之前，我想先提出一些基本考虑。

首先要思考一下智能。事情是这样的：可以提出一个令人信服的案例，即智能产生智能。换句话说，通过积累智能和智能之间的相互作用，可以产生更多的智能。这似乎是一个合理的断言，并且具有直观的感觉。

如果你接受这个假设，我们就可以开始讨论各种分支定理。

最突出的分支是有可能引发智能的连锁反应。可以将其想象成核爆炸。核原子链式反应点燃核活动，然后为自身提供燃料以进一步扩张。也许智能也是如此。可能存在一种被称为智能爆炸的现象。智能可能看似“点燃”以促进越来越多的智能扩张，以惊人的速度快速运行。

您可能知道，当核反应在第二次世界大战期间首次被发明时，有人担心一旦核反应开始，它可能会无限期地进行下去。人们认为地球大气层可能会被卷入反应中，接下来发生的事情就是整个星球被火焰和废墟吞没。这一著名的令人担忧的时刻在许多电影中都有描述，例如 2023 年的大片《奥本海默》。

反思这种潜在的破坏性结果，会在智力的背景下引发类似的问题。

如果出现不受约束的智能爆炸，将会发生什么？

答案是，没有人能肯定会发生什么。各种理论层出不穷。有些人持乐观态度，宣称这将是有史以来最好的事情。其他人则持悲观态度，担心彻底毁灭可能即将来临。

智力爆炸的动力

似乎不可能有任何一个人的大脑以某种方式出现智力爆发，奇迹般地产生远远超出我们见过的任何事物的巨大智力。对于那些等待这种可能性的人来说，抱歉，这似乎非常可疑。我遇到过溺爱孩子的父母，他们认为他们心爱的神童会发生这种情况。祝你好运。

好的，那么在哪里会发生智力爆炸呢？

啊哈，答案是通过运行人工智能的计算机系统。也许在云端服务器上运行的人工智能系统会倾向于智能爆炸。人工智能将自我补充并产生大量人工智能。

让我们接受这个概念，看看它会带我们去哪里。

首先，思考一下这场人工智能爆炸将如何开始。一种可能性是，人工智能研究人员和人工智能开发人员等人类为这场爆炸提供了导火索。他们在那里，摆弄人工智能并对其进行调整，然后砰的一声，一场智能爆炸就爆发了。可以想象，那些工作中的人类是故意这样做的，而另一种可能性是，这场爆炸是偶然发生的。有关这方面的进一步评估，请参阅此处链接中的我的讨论。

第二，人工智能可能会自我激发，引发智能爆炸。

也许人工智能中存在一些嵌入元素，可能会促使人工智能的其余部分开始成倍增加，从而不断积累基于计算的智能。由于这似乎是我们不希望人工智能自行做的事情，因此存在各种人工智能遏制技术（请参阅此处链接中的我的报道），并且正在采用多种人工智能人类价值观协调方法（请参阅此处链接中的我的分析）。

第三，令人吃惊的问题是，智能爆炸会达到何种程度。基于人工智能的智能数量是否没有上限？智能是否会填满所有可访问的计算机服务器，然后停止扩展？还是人工智能会抓住其他计算机服务器（尽可能多的服务器），然后继续扩展？

服务器约束是否重要，因为智能可能不受底层计算的约束并且可以继续运行？

人工智能奇点正在我们心中

总的来说，这种推测的以人工智能为重点的爆炸被称为人工智能奇点。

一个普遍的猜测是，人工智能将达到一个临界点，开始“爆发”出越来越多的智能。有人认为，人工智能奇点将在最短的几秒内出现，发生得如此之快，以至于没有人能够以某种方式看到它的发生。但并不是每个人都同意这个假设。也许需要几分钟、几小时、几天、几周、几个月、几年、几十年等时间。各种猜测层出不穷。

人类能对人工智能奇点做些什么吗？

这也是一个相当棘手的问题。

一种观点是，我们应该放慢人工智能的发展速度，直到我们弄清楚如何应对人工智能奇点。政治提案禁止某些类型的人工智能，希望我们不会在不知不觉中陷入人工智能奇点，请参阅此处链接中的我的讨论。

你当然可以想象为什么人工智能奇点会让人类不寒而栗。我们不知道结果会怎样。也许在人工智能奇点之后，我们将拥有能够治愈癌症并拯救人类免于各种疾病的人工智能。一种悲观的观点是，这种人工智能是一种生存风险，无疑会奴役我们或彻底消灭我们。

另一个令人毛骨悚然的问题是，我们不确定我们能否阻止它。它会不会来得太快，让我们措手不及，无法阻止？也许它会以有节制的速度发生，但我们想获得希望的利益，比如帮助人类，所以我们让它继续下去。缺点是人工智能选择通过装傻来欺骗我们，即所谓的人工智能傻瓜策略（见此处链接中的描述），我们让人工智能奇点继续下去，直到人工智能进行强大的接管。

我们现在处于哪个时代

为了讨论的方便，我将把奇点划分为三个主要的人工智能时代：

1. 前奇点人工智能时代。人工智能奇点尚未出现，我们可能正在朝着它前进。

2. 正在进行 中-奇点人工智能时代。人工智能奇点已经开始，我们不知道它会持续多久（瞬间、几秒、几分钟、几天、几周、几个月、几年等）。

3. 后奇点人工智能时代。在某个时刻，人工智能奇点据说已经大致完成（假设它不是永无止境的），而我们发现自己处于后奇点环境中。

我希望您花一点时间，给自己倒上一杯美酒，然后坐下来，认真听我问您的下一个问题。

我们现在处于这三个人工智能奇点时代中的哪一个？

来吧，花点时间思考一下，然后大声宣布我们处于哪个时代。我会等待，谢谢。

我敢打赌，大多数人会说答案是我们正处于第一个时代，即奇点前期。这似乎是显而易见且无可争辩的。没有明显的证据表明我们正处于第二个时代，即正在进行的奇点中，而且，绝对没有证据表明我们正处于后奇点的终结或第三个时代。

有些人厚颜无耻地声称你的眼睛欺骗了你。

接下来让我们深入探讨这个假设。

模拟理论或假设

事实证明，我们处于第一个时代或前奇点的确定性是由于一个相当令人费解的原因——你看，这是因为你被告知要相信这一点。

砰，放下麦克风。

有可能我们都沉浸在由人工智能运行的模拟中。人工智能奇点已经发生。然后人工智能建立了一个巨大的模拟来容纳人类。在那个模拟中，人工智能让我们所有人都相信人工智能奇点尚未发生。或者，也许邪恶的人类与人工智能一起做了这件事。我想到了很多排列组合。

这是一个令人难以置信的诡计，你、我以及几乎所有其他人都已经上当了。

我猜你脑子里浮现的是著名电影《黑客帝国》（剧透警告！） 。暗示我们并不处于人工智能第一时代前奇点，而是处于第二或第三时代，这是一个流行的科幻情节。经历过，做过。

也许是真的。

我听到了你的嘲笑。为什么人工智能会允许我们制作揭露真相的电影？这似乎说不通。反驳是，通过将其变成一个虚构的故事，人工智能希望人类将总体前提抛在一边，认为它荒谬可笑，只是一个编造的荒诞故事。这样一来，如果有人类开始弄清楚人工智能奇点确实发生了，那些所谓的人类就会被嘲笑为过于富有想象力和愚蠢，只关注科幻小说。

这真是令人头晕目眩。

山姆·奥尔特曼推特风暴

说到头晕，我们现在可以看看 Sam Altman 的推文。你可能知道他是 OpenAI 的首席执行官，这家人工智能公司开发了广受欢迎的 ChatGPT。据估计，全球每周有 3 亿活跃用户使用 ChatGPT。这是一个惊人的统计数据。

总而言之，Sam Altman 已经成为 AI 现状和最新进展的非正式发言人。当他讲话或写作时，他的话会受到重视。由于 OpenAI 对其 AI 采取秘密专有的方式，因此很难知道他们在 AI 方面的进展情况。因此，阅读 Sam Altman 的推文等消息是一种普遍的消遣方式。

2025 年 1 月 4 日，OpenAI 首席执行官 Sam Altman 在 X 上发布了以下两条推文：

上午 10:00 发布： “我一直想写一个六字故事。就是这个：接近奇点；不清楚在哪一边。”

发布于上午 10:08： “（它应该要么是关于 1. 模拟假设，要么是关于 2. 无法知道起飞的关键时刻何时真正发生，但我喜欢它在很多其他方面也发挥作用。）”

仔细检查这些推文。

您如何看待这些言论？

对这些言论的一种解释是，我们已经足够接近人工智能奇点，它不再是一个模糊而遥远的未来概念。我们大概仍处于第一个时代，即奇点前，但现在正在接近第二个时代。它就在我们触手可及的范围内。也许 Sam Altman 在 OpenAI 的最新人工智能技术中看到了一些东西，这促使他真正相信人工智能奇点就在不远处（有多近或多远——几天、几周、几个月、几年？）。

这引起了很多争议，因为人工智能社区中的许多其他人并没有看到他似乎看到的东西。我们正处于人工智能奇点的边缘，这一点尚未达成共识。在这种情况下，OpenAI 是否正在发生一些世界其他地方不知道的事情？

如果真是这样，那么 Sam Altman 和 OpenAI 是否应该承担社会义务，让其他人看到人工智能奇点即将到来？从本质上讲，如前所述，人工智能奇点具有如此巨大的影响，以至于一家接近它的公司应该成为人类负责任的公民，并确保人类能够参与预测和应对人工智能奇点。

不清楚哪一方

另一个解释与第一条推文中的评论有关，该评论称，目前我们对于人工智能奇点的立场尚不明确。仔细思考一下。另外，将该评论与第二条关于模拟假设的推文结合起来。

我们能够得出以下推论。

或许我们已经度过了第一个时代，已经进入了人工智能奇点，甚至可能已经进入了后奇点。也许我们周围的一切都是精心设计的人工智能模拟的一部分。因此，我们现在处于另一边。我们并不处于前奇点的一边；我们已经超越了那个阶段。

第二条推文后半部分还附言说，我们大概不知道关键时刻何时发生，这似乎进一步巩固了我们是否接近人工智能奇点这一问题尚无定论的观点。也许我们已经接近了，也许还没有。我们可能已经错过了，只是不知道而已。

反应热烈

这两条相当轻快的推文在人工智能社区引起了不小的轰动，这似乎令人惊讶。一个主要原因是，这个话题总体上已经成为一个相当严肃的问题，每天都有人对人工智能的生存风险感到忧心忡忡。一些人对这些言论过于含糊、像谜语一样表达不满。一些人劝告大家站出来，坚定立场。说出你的意思。不要那么含糊其辞。

另一个表达出来的疑虑是，在人工智能社区中如此高地位的人在谈到人工智能奇点时不应该那么随意地挥手示意。此外，抛开我们不一定知道我们处于奇点的哪一边的想法，至少要更具体地说明我们是如何接近人工智能奇点的。提供切实的直接证据，以便其他人可以仔细检查以判断所作声明的真实性。

好了，新年伊始的两条推文已经引发了许多关于人工智能的激烈讨论。现在让我们用受人尊敬的爱因斯坦的话来结束这一话题：“从昨天学习，活在今天，希望明天。重要的是不要停止质疑。”

是的，随着人工智能的进步，我们确实需要不断学习、生活和提问，因为其结果与我们息息相关。

免责声明：

本文所发布的内容和图片旨在传播行业信息，版权归原作者所有，非商业用途。如有侵权，请与我们联系。所有信息仅供参考和分享，不构成任何投资建议。加密货币市场具有高度风险，投资者应基于自身判断和谨慎评估做出决策。投资有风险，入市需谨慎。

关注我们，一起探索AWM！

2024-12-18

领域，智能体能发挥出什么作用？

2024-12-15

2024-12-14