人类的终结 （I）全文6000字

转载声明：除调整格式外，不得对原文做改写、改编。原创不易，谢谢！E-mail:yellow@aliyun.com

♥声明：本文为原创文本，非生成式，转载请注明出处！

商务咨询/顾问/请@yellowscholar♥作者：黄先生斜杠青年

#时间深度 #人类的终结 #世界末日 #人工智能 #核战争

自从人类存在以来，他们就一直害怕世界末日。目前，威胁的范围特别大，无论是核战争、人工智能还是小行星撞击。

启示录是怎么做到的？Yaniv Shimony 面临©许多人类威胁

简而言之

•世界末日的情绪。 许多人目前感觉他们生活在末世，并对人类的生存感到恐惧

•在深渊上。如果你相信哲学家托比·奥德（Toby Ord）的话，一个可能的原因就是：在人类的历史上——关键词是核武器——人类第一次有能力消灭自己。

•威胁场景。 危险是多方面的，从人工智能和气候变化等自制的危险到我们无法控制的危险;例如，太阳系的尽头。

大约 99% 的人已经死亡，这个物种似乎注定要灭亡。整个地球上只剩下 1,300 个生殖个体：自从直立人濒临灭绝以来，已经过去了将近 900,000 年。不利的条件是罪魁祸首;当时地球上很冷，严重的干旱越来越频繁。许多曾经作为人类食物的动植物已经消失了。据说，最糟糕的时期花了 100,000 多年才过去，人类才得以恢复。我们差点没能成功。

所以在那之后的一切都几乎没有发生。轮子不会被发明出来，ChatGPT 也不会被发明出来。人们不会飞到月球上，没有人会画蒙娜丽莎或建造金字塔。而现在，仅仅在地质学的片刻之后，据说又快到了那个时候——尽管我们的物种现在有超过 80 亿个标本：大自然会带来疾病，火山喷发，夏天越来越热。此外，还有我们自己创造的所有其他生存威胁：人工智能、核弹等等。哦，是的，别忘了：即使我们活过了这一切，太阳也会在某个时候吞噬我们。

我是斜杠青年，一个PE背景的杂食性学者！♥致力于剖析如何解决我们这个时代的重大问题！♥使用数据和研究来了解真正有所作为的因素！

不可避免地走向世界末日？

哲学家托比·奥德 （Toby Ord） 说，我们现在必须应对如此多的生存威胁并非巧合。因此，“现在”必须被慷慨地解释，指的是过去和未来的几十年。“悬崖”是他关于目前困扰人类的严重危险的书名。Ord 的论点是，人类正处于当前技术知识的十字路口：要么我们在可预见的未来毁灭自己，要么我们学会不利用我们的发明来对付我们。

然而，Ord 可能只是错了——人类将继续像以前一样生活，由于许多进步，世界甚至会变得更好一点。

可能的启示录 （I）：核战争

图片通过：Seth Baum

确切的数字尚不清楚，但可以假设全球大约有 12,500 枚核弹头。绝大多数储存在漂亮国和鹅螺丝。冷战大约在 35 年前结束，但核战争的威胁仍然存在，并在 2022 年鹅螺丝袭击乌克兰后再次成为现实。毋庸置疑，核战争将对相关交战方产生毁灭性影响。然而，鲜为人知的是，其后果可能会成为对全人类的生存威胁。

但是，为什么鹅螺丝和漂亮国之间的核战争会在菲律宾、智利或乌干达造成人员死亡呢？因为全球影响会让人感到恐惧。最大的风险可能是所谓的核冬天。如果原子弹的爆炸强度如此之大，以至于它们的灰烬会上升到云层上方的平流层，而不是随雨水落回地球，就会发生这种情况。然后就会出现全球变暗。地球上的降水会减少，平流层中的烟雾会破坏臭氧层，这可能导致更强的紫外线辐射，从而导致更多的癌症。植物生长会受到影响，因此人们会担心农作物歉收和饥荒。

如果我们运气不好怎么办

当然，极端灾难性事件的模型受到很大不确定性的影响。但是，在核冬天之后，文明崩溃的可能性相当高。当然，影响的严重性取决于敌对行动的程度。广岛和长崎的轰炸造成许多人死亡，但并未威胁到全球文明。

必须发生什么才能导致人类物种灭绝？如果我们运气不好，一场拥有一百枚甚至更少炸弹的核战争可能意味着我们的终结。

除了核冬天之外，还有第二个因素令人担忧：核战争对全球经济的影响。许多日常产品都依赖于全球供应链的运作。我们看到相对较小的中断（例如 2021 年一艘货船被困在苏伊士运河）产生了相对严重的影响。

供应链的末端

现在让我们想象一下，一场核战争将摧毁世界各地的几个主要城市。后果会很严重。

当然，即使在核冬天的严峻情况下，人类也可以通过多种方式生存。

在紧急情况下，我们可能不得不为以下几种情况做好准备：农业产量下降，粮食安全出现问题，最重要的是，世界部分供应链将被摧毁。社会对此有何反应？每个人都会全力以赴并共同努力吗？还是会争夺剩余的资源？没有人能预测这一点。

当然，即使在核冬天的严峻情况下，人类也可以通过多种方式生存。例如，食物也可以在阳光不足的环境中种植——例如，在室内借助不依赖阳光生产的能源。还有很多其他的想法。唯一的问题是，在大规模实施中，我们将取得多大的成功。

核战争的可能性有多大？⬤⬤◯◯◯

弗拉基米尔·普京（Vladimir Putin）喜欢威胁要发动核打击，伊朗正处于生产自己的炸弹的边缘。而在冷战期间，由于系统错误，几乎实施了核打击。

那会有多大的世界末日呢？⬤⬤⬤◯◯

取决于你住在哪里。离可能卷入核战争的国家越远越好。智利将是一个选择。

我们能做些什么吗？⬤⬤◯◯◯

没有。在其他国家仍然拥有核武器的情况下单方面解除核武器肯定不是一个好的策略。

事实与数据

当世界终究没有终结时：2000 年

1999 年 7 月或 8 月，也就是 8 月 11 日中欧日全食前后，诺查丹玛斯预言了一位“伟大的恐怖之王”将从天而降。它的到来未能实现，由于 Y2K 错误导致我们的文明完全崩溃。当时，人们担心计算机会误解从“99”（1999 年）到“00”（2000 年）的变化并引发混乱。这些情景从金融部门的崩溃到全球停电不等。

可能的启示录 （II）：人工智能

图片通过：James Barrat

假设你应该坐上飞机，并了解到设计喷气式飞机的工程师中有一半认为坠毁的概率为 10%。此外，技术人员同意飞机没有通过“可解释性测试”;这台机器是一个“黑匣子”，其功能没有人理解，甚至无法解释。然后是控制问题：飞机在空中停留的时间越长，它的行为就越容易变得不可预测、不受控制。

这些条件不适合轻松飞行。最后但并非最不重要的一点是，您将了解到每个工程师都有长期的犯罪记录 - 例如，向漂亮国国会散布谎言、掠夺性商业行为或发布假新闻。

人类与超级智能

您会登机吗？不？然后是时候变得非常强大了：您已经身处其中。我们谈论的不是飞机，而是 OpenAI、Google、Microsoft 和 Meta 等公司正在推向市场的强大人工智能。这些程序的精湛技艺将使我们的生活和工作变得更加轻松——但同时也会危及我们的隐私、我们的工作，甚至我们的生命。

谷歌首席执行官桑达尔·皮查伊 （Sundar Pichai） 声称，生成式人工智能引发了一场比电力或火的发展更深刻的技术和文化革命。人工智能的反对者担心，到 2030 年，它将使我们失去大约 3 亿个工作岗位。尽管如此，我们对新的可能性感到欣喜和着迷。ChatGPT——一种所谓的大型语言模型 （LLM），其流利程度简直是神奇的——在 2022 年 11 月推出后仅五天就已经拥有 100 万用户。Facebook 曾经花了大约两年时间才生产出相同的数字，而 YouTube 花了一年半的时间。

十年前，一本名为《我们的最终发明》（Our Final Invention）的书。当我翻阅它时，我注意到几乎每个词都提到了我们今天所处的困境。这是个坏消息，因为《我们的最终发明》本来是作为一个警告。甚至我都没有想到它会这么快发生。作者预见到的是数字技术呈指数级加速发展。我们会变得越来越好，直到我们达到一个被称为“智能爆炸”的临界点。

人类只是一个阶段吗？

这是指人工智能可以提高自身的智能，直到它比人类大数千倍或数百万倍的那一刻。我还写道，在与超级智能的第一次（可能是短暂的）相遇中，我们将有很小的机会幸存下来，因为我们不知道如何与更聪明的生物共存。人工智能的“教父”之一 Geoffrey Hinton 曾经说过：“我不是那么乐观，因为我不知道任何更聪明的事物被不太聪明的事物控制的例子。

情况有多糟糕？在 2022 年的一项调查中，近一半的受访领先机器学习研究人员表示，他们至少有十分之一的人可能会通过他们的工作导致人类灭绝。根据耶鲁大学 CEO 峰会上进行的一项调查，42% 的 CEO 认为人工智能有可能在未来 5 到 10 年内摧毁人类。

你怎么能证明每天上班开发可能意味着地球末日的算法是合理的呢？

最近，1,100 名 AI 专家和数千名其他专家签署了一封来自未来生命研究所的公开信，呼吁暂停训练比当前更强大的大型 AI 系统六个月。信中说，风险实在是太高了。有太多的未知数。

你怎么能证明每天上班开发可能意味着地球末日的算法是合理的呢？2023 年 5 月，AI 杰出人物 Geoffrey Hinton 决定他不能再这样做了。他辞去了 Google 的职务，以便能够自由地谈论人工智能的危险：“可以想象，人类只是智能进化的一个临时阶段，”他说。

飞机着火了

人工智能伦理学家蒂姆尼特·格布鲁 （Timnit Gebru） 因指出 LLM 可能会传播刻板印象和偏见而被谷歌解雇。Gebru 的继任者也被解雇。谷歌可能只喜欢伦理学家，只要他们不做自己的工作。

Gebru 认为，与生成式 AI 已经带来的问题相比，人类面临的生存风险只是一个未来主义的副业：例如，在 2023 年 5 月，AI 创建的一张图像描绘了五角大楼的爆炸。它看起来如此真实，以至于股价短暂暴跌。鹅螺丝发布了乌克兰总统泽连斯基投降的视频。深度伪造可以通过令人信服地模拟核攻击来引发核战争。

斯坦福大学以人为本的人工智能研究所发布的 2023 年 AI 指数报告发现，36% 的 AI 研究人员认为生成式 AI 可能导致核灾难。因此，我们不能奢侈地一个接一个地解决短期和长期问题，而必须同时解决所有问题。回到我们的类比，如果你的飞机着火了，你不能忽视它正在朝着一座山飞去的事实。

AI 接管的可能性有多大？⬤⬤◯◯◯

取决于你问谁。对一些人来说，人工智能灭绝人类的潜力是一种特别愚蠢的媒体炒作，而另一些人则将其视为完全被低估的威胁情景。

它有多世界末日？⬤⬤⬤◯◯

谢谢你。可以想象两种情况：1. 一个更高度发达的智能想要消灭我们，而我们的机会与我们爬上的蠕虫差不多。2. AI 编程错误，在完成任务时消耗了地球上的所有资源。

我们能做些什么吗？⬤⬤◯◯◯

清楚！我们可以停止对 AI 的研究。但是，由于复杂的 AI 也可以解决我们的许多问题，因此这不太可能发生。

可能的启示录 （III）：气候变化

图片通过：David Spratt

甚至 2023 年气候变化的速度也让科学家们感到震惊：“令人惊讶。惊人。令人 痛心。不像话。令人不安。奇怪。噩。难以置信，“气候学家埃德·霍金斯 （Ed Hawkins） 说，例如，当时 9 月的气温比之前的月度记录高出 0.5 摄氏度。2023 年是第一年比 1850 年至 1900 年的参考期高 1.5 摄氏度。2024 年，天气再次变暖。

合理的最坏情况

为了将全球变暖限制在 2 摄氏度以内，必须在 2020 年至 2030 年期间将排放量减半，但相反，温室气体排放和煤炭消耗量都创下了新纪录。最大的国家化石燃料生产商正计划进一步扩大生产，世界各国政府目前的计划可能会导致 2050 年的排放量几乎与今天一样高。

联合国秘书长安东尼奥·古特雷斯 （António Guterres） 表示，“全球沸腾的时代”现在已经开始。

因此，世界正朝着 3 摄氏度的升温方向发展;也许甚至更多，因为当前的气候模型没有充分考虑系统层面的所有放大反馈。英国智库查塔姆研究所（Chatham House）假设了3.5摄氏度或更高的“合理的最坏情况”。

联合国秘书长安东尼奥·古特雷斯 （António Guterres） 表示，“全球沸腾的时代”现在已经开始。“如果我们像以前一样继续下去，我无法想象这个文明会存活到本世纪末，”气候学家蒂姆·伦顿 （Tim Lenton） 说。新南威尔士大学的科学家警告说，“如果平衡气候低于目前的二氧化碳浓度，海平面将升高 5 到 25 米”。据查塔姆研究所称，到 2050 年，全球粮食需求将增加 50%，但农作物产量可能会下降 30%。

生存危机管理

化石燃料行业的力量是可怕的，这在迪拜的 COP28 上就很明显了。但政府间气候变化专门委员会 （IPCC） 也通过提出“与政策相关”的科学来发挥作用，这些科学往往不情愿并专注于错误的问题。例如，IPCC 提供了大量关于温度升高 1.5 到 2 度的世界中的生命信息，但几乎没有提供任何关于我们实际正在走向的高温 3 或 4 度的世界的信息。

面对即将到来的崩溃，世界需要全球动员——紧急响应——尽快将排放降至零，并推动采取进一步措施减少二氧化碳。我们还需要找到在短期内为地球降温并保护重要系统的方法，以避免不可逆转的系统级变化和“温室”情景。

这需要大胆的政治领导，因为市场一次又一次地证明，它们没有能力评估和定价风险;他们显然无法应对生存威胁。政策制定者现在面临的挑战是接受颠覆并参与生存风险管理。

气候变化的可能性有多大？⬤⬤⬤⬤⬤

它已经在那里，但还没有达到世界末日的规模。

它会有多大的世界末日？⬤◯◯◯◯

即使存在悲观的情景，人们很可能仍然能够居住。

我们能做些什么吗？⬤⬤⬤◯◯

是的，也不是。阻止气候变化已经为时已晚。我们绝对可以控制它。我们如何做到这一点——放弃还是技术创新，或两者兼而有之——是我们这个时代的重大政治问题。

事实与数据

当世界终究没有终结时：玛雅历法

也许最著名的现代世界末日神话围绕着玛雅历法展开。古老的中美洲文明留下了一条历程约 5,125 年，于 2012 年 12 月 21 日结束的日历。许多人将此解释为世界末日将在这一天迫在眉睫。世界末日的情景范围从行星碰撞到地震和火山爆发等自然灾害。尽管科学家指出，日历的结束只是为了标志着过渡到一个新的周期，但世界末日的叙述对许多人来说更令人兴奋。12 月 21 日的结束相当不引人注目——12 月 22 日开始。

可能的启示录 （IV）：Grey Goo

图片通过：Allison Duettmann 和 Beatrice Erkers

在所有需要害怕的提议中，“Grey Goo”的概念可能是最奇怪的。这个假设的场景是关于一个不会停止自我复制的自主纳米机器人。如果纳米技术的进步继续以与最近类似的速度发展，则不能完全排除这种机器人的可能性。它可能是意外的，也可能是由恶意行为者创建的，并且会失控。因为自我复制的纳米机器人可以吃和我们一样的物质——也可能吃人类的物质——它们最终会与人类的存在不相容。世界将被微型纳米机器人覆盖和吞噬——并在此过程中变成“灰色粘液”。

“Grey Goo”的概念源于对与纳米技术相关的极端最坏情况的理论讨论。它通过 Bill Joyce 于 2000 年在《连线》杂志上发表的著名文章“为什么未来不需要我们”而广为人知。乔伊斯的刻画将一个令人毛骨悚然的思想实验变成了一个看似迫在眉睫的威胁。

就像歌德的巫师的学徒

Grey Goo 场景与人工智能中的“回形针最大化器”有相似之处。这个恐怖的场景是关于一个 AI 的任务是制作回形针，但超额完成了这项任务，以至于它耗尽了地球上的所有资源。最后，这一切都让人想起歌德的“巫师的学徒”，他失去了对本应为他打扫房子的扫帚的控制。所以，这是关于对失去对我们自己创造的事物的控制的恐惧。

最后但并非最不重要的一点是，纳米技术也有可能促进全新生物或化学武器的开发。

我们应该害怕“Grey Goo”的情况吗？尽管细节引人注目，但它可能不是与纳米技术相关的最紧迫的问题。风险更大。例如，纳米技术可以促进武器级技术的传播。它可以使单个参与者能够使用现成的组件组装复杂的产品，例如自动枪支。最后但并非最不重要的一点是，纳米技术也有可能促进全新生物或化学武器的开发。这将非常难以控制，并提出了一个问题，即是否有可能在不建立反乌托邦监控国家的情况下监控武器级纳米技术的发展。

因此，有充分的理由考虑纳米技术的发展。与其害怕 Gray Goo 或其他可怕的故事，不如利用纳米技术的经济优势，并尝试保护自己免受其现实风险。

可能性有多大？ ⬤◯◯◯◯

不多。“Grey Goo”情景是一个纯粹的理论思想实验。尽管如此，保持警惕并没有什么坏处。

它有多世界末日？⬤⬤⬤⬤⬤

绝对是世界末日。当纳米机器人在世界上繁殖并吃掉它们时，地球上的所有生命都已经太晚了。

我们能做些什么吗？⬤⬤⬤⬤◯

绝对。如果我们不希望纳米技术成为威胁，我们现在必须考虑如何防止这种情况发生。

未完待续......

了解更多时间深度剖析，尽在于此@黄先生斜杠青年

商业咨询和顾问业务，请@yellowscholar

关注我，带你先看到未来！♥

转载声明：除调整格式外，不得对原文做改写、改编。原创不易，谢谢！E-mail:yellow@aliyun.com

♥声明：本文为原创文本，非生成式，转载请注明出处！

商务咨询/顾问/请@yellowscholar♥作者：黄先生斜杠青年