萨姆·奥特曼对AGI的三个最新观察

本文发布于萨姆·奥特曼的个人博客（封面图来自他的X账号）。

原文链接：https://blog.samaltman.com/three-observations

我们的使命是确保AGI（人工智能）造福全人类。

开始指向AGI*（文章最后有一个特殊的备注）的系统正在进入视野，因此我们认为了解我们所處的时刻很重要。AGI是一个定义薄弱的术语，但一般来说，我们的意思是它是一个可以在人类层面上解决许多领域日益复杂的问题的系统。

人们是工具建设者，具有理解和创造的固有动力，这导致世界对我们所有人来说变得更好。每一代人都建立在前几代人的发现之上，创造出更有能力的工具——电力、晶体管、计算机、互联网，以及很快的AGI。

随着时间的推移，人类创新的稳步前进给人们生活的几乎方方面面带来了以前无法想象的繁荣和改善。

从某种意义上说，AGI只是我们正在共同建设的人类进步日益高的脚手架中的另一个工具。从另一个意义上说，这是很难不说“这次是不同的”的开始；我们面前的经济增长看起来令人惊叹，我们现在可以想象一个我们可以治愈所有疾病，有更多的时间与家人一起享受，并可以充分实现我们的创造性潜力的世界。

十年后，也许地球上的每个人都将能够完成比今天最有影响力的人更多的成就。

我们继续看到人工智能发展的快速进展。以下是关于人工智能经济学的三个观察结果：

1.人工智能模型的智能大致等于用于训练和运行它的资源的对数。这些资源主要是训练计算、数据和推理计算。看来，你可以任意花费金钱，并获得持续和可预测的收益；预测这一点的缩放定律在许多数量级上都是准确的。

2.使用给定级别的人工智能的成本每12个月下降约10倍，而更低的价格会导致更多的使用。您可以在代币成本中看到这一点，从2023年初的GPT-4到2024年中期的GPT-4o，在此期间，每个代币的价格下降了约150倍。摩尔定律每18个月改变2次世界；这强得令人难以置信。

3.线性增加智力的社会经济价值本质上是超级指数的。其后果是，我们认为没有理由在不久的将来停止指数级增长的投资。

如果这三个观察结果继续正确，对社会的影响将是重大的。

我们现在开始推出人工智能代理，这最终会感觉像虚拟同事。

让我们想象一下软件工程代理的案例，这是一个我们期望特别重要的代理。想象一下，这个代理最终将能够做拥有几年经验的顶级公司软件工程师可以做的大多数事情，任务长达几天。它不会有最大的新想法，它将需要大量的人类监督和指导，它在某些事情上会很棒，但在其他事情上却出奇地糟糕。

尽管如此，还是把它想象成一个真实但相对初级的虚拟同事。现在想象一下他们中的1000人。或者其中100万个。现在想象一下，在每个知识领域工作中的这些代理人。

在某些方面，人工智能在经济上可能就像晶体管一样——一个巨大的科学发现，规模很好，几乎深入到经济的每个角落。我们不太考虑晶体管或晶体管公司，收益分布得非常广泛。但我们确实希望我们的电脑、电视、汽车、玩具等能创造奇迹。

世界不会一下子改变；它永远不会改变。短期内，生活将基本保持不变，2025年的人们大多将以与2024年相同的方式度过他们的时间。我们仍然会坠入爱河，组建家庭，在网上打架，在大自然中徒步旅行，等等。

但未来将以不可忽视的方式向我们走来，我们社会和经济的长期变化将是巨大的。我们将找到新的事情可以做，对彼此有用的新方法，以及竞争的新方法，但它们可能看起来不太像今天的工作。

代理、意志和决心可能会非常有价值。正确决定该做什么，并弄清楚如何驾驭一个不断变化的世界将具有巨大的价值；复原力和适应能力将是培养的有帮助技能。AGI将成为人类意志的最大杠杆，并使个人能够比以往产生更大的影响，而不是更少。

我们预计AGI的影响是不平衡的。虽然一些行业变化不大，但科学进步可能会比今天快得多；AGI的这种影响可能会超过其他一切。

许多商品的价格最终将大幅下降（目前，情报成本和能源成本限制了很多东西），奢侈品和一些固有有限的资源（如土地）的价格可能会大幅上涨。

从技术上讲，我们面前的路看起来相当清晰。但关于我们应该如何将AGI融入社会的公共政策和集体意见非常重要；我们尽早和经常推出产品的原因之一是给社会和技术时间共同发展。

人工智能将深入经济和社会的所有领域；我们期望一切都很智能。我们中的许多人预计，需要让人们比以往更多地控制技术，包括更多的开源，并接受安全和个人赋权之间的平衡，这将需要权衡。

虽然我们永远不想鲁莽，可能会有一些与AGI安全相关的重大决定和限制，但从方向上讲，随着我们越来越接近实现AGI，我们认为更倾向于个人赋权很重要；我们可以看到的另一条可能的道路是，专制政府使用人工智能通过大规模监控和失去自主权来控制其人口。

确保AGI的好处得到广泛分配至关重要。技术进步的历史影响表明，我们关心的大多数指标（健康结果、经济繁荣等）平均和长期都会变得更好，但增加平等似乎不是技术决定的，要做到这一点可能需要新的想法。

特别是，资本和劳动之间的权力平衡似乎很容易被打乱，这可能需要早期干预。我们对听起来很奇怪的想法持开放态度，比如提供一些“计算预算”，使地球上的每个人都能使用大量的人工智能，但我们也可以看到很多方法，只要坚持不懈地将智能成本降低到尽可能低，就能产生预期的效果。

2035年，任何人都应该能够调动与2025年每个人相当的智力能力；每个人都应该拥有无限的天才来指导，无论他们能想象到如何。现在有很多人才没有充分表达自己的资源，如果我们改变这一点，由此产生的世界创造性产出将给我们所有人带来巨大的利益。

特别感谢Josh Achiam、Boaz Barak和Aleksander Madry审查了这个草案。

*通过在这里使用AGI一词，我们的目标是进行清晰的沟通，我们无意改变或解释定义我们与微软关系的定义和流程。我们完全期待与微软长期合作。这个脚注看起来很傻，但另一方面，我们知道一些记者会试图通过写一些愚蠢的东西来获得点击，所以在这里我们先发制人......

| |