扎克伯格的人工智能梦想：我们真的准备好迎接超智能吗？

尽管我们只是在勇敢的新人工智能时代的头几年，但人工智能仍在造成严重的经济和环境破坏。7月发布的一份新报告显示，人工智能已经消灭了至少15%的入门级工作，而另一份报告则将这项技术认定为失业的五大原因之一。与此同时，人工智能数据中心正在从当地社区抽取水资源，且根据彭博社的报道，自2022年以来建造的三分之二的数据中心位于高水资源压力地区。

但根据Meta首席执行官马克·扎克伯格的说法，所有这些都应该让位于对人工智能超智能的期待，他对此表示“非常乐观”。

“在过去几个月里，我们开始看到我们的人工智能系统在自我改进，”扎克伯格在7月30日发布的一篇帖子中写道。“目前的改进虽然进展缓慢，但却是不可否认的。开发超智能现在已经在我们的视野中。”

与今天的大型语言模型（LLMs）——如ChatGPT或Claude——不同，超智能是一个技术的门槛，在这个门槛上，人工智能模型能够自我改进，理论上将开启一个人工智能复杂性的新时代。人工智能专家将超智能被视为一种进化，甚至超越了长期以来被认为是人工智能研究“圣杯”的人工通用智能（AGI），也就是我们的算法创造出超越人类智能的时刻。

由于没有经过同行评审的论文详细描述Meta的“超智能”突破，因此无法知道扎克伯格的说法是否有效，但最近的研究（与Meta无关）显示了人工智能自我改进的方式。例如，一篇于2024年10月上传到预印本服务器arXiv的论文详细介绍了一种名为哥德尔代理的理论设备的内部工作原理，该设备在正式证明改进潜在好处时，能够进行自我递归改进。目前，一些专家认为，超智能可能在实现AGI后仅需几年就会出现（尽管这一点本身远未确定）。

当然，并不是所有的人工智能都是坏事。在科学家手中，人工智能可以成为对抗癌症或揭示量子和宇宙领域长期秘密的宝贵工具。但对于大多数科技首席执行官来说，人工智能只是为了给股东赚钱的另一种手段，在Meta的情况下，这基本上就是销售更多广告的新方法。

在扎克伯格的最新帖子中，他无疑淡化了他未来人工智能计划中一些不太令人愉快的内容，而是强调个人 超级智能 如何帮助“你实现目标，创造你想在这个世界上看到的东西，体验任何冒险，成为你关心的人的更好朋友，并成长为你渴望成为的人。”这个极其模糊的描述反映了推销未来（很少有人似乎想要的）的困难。这些平台承诺带来巨大的颠覆，因此把这个想法包装成关于它将会多么美好的空洞恭维，只是一种经典的销售策略。