奥特曼：温和奇点已降临！AI最终掌控物理世界，2030年人类命运大转折

　　新智元报道

　　编辑：编辑部 JYH

　　【新智元导读】奥特曼亲笔长文「温和的奇点」，在AI圈内掀起巨震。他预示了人类正迈向超级智能时代，奇点不会一夜袭来，而是悄然渗透。

　　o3-pro炸场后，奥特曼第一时间发布了最新博文——温和的奇点。

　　文章一开头，紧迫感便扑面而来：

　　人类已跨越AI发展的「事件视界」，进入指数级加速发展阶段。

　　奥特曼认为，奇点并非一夜之间到来，而是悄然渗透：惊奇变为常态，常态变为底线。

　　内文中，他还对未来5年技术时间线，给出了自己的预测：

　　2025年：智能体可进行真实认知工作（如编程），工作方式正在被重塑；

　　2026年：AI可能具备发现新知识的能力；

　　2027年：机器人有望在物理世界中执行任务；

　　2030年：个体的产出能力远超2020年，社会生产方式将有巨大变化。

　　值得一提的是，这是奥特曼最后一篇亲笔文章，没有一点AI含量。

　　他还指出，另一个被忽视部分内容，就是ChatGPT每次查询消耗量。

　　ChatGPT平均每次查询需要消耗约0.34瓦时的电能，大致相当于一台烤箱运行1秒多钟，或者一个节能灯泡点亮几分钟。

　　此外，每次查询还需耗约0.000085加仑的水，差不多是一茶匙的1/15。

　　接下来，一起跟着奥特曼的视角窥探AI未来。

　　人类跨越临界点，

　　就是现在

　　我们已经越过了事件视界（event horizon），「飞升」已经开始。

　　在天体物理学中，事件（event）如果超过事件视界，将无法影响外部观察者

　　人类距离构建数字超级智能仅一步之遥，但至少到目前为止，这个过程远比想象的要平稳。

　　机器人还没满大街跑，大多数人也没有整天和AI对话。我们依旧会生老病死，也仍然无法轻松进入太空，宇宙中还有许多未解之谜。

　　然而，我们确实已构建出在诸多方面远超人类的智能系统，它们或将极大地提升生产力。那些曾被认为最不可能的科学突破已经完成；正是这些来之不易的洞见，催生了GPT-4和o3这样的系统，而它们将引领我们走向更远的未来。

　　在多方面，AI将为世界做出贡献。

　　其中，AI将推动科学加速进步和提高生产力，为生活质量带来巨大飞跃。未来会比现在美好得多。科学进步是整体发展的最大引擎，一想到未来无限的可能性，就令人无比激动。

　　从某种重要的意义上说，ChatGPT已比历史上任何人都要更强大。

　　每天有数亿人依赖它处理日益重要的任务：微小的新功能可能产生巨大的积极影响，而微小的偏差在数亿人的使用下，也能造成巨大的负面冲击。

　　五年时间表

　　2030成下个节点

　　2025年，能胜任真正认知工作的AI智能体已经到来，编写代码的方式将被永久改变。2026年，人类或许会迎来能够洞察新知的系统。2027年，可以在物理世界执行任务的机器人或将问世。

　　更多的人将能够创造软件和艺术。但世界对这两者的需求也将水涨船高。只要拥抱新工具，专家们很可能依旧遥遥领先于新手。

　　总而言之，到2030年，个人的工作效率将远超2020年，这将是惊人的变化，很多人都将找到从中受益的方式。

　　在一些非常重要的方面，2030年或许不会有天翻地覆的差异。大家仍会关爱家人、表达创意、享受游戏、湖中畅游。

　　但在其他同样重要的方面，2030年可能会与过往任何时代都截然不同。我们尚不知晓人工智能可以超越人类多少，但即将找到答案。

　　在2030年代，智慧与能源——即创意，以及将创意变为现实的能力——将会变得空前充裕。

　　长久以来，这两者一直是限制人类进步的根本因素；若能拥有充裕的智慧和能源（以及良好的治理），我们理论上便可拥有一切。

　　AI自转飞轮越来越快

　　奇点悄然渗透

　　我们已然生活在令人难以置信的数字智能时代，在最初的震惊过后，大多数人已习以为常。

　　我们很快就从惊叹AI能生成文笔优美的段落，转而期待它能创作出文笔优美的小说；从惊叹它能做出挽救生命的医疗诊断，转而期待它能研发出治愈方案；从惊叹它能编写一个小型程序，转而期待它能创立一家全新公司。

　　奇点的发展就是如此：昔日奇迹沦为寻常之物，再变为平平无奇的标配。

　　从科学家口中，OpenAI得知，他们的生产力比使用AI前提高了两到三倍。

　　高级AI，意义非凡，但或许没有什么比用它来加速AI自身的研究更重大的了。我们或许能发现新的计算载体、更优的算法，以及其他意外之喜。若能用一年甚至一个月完成十年的研究，进步的速度显然将完全不同。

　　从今往后，已有的工具将帮助我们获得更深刻的科学洞见，并协助我们创造更优异的AI系统。

　　当然，这与AI系统完全自主地更新代码并非一回事，但它无疑已是递归自我改进的雏形。其他的自我强化循环，也已开始运转。

　　巨大的经济价值创造，开启了基础设施建设加速扩张的飞轮，以支撑这些日益强大的AI系统。

　　而机器人制造其他机器人，也已不再遥远，而某种意义上，这也包括数据中心建造其他数据中心。

　　如果我们必须用传统方式制造第一批百万台人形机器人，但之后它们就能运作整个供应链——开采和提炼矿物、驾驶卡车、运营工厂等等——来制造更多机器人，而这些机器人又能建造更多芯片制造设施、数据中心等，那么进步的速度显然会大不相同。

　　随着数据中心生产实现自动化，智能的成本最终应会趋近于电力成本。

　　（人们常好奇ChatGPT每次查询的能耗：平均每次查询约消耗0.34瓦时，相当于烤箱运行一秒多钟，或高效节能灯泡工作几分钟。同时消耗约0.000085加仑水，约合十五分之一茶匙。）

　　逼近AGI终点，AI奇迹成为常态

　　科技进步将持续加速，而人类也将一如既往地适应一切变化。

　　固然会有阵痛，比如某些行业的工作岗位整体消失，但另一方面，世界财富的增长将如此迅猛，以至于我们能够认真探讨以往无法想象的新政策构想。

　　或许，我们不会一蹴而就地订立全新的社会契约，但几十年后回望，量变终将引发质变。

　　以史为鉴，我们将找到新的目标和新的需求，并迅速吸收新工具。期望会上升，但能力提升同样迅速，所有人的生活品质都会变得更好。

　　工业革命后的职业变迁，就是很好的例证

　　人类将为彼此创造出愈加美好的事物。

　　与AI相比，人类拥有一种长期、重要且独特的优势：我们天生就关心他人及其所思所为，而对机器则不太在意。

　　一千年前的农夫，如果看到今天许多人的工作，会说这根本就是「假工作」，会认为现代人不过是吃饱喝足、骄奢淫逸后，玩着游戏自娱自乐。

　　一千年后的人们看待我们这个时代的工作时，真希望他们也会觉得那是非常「假」的工作，但毫不怀疑，从事者会感到它们极其重要，心满意足。

　　新的奇迹涌现速度惊人。

　　今天，我们甚至难以想象2035年会有什么新发现——

　　或许我们今年刚解开高能物理之谜，明年就开始了太空殖民；又或许今年在材料科学上取得重大突破，明年就拥有了真正的高带宽脑机接口。

　　许多人会选择一如既往地生活，但至少有一部分人可能会决定「接入」。

　　展望未来，这一切似乎匪夷所思。但当我们身处其中时，也许会感到震撼，却仍能应对自如。

　　从相对的视角来看，奇点渐进发生，融合缓慢进行。

　　我们正攀登在技术指数级增长的漫长曲线上：向前看时，它似乎陡峭得无法攀登；向后看时，却又显得平坦无奇。但它始终是一条平滑的曲线。

　　（试想2020年时，若有人说2025年就会出现接近AGI的产物，听起来会有多么不可思议，再对比一下过去这五年的真实历程。）

　　超级智能大脑，任重道远

　　巨大的机遇，也伴随着严峻的挑战。

　　我们固然需要从技术和社会层面解决安全问题，但鉴于其巨大的经济影响，让超级智能得到广泛普及也至关重要。

　　最佳路径或许是这样的：

　　首先，解决对齐问题（alignment problem）。这意味着必须能强有力地保证，AI系统会朝着人类集体长远追求的真正目标去学习和行动。

　　社交媒体的信息流，便是目标错位的AI例子：背后的算法极其擅长让你不停刷新，也清晰地洞察你的短期偏好，但它之所以能做到这一点，是利用了你大脑的某种机制，而这种机制会凌驾于你的长期偏好之上

　　然后，专注于让超级智能变得廉价、易得，并且不过度集中于任何个人、公司或国家。

　　社会是富有韧性、创造力且适应力极强的。如果能驾驭人类的集体意愿和智慧，那么尽管会犯下许多错误，有些事态会变得非常糟糕，但我们终将快速学习和适应，并利用这项技术实现效益最大化、风险最小化。

　　在社会必须划定的宽泛边界内，给予用户充分的自由，这一点似乎至关重要。全世界越早开始探讨这些边界，以及定义集体对齐（collective alignment），就越有利。

　　整个行业，而非仅是OpenAI，正在为世界构建一个大脑。

　　它将是高度个性化的，人人皆可轻松使用；我们唯一的瓶颈，将是好的创意。

　　长久以来，创业圈的技术人员总是取笑那些「点子大王」——他们有想法，却需要找团队来实现。但在奥特曼自己看来，这些人即将迎来自己的高光时刻。

　　如今，OpenAI扮演着多重角色，但首要身份，是一家超级智能研究公司。

　　前路漫漫，任重道远，但大部分道路已被照亮，未知领域正迅速消散。能够投身于我们所热爱的事业，我们倍感荣幸。

　　「廉价到无需计量的智能」已触手可及。这番话听起来或许很疯狂，但倘若我们在2020年就告诉您世界将是今天的样貌，那听起来恐怕比我们眼下对2030年的预测还要疯狂。

　　愿我们能平稳、指数级且波澜不惊地迈向超级智能时代。

　　参考资料：

　　https://blog.samaltman.com/the-gentle-singularity

　　https://x.com/sama/status/1932547247243505924