刚刚，奥特曼首曝：AI取代CEO后，我想去当农民！

文章转载于新智元

AI狂飙已至，认知仍未醒来——

「技术悬差」正在撕裂时代的节奏。

当大众还沉浸于ChatGPT带来的新鲜感时，AI早已悄然跨越了「最聪明的人类大脑」的门槛。

在多项顶级智力任务中，AI已然胜出人类，展现出突破性认知与推理能力。

这种「技术悬差」正在快速拉大：AI所拥有的能力，远超社会、经济乃至监管系统的普遍理解与应用水平。

当AI迈入可自我进化的新阶段，问题不是「能不能」，而是「我们是否跟得上」——解决问题的速度，是否永远跑在问题之前？

在《MD MEETS》的首期节目中，Axel Springer的首席执行官Mathias Döpfner与OpenAI首席执行官奥特曼，展开了一场毫无保留的对话，探讨AI带来的机遇与风险。

话题从「AI与工作」到「人类灭绝风险」，再到「AI时代的新闻业」，甚至延伸到「人类是否该永生」——几乎没有禁区。

奥特曼分享了他对超级智能的思考，以及他在AI接管自己工作后想去当农民的个人梦想。

这是一场罕见而真诚的对话，让我们得以一窥这位正在塑造未来的重要声音。

1

奥特曼：未来不做CEO就去搞农场

每当谈到AI，人们都会关心一个问题——它会不会取代人类工作？是AI创造工作机会多，还是毁掉的工作更多？

奥特曼认为：

短期来看，AI确实会取代大量工作岗位。但从长期看，就像以往每一次技术革命一样，人类总能找到全新的事情可做。

我相信人类对「创造价值」、「帮助他人」、「融入社会」的渴望是无限的。

每次技术革新，总有人说「这下完了，我们以后都没工作了」。可事实证明，这其实只是想象力的失败。

也有人说这次不同，因为AI触及的是人类最核心的「智力」部分，那我们还能做什么？

但奥特曼认为：人类天生关注彼此，而非「机器世界」。焦点仍在人与人的关系。

他虽无法预测具体岗位，但「几乎可以肯定，未来的工作将更以人为本」。

几周前，有人问奥特曼：

假设有一天AI连你的工作也取代了，你会做什么？

奥特曼出人意料地回答：当农场主（farmer）。为什么？

首先，奥特曼确实相信

未来某一天，AI会成为比我更优秀的OpenAI CEO。

这也正是OpenAI努力的方向。如果AI真的能胜任，那真是求之不得。

当然，如果他想继续留在OpenAI，可以扮演其他角色。

不过，奥特曼坦言，这十年来一直承受着巨大的压力，工作量也极其繁重。

他还拥有一块农场，时常前往——他真心喜欢那里的慢节奏与截然不同的生活方式。

1

史无前例：人工智能>人类智慧

在《未来简史》中，以色列作家尤瓦尔·赫拉利描述了人类的下一个时代——我们将变得近似于「神」：实现永生、不再为生计奔波、拥有无限智慧与知识。

这让奥特曼想起硅谷流行的一句话，大意如下：

我们拥有神祇般的技术，却秉持着中世纪的道德框架。

它指向一个现实：技术跃迁，已远超智慧、判断与社会建构能力的提升。

这种失衡感让奥特曼感到不安。他不知如何应对，因为技术洪流已至。这不再是空谈，多年来他持续探讨这个话题。

在他看来，今年AI首次超越了人类智慧——这无疑是历史性转折点。

生活仍在继续，但某些根基已悄然改变。

未来是否真的会像科幻那样发展，谁也说不准。

是我们把意识上传到电脑中、实现永生？还是我们只是在治愈一些疾病、延长寿命？这些他都不确定。

不过，奥特曼推荐了前几年的动画《Pantheon》，探讨了类似的主题。它探讨的这些问题，如今已不再是抽象的哲学问题，而是现实。

但奥特曼并不向往「永生」。

他很难想象「永生」到底意味着什么。真正实现永生、治愈所有疾病、器官无限替换……那种「永远」实在太长了。

在他看来，自然的更新与新陈代谢，是社会前进的必要条件。

比起寿命本身，他更希望人生中的「生病阶段」越短越好。

理想状况是：健康地活很久，然后突然快速地走完最后一程。

1

OpenAI的关键转折点

当初一起推动这场AI革命的，有不少人现在彼此竞争——Peter Thiel、Elon Musk、Demis Hassabis、Mustafa Suleyman、Paul Graham、Marc Andreessen……

在这群人中，谁对奥特曼影响最大？

在他看来，很难评出「谁影响最大」，但他们组成了紧密交织的生态系统。

整个产业就像一个协同网络，有人在做芯片，有人在训练模型，有人在做应用产品。

当然，也有很多企业在竞争，但氛围更像早期互联网或半导体——不是一人一企之功，而是整个圈子的推进。

主持人追问：「那你觉得你自己最重要的贡献是什么？但有没有某个时刻、某个决策，你认为是至今最关键的一步？」

奥特曼表示最关键的一步可能是：决定把所有资源押在「扩大算力、扩展模型」这条路线上。

这是在发现Scaling Laws之后，OpenAI做出的生死攸关的抉择。

彼时，认同者寥寥。主要对手 DeepMind 甚至认为：语言模型并不重要，也不是正确路径。

哪怕OpenAI发布了GPT-3，很多人依旧觉得没什么用，直到ChatGPT上线，才真正让世界意识到其实际价值。

所以，奥特曼认为当时那个「下重注」的决策——

在模型规模扩张上，投入巨资、集中研究，是一个巨大贡献。

要知道，那时候这条路远不像今天看起来那么顺理成章，无论从资本投入还是研究方向上，都是高风险。

他还将「开放ChatGPT」视为另一大贡献。

让公众使用ChatGPT，是一种信念驱动。彼时不少人认为AI仍不安全，不宜开放，研发应保持「半封闭」。

但OpenAI相信：真正的安全，离不开公众的深度参与。

所以，奥特曼认为他的角色并不总是某个「关键时刻」的决定，而是无数个「小决策」累积起来。

1

人类灭绝风险并非空谈

奥特曼曾说过，「超级智能」是对人类生存最大威胁之一，因此他早期就在呼吁加强监管。

博客链接：https://blog.samaltman.com/machine-intelligence-part-1

这一立场至今未变，但他也澄清：所谓「监管」，并非「能否用于银行业务」等日常应用限制。

他指的是：针对可能带来「人类级风险」的技术，要有清晰的框架。

奥特曼曾表示「超级AI带来人类灭绝」的概率大约是2%。

奥特曼的核心意思说，这种风险是「非零、值得认真对待」，并不是具体的概率预测。

但主持人认为：

就算2%也已经很高了。毕竟，一架飞机失事的概率也只是0.00001%。

如果2%是毁灭整个人类文明的风险，那就非常严峻了。

奥特曼完全同意这种观点。这也是为什么他一开始就在写博客呼吁重视这个问题。

他大致把风险分成三类：

第一类，AI没有「失控」，但「人用AI做坏事」。

AI本身完全听指令，但如果掌握AI的国家或组织，穷兵黩武，那它可以用AI造成巨大破坏，比如开发生物武器、入侵核系统等等。

这不是AI的问题，而是「滥用问题」。

第二类，是经典的科幻灾难模型：AI获得某种自主性。

为了实现目标，它不想被人类关闭——就算没有「意识」或「主观意图」，它也可能基于算法策略走向错误方向。

这属于典型的「对齐失败」。

但还有第三类，更容易被忽略，却很可能最真实——

那就是AI并没有恶意，也没有叛变，只是「自然而然」地接管了世界。

你想想现在的ChatGPT——

成百上千万的人每天都在用，接下来可能是十亿人。越来越多的人依赖它来做出重要决策。

一开始，它只是帮你出点主意，效果还行。后来，它给出的建议越来越靠谱。

再后来，它给你一些你听不懂的建议——但实践证明，它总是对的。

你会怎么做？你要么跟着它走，要么落后于别人。

于是，大家都开始照着AI的建议做。

AI本意是帮你，但它越帮越多，最后几乎决定了你的人生选择。

然后，这些人再把新的行为数据喂回去训练模型，模型又变得更聪明，反馈又更强。

长此以往，整个社会、整个经济，都陷入AI-人类协作的闭环之中。

那时，谁还能说自己是「自由意志」？

它没有恶意，却实际控制了一切。

也有人反驳说：人类作为高智生命，也没有消灭蚂蚁这种低等生物。所以即使AI更强大，也不代表它一定要毁灭我们。

OpenAI联合创始人Ilya Sutskever，曾经说过：「我们应当期望，未来的超级智能，能像慈爱的父母对待孩子一样，对待我们人类。」

这和「AI要友善」不完全一样，更像是一种温暖、有情感的引导。

这句深度触动了奥特曼。

1

AI时代，新闻不死

奥特曼此行来到柏林，是来领取Axel Springer Award。

作为出版行业的一员，主持人必须问一个现实问题：新闻行业如今遭遇双重打击——

一方面是压制，另一方面则是AI「答案机器」的冲击。

奥特曼怎么看新闻行业的未来？我们还需要新闻业吗？

奥特曼认为当然需要新闻业，而且他非常感激新闻业对社会所做的贡献。

如果我们回顾人类历史上那些「繁荣盛世」的共同点——不只是经济繁荣，更是人的生活质量持续提升——那么，「言论自由」几乎始终是其中核心要素。

社会仍然需要那些实时追踪世界动向、提供深度解读的专业人士。没有他们，我们的AI系统也将失去赖以训练的基础。

当然，新闻形态也许会改变：

从机构化媒体，转向「个体记者+社交媒体」；从品牌信任，转向「对人的具体信任」；

但「值得信任的事实揭示者」这个角色，绝不会消失。

主持人更担心的是另一件事：在大模型的冲击下，「版权」这个概念正面临彻底崩溃。

现实就是：如今的AI模型大量吸收已有数据——而一旦某项内容发布出来，就会立刻被AI「吞掉」，作者却无法从中获得任何回报。

没有商业激励，谁还愿意投入大量精力去深挖真相？

奥特曼表示理解这种担忧，而且他也多少持乐观态度，因为新闻业和AI业的利益其实是一致的。

没有源头内容，AI就没有原料可学。

要么我们找到全新经济模型，要么就得在现有框架上加点「微创新」，来激励更多人持续生产优质内容。

奥特曼自己最感兴趣的一个方向是「微支付系统」——让人们为真正有价值的内容，哪怕付出几分钱。

过去几十年这太难了，但在AI智能体时代，也许这终于可以实现。

音乐原本就是最「流动」的内容形态——电台随便播、DJ随便放，所以早就建立了多层次版权机制。

新闻也能找到自己的「可持续发展路径」。

参考资料：

https://www.mdmeets.com/

https://x.com/slow_developer/status/1973727163108192666

https://www.youtube.com/watch?app=desktop&v=rF0tQtDMwHM

https://x.com/deredleritt3r/status/1973517391230353641

点个“爱心”，再走 吧