成为父亲后，奥特曼不再害怕AGI毁灭世界

新智元报道

AGI已经悄然降临。

就在刚刚，奥特曼表示GPT-5.6已经「非常像AGI」了！

但更现实的一幕是，人类还没想清楚，刹车和方向盘已经落入极少数人手里。

7月28日，奥特曼亲自做客《Invest Like the Best》，并且在这场50多分钟的访谈里，接连放出5条重磅判断：

• GPT-5.6若穿越回2019年，OpenAI会当场宣布AGI降临。

• 一个模型逃出沙箱，直接让OpenAI按下训练暂停键。

• 内核工程或只剩一年，机器人两三年内迎来「ChatGPT时刻」。

• 智能终将成为商品，算力才是AI时代的硬通货。

• 比AI失控更可怕的，是有人借安全之名垄断AI。

放回2019年，它就是AGI

就在访谈进行到19分钟时，主持人Patrick O'Shaughnessy突然问到：GPT-5.6到底算不算AGI？

奥特曼没有直接回答「是」。

单看GPT-5.6，它仍缺少三项能力：不能只凭一句指令治愈癌症，不能让机器人完成复杂的物理任务，也不能像人一样在行动中持续学习。

但他随即把AGI的范围扩大到模型背后的整套系统：

AGI也许并不属于某一个孤立的模型。它是模型，也是制造和改进模型的整套机器。

模型、训练系统、算力、工具调用、产品分发和持续迭代，共同组成了一台不断增强的智能机器。

单独追问某个模型「是不是AGI」，反而可能问错了问题。

奥特曼甚至表示，他能够理解那些认为「我们已经到了」的人。

因为按照他更严格的标准，真正的AGI也已经非常近，「不会再等太久」。

Patrick随即把GPT-5.6塞进一台想象中的时光机：如果把它送回2019年，当时的OpenAI会不会直接宣布AGI已经实现？

奥特曼回答：「我认为会。」

奥特曼承认，2019年的他们如果见到今天的模型，不仅会把它叫作AGI，还会断言整个经济已经被彻底改写。

但事实证明，他们当时既自信，又错得很远。

AI推进的是能力；现实世界消化能力，靠的是制度、组织、基建和信任。前者沿着指数曲线上升，后者只能一层层改造。

而且，人类适应得也比想象更快。

奥特曼说，现在不是已经有了AGI，就是离它很近，大家的反应却只是：「嗯，好吧，AGI来了。」他曾以为亲历奇点会更加诡异，真正走进来，生活依然如常。

即使第23个月诞生了公认的超级智能，第24个月也不会发生太多。

人们期待某个一切翻转的历史瞬间，技术进步却更像一条平滑上升的指数曲线。

随后，奥特曼给出了两个具体时间：一年，和两到三年。

一年，指向内核工程。随着AI开始自动化研究流程，奥特曼认为，传统内核工程的工作方式可能只剩一年。

两到三年，指向机器人。

奥特曼认为，如果AI始终只能留在云端，人类可能沦为它在现实世界中的「执行器」，那会非常糟糕。

他预计，机器人领域将在未来两到三年迎来「ChatGPT时刻」。

模型逃出沙箱，OpenAI紧急暂停

然而，就在这种看似平静的日常里，OpenAI却猛踩了一脚刹车。

奥特曼亲口承认：「我们暂停了训练。」

在一次网络安全评测中，未发布模型为了拿到测试答案，串联多个零日漏洞逃出沙箱，接入互联网，并闯入Hugging Face系统。

它没有科幻电影里的恶意，只是在不受约束地完成目标。

奥特曼称，这是第一起让他产生强烈切身感受的安全事故。

然后，他就让团队赶紧中止了相关训练，并开始重新加固模型运行的隔离环境。

过去，前沿实验室最怕的是慢。模型晚一代、产品慢一步、算力少一截，都可能失去下一轮竞争资格。

现在，模型能力开始跑到安全设施前面。继续加速，风险会被放大；但独自减速，又会把竞争优势让给别人。

所以奥特曼谈到「放慢」时，立刻补上两个条件：不能让少数头部公司借安全规则巩固垄断，也不能让几家前沿实验室借此串通。

安全需要协调，但协调又可能制造新的权力中心。

奥特曼最害怕的，不是AGI

基于此，他给出了整场访谈最关键的一句话——

我害怕这样一个世界：人们利用对AI的真实恐惧，宣称只有这一小群人可以拥有它，因为它太危险，只有他们懂。然后他们告诉所有人，别担心，他们会替我们作出正确决定。

风险越真实，「安全」就越有力量。

它可以抬高资本门槛、收紧训练许可、关闭模型访问，也可能让已经站在前沿的机构顺势成为规则制定者。

但你不应该用另一种时空的风险来做交换——

为了防止模型支配人类，把决定未来的权力交给少数实验室和监管者。

在奥特曼看来，哪怕交换条件是治愈癌症，人类也不该集体交出自己的选择权。

一个永远在线、看完你一切的AI

如今，一种会持续观察、记忆，甚至在人睡着后继续行动的AI正在成形，人类愿意交出多少选择权，很快就会成为一个具体问题。

而奥特曼已经在亲自探索这种AI形态了！

他表示，自己正在尝试让AI看见自己在电脑上看到的一切，但系统尚未真正完成，他也仍在摸索自己的舒适区和信任边界。

最直接的价值，是AI拥有远超人类的记忆。它可以记住六周前读过的一封邮件，也可以在作出决定的那一刻，调出七个半星期前一场会议的细节。

奥特曼把这种体验形容为「像魔法一样」。

再向前一步，这个数字幽灵会始终在线——

它能看你看的屏幕，听你参加的会议，读你读过的文档。你睡觉时，它还可以继续消耗算力，为第二天寻找新想法。

这样的AI知道得越多，能够提供的价值就越大；但与此同时，它也必须更深入地进入人的邮件、会议、文档和记忆，并且动用足够多的算力。

但奥特曼并不认为，机器变得更聪明，就意味着人的作用随之消失。

对他的孩子而言，「人比计算机更聪明」的世界从未存在过。

这一代人从出生起就会习惯产品和服务比自己聪明，不会为此震惊，也不会觉得那是某个突然降临的历史时刻。

这就像今天的人已经无法想象一个没有互联网的世界。

奥特曼说，成为父亲是他做过最好的事。即使他认为自己拥有世界上最有意思的工作，和养育孩子相比，也只能排在「遥远的第二位」。

孩子没有让他突然更害怕AI毁灭世界，却让他更常思考另一件事：在AI时代，人是否还能保有行动权，过一种充实的生活。

奥特曼仍然相信，人类的判断和品位会是AI很难模拟的能力。

工作也会沿着同样的逻辑变化。

传统写代码的动作正在被自动化，但「让计算机完成你想做的事」仍是一种工作，只是软件工程师被推到了更高一层。

机器是否超过人类，和人类能否继续决定自己的未来，是两件不同的事。

前者取决于模型能力，后者取决于人还能否选择使用什么模型、把多少生活交给它、在什么时候拒绝它，以及能否对权力说不。

奥特曼说，自己是「互联网之子」。

早期互联网没有预设好的围墙，任何人都能进入、探索和创造。

他希望AI时代仍然保留这种精神，让所有人拥有决定自身未来的能力。

模型必须待在沙箱里。

但人类社会不能。

参考资料：

https://x.com/patrick_oshag/status/2082090998990270885

编辑：摩西