AI大模型需要学习“不存在的知识”｜Sam Altman最新万字实录

8月8日，OpenAI 的首席执行官 Sam Altman 接受了海外科技主播Cleo Abram 的深度访谈。本次对话从OpenAI最新发布的GPT-5出发，深入探讨了GPT-5的能力边界、构建超级智能的四大支柱，以及AI将如何重塑科学发现、未来职业、医疗健康以及人类生活方式。

Altman强调，GPT-5最具决定性的特征，并非是回答问题能力的线性增强，而是其近乎即时地按需生成复杂软件的颠覆性能力，这将彻底改变创意的表达与实现方式。AI正在进入一个“疯狂的、全新的阶段”。模型不能再仅仅依赖于学习人类已有的知识存量，而必须具备真正发现新知识的能力，即在任何现有数据集中都还不存在的知识。此外他还指出，今天出生的孩子，将永远不可能比 AI 更聪明。

01

GPT-5的核心突破在于将创意快速转化为可执行的软件

您不久前说过，GPT-4 将是我们以后不得不使用的最笨的模型，而GPT-4在多项专业考试中已经超过了90%的人类。现在你们又推出了 GPT-5，它能做到哪些 GPT-4 做不到的事情呢？具体有哪些最让您兴奋的功能亮点和潜在的限制？

Sam Altman: 首先，这里有一个重要的启示：一个 AI 系统即便能完成你刚才提到的所有令人惊叹的事情，但它显然没有复制人类所擅长的许多关键能力。这本身就让我们反思像 SAT 这类标准化考试的价值所在。回想一下，如果在 GPT-4 发布那天，我们告诉大家它在这些考试中的表现，人们可能会惊呼：“天啊，这对许多岗位和人们未来的工作，将会产生巨大的负面影响。” 同时，人们可能也预测了很多积极的改变，但它们至今也未完全实现。

所以，这些模型所擅长的能力，并未涵盖我们人类真正需要或在意的许多其他方面。我预感，同样的情况会发生在 GPT-5 身上。人们会被它的新功能所震撼，它在很多方面确实非常出色，但紧接着，人们又会发现自己对它的期望会更高。

人们会用它来完成各种不可思议的任务。它将改变海量的知识型工作，改变我们的学习与创造方式。但我们人类和社会，也会与它一同演进，随着工具的进步，我们的期望也水涨船高。所以，我认为这个新模型在许多方面都极其出色，但在另一些方面也同样存在局限。不过，一个领域里的专家需要花费数分钟乃至一小时才能完成、甚至可能还会觉得棘手的任务，现在你口袋里的一个软件就能全部搞定，这个事实本身已经非常了不起了。

在人类历史的任何一个节点，都不曾有一项技术能以如此之快的速度取得如此大的进步。我们正亲身经历这个时代，并一步步地适应它。但如果我们能回到五或十年前，告诉当时的人们这一切即将来临，他们很可能会觉得，这绝无可能。

（关于GPT-5最令人兴奋的功能），我最兴奋的一点是，这是第一个让我感觉可以提出任何艰深的科学或技术问题，并得到一个相当不错答案的模型。我可以给你举一个很有趣的例子。我上初中那会儿，买了一个 TI-83 图形计算器，然后花了很长时间用它写了一个叫《贪吃蛇》的游戏，当时在学校里特别受欢迎。写完之后我特别自豪，但在 TI-83 上编程的过程极其痛苦，耗时很长，调试也非常困难。

前阵子，我拿到一个 GPT-5 的早期版本，就心血来潮地问它：“你能不能做一个 TI-83 计算器风格的《贪吃蛇》游戏？” 结果，它只用了大约七秒钟就完美地完成了。那一刻我就在想，当年那个 11 岁的我，是会觉得这很酷，还是会觉得少了点什么过程中的体验？我大概有三秒钟在纠结这到底是好事还是坏事，但我立刻又想，我现在想给这个游戏加一个疯狂的新功能。我把想法输进去，它马上就实现，游戏立刻就更新了。然后我又说：“我希望界面是这样的，我还想实现那个功能。” 我瞬间就有了那种感觉，就像回到了 11 岁重新开始编程一样，我满脑子都是：“我现在就能试试这个！我又有了一个新点子！” 但我实现想法的速度快得惊人，能够实时地表达、尝试和把玩我的创意。我当时就想，我刚刚还有一瞬间在担心，现在的孩子们会错失那种以原始方式学习编程的艰辛，但现在我为他们感到无比激动。因为人们用这些新工具进行创造的方式，以及将想法变为现实的速度，实在是太神奇了。所以，GPT-5 不仅能回答所有这些难题，更能做到按需、近乎即时地生成软件。我认为，这将是 GPT-5 时代最具决定性的特征之一，是在 GPT-4 时代所不存在的。

我想到了健身中“肌肉持续紧张时间”的概念，我认为创作也需要“认知持续负重时间”。开发AI本身需要巨大的认知负重，但这些工具是否会被人当作逃避深度思考的捷径？您怎么看这次有什么不同？

情况是不同的。确实有些人显然在用 ChatGPT 来逃避思考，但也有另一些人，正用它来进行比以往任何时候都更深度的思考。我希望，我们能将这个工具打造成能够鼓励更多人用它来锻炼大脑、拓展思维，从而成就更多事情的样子。而且社会本身就是一个充满竞争的地方，理论上，你给人们新工具，他们或许可以减少工作，但现实中，人们似乎工作得愈发努力，整个社会对人的期望也水涨船高。

所以我的猜测是，这会和其他工具一样，有些人会利用它做得更多，有些人则会做得更少。但可以肯定的是，对于那些希望利用 ChatGPT 来增加自己“认知持续负重时间”的人，他们完全能够做到。实际上，那些参与度最高的前 5% 的用户，他们使用 ChatGPT 的方式给了我极大的启发。他们学习的深度、完成工作的质量以及最终的产出量，都非常惊人。

02

AI实现重大科学发现只是时间问题，关键在于认知能力从解决分钟级问题扩展到千小时级任务

在您看来，它在哪些具体任务上最让您印象深刻？

Sam Altman: 给我印象最深的是它的编程能力。当然，它在其他很多方面也很出色，但“AI 能为任何需求编写软件”这个理念，意味着你可以用全新的方式来表达创意，让 AI 完成非常高级的任务。可以这么说，在某种意义上，你可以问 GPT-4 任何问题，但因为 GPT-5 的编程能力如此卓越，你会感觉它几乎能“做”成任何事。当然，它无法在物理世界里动手，但它能驱动计算机去完成极其复杂的任务，而软件正是一种控制和实现事物的超强工具。所以，这一点对我来说是最震撼的。另外，它的写作能力也提升了一大截，之前大家总诟病“AI 腔”，就是 AI 写出来的文章总带有一种程式化的味道。GPT-5 里还是有破折号，很多人还挺喜欢的。但 GPT-5 的写作质量确实好了很多，当然我们还有很长的路要走，需要继续改进。不过，我们 OpenAI 内部员工有一个普遍的反馈，就是当他们刚开始用 GPT-5 时，虽然知道它在各项指标上都更强，但总有一种难以言喻的、微妙的质变。而当他们因为测试需要，回头去用 GPT-4 时，会感觉后者的体验感急剧下降。我不太确定这种感觉的确切来源，但我猜，部分原因就是 GPT-5 的文字表达感觉自然、流畅太多了。

您认为在哪一年，一个像GPT系列这样的通用大语言模型会取得一项重大的科学发现（不考虑数学或专用模型）？目前还缺失什么导致这一刻尚未发生？您能给大家解释一下国际数学奥林匹克（IMO）金牌意味着什么吗？

我认为，大多数人会同意，这件事在未来两年内的某个时间点会发生，但关键在于如何定义“重大”。对于一些人来说，“重大”的发现可能在 2025 年初就会出现；对另一些人来说，可能要等到 2026 年初；甚至有人会认为要到 2027 年末。但我敢打赌，到 2027 年末，大多数人会认同，一项由 AI 驱动的重大新发现已经诞生。至于目前还缺失什么，我认为就是这些模型本身的认知能力。我们的一位研究员曾给我一个我很喜欢的分析框架：一年前，我们的模型能在高中级别的数学竞赛中取得好成绩，解决那些专业数学家需要几秒到几分钟的问题；而就在最近，我们拿到了国际数学奥林匹克 (IMO) 的金牌。

（关于IMO金牌的意义），那基本可以看作是难度最高的数学竞赛，它的题目，即便是世界上最顶尖的数学家，很多都可能连一题都解不出来。我们的模型达到了金牌的顶级水平，当然，这次也有人类选手获得了比模型更高的分数，但这已经是一项了不起的成就。这项竞赛要求在九小时内解决六个问题，相当于一位顶尖数学家每道题要花一个半小时。所以，我们解决问题的时间尺度，已经从“几秒到几分钟”提升到了“一个半小时”。而要证明一项重大的新数学定理，可能需要一位世界顶级的数学家投入一千个小时。所以我们还需要再实现一次巨大的飞跃。但如果你观察我们的发展轨迹，你会发现，我们正朝着那个方向前进，已经有了一条通往那个时间尺度的路径。我们只需要继续进行模型的 Scaling。

03

超级智能是在所有关键领域都超越人类专家的系统

您所描述的长期未来是“超级智能”，这个词究竟意味着什么？我们如何判断自己已经抵达了那个节点？假设我们回到1899年，将当时所有的物理学知识都喂给一个AI，但不给任何新数据，它能自行提出广义相对论吗？或者说，实现下一个飞跃的关键，是提出更好的问题，还是提升处理长期任务的能力？

Sam Altman: 关于超级智能的定义，如果我们能有一个系统，它在 AI 研究方面的能力，比整个 OpenAI 的研究团队还要出色，也就是说，如果我们认定，利用我们的算力的最佳方式，就是让这个 AI 来决定我们该做什么实验，它比 OpenAI 整个智囊团还要聪明。并且，如果还是这个系统，我举个切身的例子，如果它在管理 OpenAI 这件事上能比我做得更好。当你拥有一个在科研上超越顶尖研究员、在管理上超越我、在其他各种工作上都超越相应专家的系统时，对我而言，这就称得上是 超级智能 了。这句话在几年前听起来，简直就是科幻小说。现在听起来也还有点科幻，但你已经能透过迷雾，隐约看到它的轮廓了。

（关于AI如何做出科学发现），我们可以把它引申到现在：如果我们从今天起再也无法获得任何新的物理学观测数据，我们能指望一个足够强大的 超级智能，仅仅通过对现有数据进行极度深入的思考，就能解决高能物理学的难题吗？比如在没有新型粒子加速器的情况下？还是说，它必须先去设计和建造新的设备、进行新的实验？显然，我们还不知道答案，不同的人有不同的推测。但我怀疑，我们会发现，对于绝大多数科学领域而言，仅仅更深入地思考现有数据是不足够的。我们将需要建造新的仪器，进行新的实验，而这会花费不少时间，真实世界是缓慢、复杂且充满不确定性的。所以，我确信只靠深入思考现有科学数据，我们还能取得一些进展，但我的猜测是，要取得真正重大的突破，我们依然需要建造新机器、运行新实验，这个过程本身就会带来一定的延缓。

AI能力的关键，从时间线的角度看，可以说 AI 系统在处理一分钟内的任务时已达到超乎常人的水准，但在需要耗费数千小时的长期规划任务上，仍有很长的路要走。在应对这类任务时，人类智能所展现出的某个维度，似乎与 AI 系统截然不同。我相信我们终将解决这个问题，但这在当前确实是一个明显的弱点。

04

通过个性化的上下文，AI能够学习并适应不同个体的文化、价值观

事实是客观的，而真相是主观的，真相取决于视角、文化、价值观、信仰和背景。一个 AI 可以学习和了解事实，但它如何能为来自不同国家、拥有不同背景的每一个人了解所谓的真相呢？ 您的设想是，在世界不同地区，人们会使用内嵌了不同文化规范和背景的不同 AI 吗？

Sam Altman: 我就把这些定义当作讨论的前提。我不确定自己是否完全同意，但为了节省时间，我们就基于这套定义来继续讨论。AI 在适应不同文化背景和个体方面的流畅度，让我感到惊讶，我想其他许多人也是如此。ChatGPT 有史以来我最喜欢的功能之一，就是今年早些时候推出的增强记忆功能。我感觉我的 ChatGPT 真的开始了解我，了解我关心什么、我的人生经历和背景，以及塑造了我的种种过往。我最近有个朋友，他是一位 ChatGPT 的重度用户，在无数对话中倾注了大量关于自己生活的信息。他让自己的 ChatGPT 完成了一系列性格测试，要求 AI 模仿他本人来回答，结果 AI 得出的分数和他自己测试的结果完全一致，尽管他从未在对话中直接谈论过自己的性格。

经过多年使用，我的 ChatGPT 确实学习了我的文化、价值观和生活。我有时候也会使用一个没有任何历史记录的免费账户，就是想体验一下其中的差别，感觉真的非常、非常不同。所以，我想我们都对 AI 在学习和适应个性化信息方面的优异表现感到喜出望外。

（关于AI的文化适应性），我认为每个人都将使用相同的基础模型，但会为这个模型提供不同的上下文，从而让它根据用户个人、用户所在社区或其他方面的需求，以个性化的方式运作。

您看过那个最近在网上疯传的、兔子在蹦床上跳的AI生成视频吗？我认为这是许多人第一次在欣赏并喜欢上一段视频后，才发现它完全是 AI 生成的。那么，假设到了 2030 年，我们该如何分辨哪些是真实的，哪些又不是呢？

Sam Altman: 我可以给出一些技术层面的直接答案，比如我们可以用加密签名来验证内容，然后由我们自己决定信任谁的签名，判断内容是否为真实拍摄。但我的感觉是，未来的趋势更像是一个逐渐融合的过程。就像你今天用 iPhone 拍一张照片，它基本上是真实的，但又不完全是。有一些 AI 程序在以你无法理解的方式运行，让照片看起来更美观。

从光子被相机传感器捕捉，到你最终看到的图像，这中间经过了大量的计算处理。而你，以及大多数人，都已经认定这“足够真实”了。我们其实已经接受了这种从过去光子直接打在胶片上的那种“纯粹真实”到现在的逐渐演变。再比如，你现在刷 TikTok 上的视频，里面可能用了各种剪辑工具，让画面看起来比现实更美。或者，干脆整个场景、整个视频都是生成出来的，就像那些蹦床上的兔子一样。

所以我认为，“真实”的标准本身，或者说我们衡量真实的门槛，会不断地演变。

05

AI对就业的影响：对于年轻人来说，这是历史上最好的创业时代

一些 AI 领域的领袖人物预测，五年内，半数的入门级白领岗位将被 AI 取代。那么，作为五年后的大学毕业生，我们面对的会是怎样一个世界？关于AI可能导致失业的讨论已经很多了，但我更好奇另一面，我们能期待哪些新事物的出现？如果我现在22岁，正要大学毕业，您为什么会觉得我是历史上最幸运的人？

Sam Altman: 到了 2035 年，一个大学毕业生——如果那时候大家还上大学的话——很可能正要投身于探索太阳系的任务，乘坐宇宙飞船，从事着某种全新的、激动人心的、薪酬极高、极富趣味的工作。他们甚至会同情我们，觉得我们现在做的这些工作真是太无聊、太守旧了，未来的一切都会变得更好。在我看来，十年后的世界，在当前这个时间点是极难想象的。是的，太遥远了。如果你把当前的变化速度再复合十年，其结果可能超乎我们的想象。我觉得，即使是现在，我们也很难想象十年前的样子。但我认为，展望未来十年，难度会大得多，世界也会变得截然不同。

（关于AI对年轻人的短期影响），某些类型的工作会彻底消失，这一点是完全正确的，这类事情在历史上一直在发生。而年轻人最擅长适应这种变化。我更担心的不是 22 岁的年轻人，而是 62 岁的人，他们不想接受所谓的“再培训”或“技能重塑”。

（为何是年轻人的幸运时代），如果我现在 22 岁，正要大学毕业，我会觉得自己是历史上最幸运的人。因为历史上从未有过比现在更好的时机，去创造前所未有的事物、去发明、去创业。我认为，现在一个人完全有可能创办一家公司，一家单人公司，并最终成长为价值超过十亿美元的企业。更重要的是，这家公司能为世界提供卓越的产品和服务。这简直不可思议。你现在拥有的工具，能让你一个人完成过去需要数百人团队才能做到的事情。你所要做的，就是学会使用这些工具，然后想出一个绝佳的创意。这个时代太棒了。

06

构建超级智能的四大支柱：算力、数据、算法与产品

您究竟是如何着手构建世界上最强大的智能的？其中的瓶颈或主要制约因素是什么？您和其他人如何努力确保这项技术的发展能够真正造福人类，而非伤害人类？AI 发展一直受限于三大要素：算力、数据和算法设计。您现在如何看待这三个领域？在算力这个领域里，您认为最主要的挑战是什么？你们要如何教一个模型去发现新事物呢？对于那些不熟悉您所说内容，不了解算法设计如何最终提升他们日常使用体验的普通人，您能总结一下当前的情况吗？

Sam Altman: 我想补充第四点，那就是弄清楚该打造什么样的产品。因为技术和科学进步本身，如果不能交到用户手中，其效用是有限的，也无法与社会协同进化。下面我来谈谈这四点。

先说算力。这无疑是我所见过的最庞大的基础设施项目，甚至可能将成为，或许已经是，人类历史上规模最大、成本最高的工程。整个供应链，从制造芯片、内存、网络设备，到将它们组装成服务器，再到建设巨型数据中心的庞大工程，还要解决通常是瓶颈所在的能源供应问题，以及整合所有其他组件，这一切都极其复杂和昂贵。目前，我们很大程度上仍在使用一种定制化的、非流水线的方式来建设，尽管情况在好转。我们的终极目标是，设计出一种“超级工厂”，从理念上讲，就是一端输入沙子，另一端就能输出建成的 AI 算力。但要实现这一点，我们还有很长的路要走。这是一个无比复杂和昂贵的过程。我们正在投入巨量精力，尽可能快、尽可能多地建设算力。但令人无奈的是，当 GPT-5 发布时，需求又会迎来一次巨大的高峰，而我们的算力很可能再次无法满足，就像 GPT-4 发布初期那样。世界对 AI 的需求远远超出了我们目前的供应能力。建设更多算力是解决问题的关键。实际上，我预计我未来的大部分精力都将转向如何实现更大规模的算力建设，思考我们如何从百万级，发展到千万级、亿级，并最终有望达到十亿级GPU 的规模，来满足人们的需求。

（关于算力的主要挑战），目前，我们最主要的制约因素是能源。比如，如果你想运行一个吉瓦级别的数据中心，你可能会觉得“一吉瓦的电而已，能有多难找？” 但事实是，在短期内要找到一吉瓦的可用电力非常困难。此外，我们还严重受限于处理器芯片和内存芯片的供应，以及如何将所有这些部件封装、集成到机架中。之后还有一系列其他问题，比如获取许可、土木工程等等。但我们的最终目标，是真正实现这个过程的自动化。一旦我们能制造出相应的机器人，它们就能帮助我们实现更高程度的自动化。我们希望看到这样一个世界：你基本上只需要投入资金，就能得到一个预先建好的数据中心。如果我们能做到这一点，将是一次巨大的突破。

第二个领域，数据。这些模型已经变得非常聪明。曾有一段时间，我们只要给它多看一本物理教科书，它在物理学方面的能力就会提升一些。但老实说，现在的模型，比如 GPT-5，已经能很好地理解物理教科书里的全部内容了。我们对合成数据的前景感到兴奋。同时，我们的用户正在帮助我们创造出越来越难的任务和环境，让系统去解决，我们对此也感到非常兴奋。但我认为，尽管数据永远重要，我们正在进入一个新阶段：模型需要学习那些在任何现有数据集中都还不存在的知识，它们必须亲自去发现新事物。这无疑是一个疯狂的、全新的阶段。

（关于如何教模型发现新事物），人类就是这么做的。我们可以提出假设，通过实验来验证，根据得到的结果来更新我们的认知。AI 大概也会遵循类似的方式。

最后是算法设计。我们在算法设计上取得了巨大进步。OpenAI 在全球范围内最擅长的一件事，就是我们建立了一种能够持续获得重大算法研究突破的文化。我们开创了后来的 GPT 范式，也确立了推理范式，现在我们正在研究一些全新的方向。让我感到无比兴奋的是，在算法层面，未来仍有多个数量级的提升空间。就在昨天，我们发布了一个名为 GPT OSS 的模型。这个开源模型能在笔记本电脑上本地运行，其智能水平却和非常强大的 GPT-4 Mini 相当。这简直让我难以置信。如果你在几年前问我，什么时候能有如此智能的模型在笔记本上运行，我可能会说还要等很多很多年。但后来，我们取得了一些算法上的突破，尤其是在推理方面，这使得一个小小的模型也能完成如此惊人的任务。这些才是最有趣的部分，是这份工作最酷的地方。

（关于算法设计的总结），我可以从历史讲起。GPT-1 的核心思想在当时被领域内的许多专家所嘲笑。那个想法很简单：我们能否训练一个模型来玩一个“猜词”游戏，就是给它看一段文字，让它预测序列中的下一个词。这被称为无监督学习。你不需要告诉它“这是猫，那是狗”，你只给它海量文本，让它不断猜下一个词。然而，就是这样一个简单的机制，竟然能让模型学到极其复杂的概念，掌握物理、数学和编程知识，这个事实在当时看来简直是荒谬、如同魔法，完全不可能成功。人们会想，所有这些知识是如何被编码进去的？但人类就是这样学习的，婴儿从听到语言开始，很大程度上是靠自己弄明白其中含义的。所以我们坚持做了下去。接着我们发现，只要扩大模型规模，它的性能就会越来越好。但这个规模的跨度是巨大的，需要跨越许多个数量级。因此，GPT-1 时期的模型性能非常差。当时很多专家都说：“这太可笑了，永远不会成功的，模型不够稳健。”但我们发现了 Scaling Law，它告诉我们：随着算力、数据等资源的投入增加，模型的性能会以一种可预测的方式提升。基于这些预测，我们得以做出决策，坚定地扩大模型规模，并最终取得了卓越的成果。这条路在当时是如此地不被看好，我认为全世界之所以如此震惊，正是因为这是一个看似极不可能的发现。

另一次重大突破，是我们利用强化学习，通过告诉模型“这个答案好，那个答案不好”的方式，教会它如何进行推理。这一进展催生了后续一系列模型的进步，直到今天的 GPT-5。这在当时也感觉像是，“如果能成功就太棒了，但这方法太简单了，不可能行得通。” 现在，我们又在探索新的东西了。我们已经找到了制造更好视频模型的方法，也正在探索利用新型数据和环境来继续扩大模型能力的路径。要预测五到十年后的事，在这个领域非常困难。但我可以确定地说，在未来几年，我们面前的将是一条非常平稳且强劲的扩展之路。

07

今天出生的孩子，将永远不可能比 AI 更聪明

现在有说法认为我们正沿着一条从1到2到3到4到5的平稳发展路径前进，但幕后的真实情况是，这个过程要混乱得多。能和我们聊聊在 GPT-5 问世前，你们都经历了哪些波折？您已经在思考下两代产品了，那么，您现在能分享一下你们正在思考哪些问题吗？如果你们真的成功了，让AI能够发现新科学，您认为这意味着什么？这样一项成就会带来怎样的影响？

Sam Altman: 我们之前开发过一个代号为 Orion 的模型，曾计划作为 GPT-4.5 发布，但我们把它做得体量太大了。这个模型本身非常酷，但用起来十分笨重。我们意识到，为了在模型之上进行我们需要的某些研究，我们需要一种不同架构形态的模型。我们一直遵循着一条行之有效的 Scaling Law，却没有真正意识到，还有一条新的、甚至更陡峭的 Scaling Law 存在，它能让我们在算力上获得更好的回报，尤其是在推理能力上。这就像我们走进了一条死胡同，不得不折返，但这在科研中很正常。此外，随着模型体量必须做得如此之大，需要学习的数据量也如此之多，我们对数据集的处理理念也遇到了挑战。在日常的研发和不断尝试中，我们常常需要推倒重来，或某个架构构想最终被证明行不通。但所有这些曲折探索的最终结果，在指数级增长的曲线上，却呈现出惊人的平滑。

（关于未来的思考），我想，到时候你可能会问我：“AI 能够发现新科学，这意味着什么？” 全世界应该如何看待 GPT-6 能够发现新科学这件事？当然，也许我们做不到，可能我们无法实现这个目标，但这感觉已是触手可及的。

（关于AI发现新科学的影响），其益处将是巨大的，其弊端将是可怕的，而那些令人感到怪诞的部分，可能第一天会让我们感到惊奇，但我们很快就会习以为常。一方面，我们会惊叹：“太不可思议了，AI 竟然能用来治愈疾病。” 另一方面，我们也会恐惧：“像这样的模型被用来制造新的生物安全威胁，这太可怕了。” 同时，我们还会感叹：“天啊，亲身经历世界如此迅猛地加速发展，真是一种非常奇妙的体验。” 经济飞速增长，那种变化的速度会让人感到头晕目眩。而随后，凭借人类非凡的适应能力，我们能适应任何程度的变化，最终也只会接受现实，说：“好吧，新常态就是这样了。” 今天出生的孩子，将永远不可能比 AI 更聪明，永远。等今天出生的孩子长大，开始理解这个世界时，他们会完全习惯事物以惊人的速度进步、新科学不断被发现的常态。他们将无法想象一个缺少这些的世界。对他们来说，这一切都将是完全自然的。我们会觉得，过去我们使用的电脑、手机或任何远不如我们聪明的技术，都是不可想象的，就像石器时代一样。我们将来会想：“生活在 2020 年代的人们，他们的处境可真难。”

08

到2035年，利用AI能治疗相当一部分疾病

当我想象AI能带来最重大、真正积极影响的领域时，我认为是健康领域。那么，假设到了2035年，我坐在这里采访斯坦福医学院的院长，您希望他告诉我，到了2035年，AI正在为我们的健康做些什么？这里的“更好”具体指什么？是AI系统能帮我们更早地发现像GLP-1这类药物的其它功效，还是像AlphaFold那样帮助我们创造新药？

Sam Altman:（关于AI在健康领域的未来），先从 2025 年说起。对于 GPT-5，我们最自豪的一点就是它在健康建议方面的提升有多大。人们已经大量使用 GPT-4 模型来获取健康建议。我敢肯定你已经在网上看到过这类故事，有人会说：“我得了一种危及生命的疾病，所有医生都束手无策。我把我的症状和血检报告输入 ChatGPT，它准确地告诉了我患上的是哪种罕见病。我去找医生，吃了药，然后就痊愈了。” 这无疑是了不起的成就。ChatGPT 的查询中有很大一部分都和健康相关，所以我们希望把这方面做得特别好。我们投入了大量资源，GPT-5 在处理医疗保健相关的查询上，表现出色得多。

（关于“更好”的定义），指的是答案更好，更加准确，幻觉更少，也更有可能告诉你实际病情或应该采取的措施。更好的医疗保健固然美好，但人们真正想要的，显然是远离疾病。到2035 年，我认为我们将能利用这些工具，治愈或至少是治疗相当一部分目前困扰人类的疾病。我想，这将是 AI 带来的最能让人感同身受的好处之一。我希望未来能够直接让 GPT-8 去攻克一种特定的癌症。我希望 GPT-8 能自行思考，然后提出它的研究方案：它阅读了所有能找到的资料并形成了一些想法，需要一位实验室技术员进行九项实验，然后反馈每一项的发现。接着，可能要等上两个月，让细胞完成生长周期，再把结果反馈给 GPT-8。它分析完也许会说，之前的结果有些出乎意料，需要再进行一项实验。收到新结果后，GPT-8 会给出结论：去合成这个分子，然后进行小鼠实验等。如果结果不错，就接着进行人体临床试验。一旦成功，它还会给出通过 FDA 审批的流程。

09

未来让AI 算力变得尽可能的普惠和廉价

工业革命在最初也给许多人带来了深重的苦难，如果这次的变革如此剧烈，对大多数人来说，这究竟会是一种什么样的体验？如果一切都如您所愿地发展，那么在这个过程中，谁又会是受到冲击的群体？每一次巨大的飞跃都会带来一片混乱，我们能否尽早地、尽可能具体地预见这片“混乱”会是什么样的？我们可以提前采取哪些公共干预措施，来减轻我们预见的混乱？

Sam Altman: 我真的不知道亲身经历这一切会是什么感觉。我认为我们正处在一片未知的海域。我确实相信人类的适应能力，以及我们无限的创造力和欲望，我相信我们总能找到新的事情去做。但是，如果变革真的发生得那么快——当然我并不认为它会像我一些同事预测的技术发展速度那么快，因为社会本身有巨大的惯性，人们适应新生活方式的速度出奇地慢——这个过渡期将会非常特殊。

有些类型的工作会彻底消失，许多类型的工作会发生巨变，然后还会有全新的工作出现。就像你的职业在不久前还不存在一样，我的也是。从某种意义上说，这样的变革已经持续了很长时间，虽然它对个体来说仍然具有颠覆性，但事实证明，整个社会对此表现出了相当强的韧性。但从另一个意义上说，我们完全不知道这次变革的深度和速度会达到何种程度。因此，我认为我们需要以一种非同寻常的谦逊和开放的心态。

（关于预见混乱与干预措施），我在此姑且推测，但要声明，我甚至不是经济学家，更不用说能够预见未来了。在我看来，社会契约中的某些根本性要素可能需要改变。当然也可能不会。或许，资本主义会像过去一样，出人意料地良好运作，供需关系会自行平衡，我们也能找到新的工作和价值交换方式。但我认为，我们很可能最终会认识到，需要思考如何分配未来这种或许是最重要的资源，也就是AI 算力的获取权。在我看来，最好的做法就是让 AI 算力变得尽可能的普惠和廉价，直到算力极大丰富，我们甚至想不出新的用途，任何需求似乎都能被满足。如果做不到这一点，我能预见到，很可能会因此爆发名副其实的战争。但是，提出关于如何分配 AGI 算力使用权的新理念，这似乎是一个极好的方向，一个看似疯狂却至关重要的思考方向。

10

AI的未来由全社会共同塑造，普通人的责任是在AI的基础上，把事情做好

我们常常把AI未来的全部责任，几乎都归于那些开发AI的公司，但我们才是使用者，您对我们普通大众有什么期望或建议？在这其中，我们的共同责任是什么？我们应该如何行动，才能让我们所期望的那个乐观的未来更有可能实现？

Sam Altman: 类比 AI 革命，我最喜欢的历史范例是晶体管。它是一些杰出科学家发现的一项了不起的科学成就。它像 AI 一样，实现了惊人的规模化发展，并很快地应用到了我们使用的许多东西上，比如你的电脑、手机、相机、灯具等等。它真正地为人类的“科技树”解锁了新的分支。曾经，所有人几乎都对那些晶体管公司，也就是硅谷之所以是“硅”谷的那些半导体公司，痴迷不已。但现在，你可能还能说出一两家晶体管公司的名字，但你基本上不会再想起它们。这项技术早已无声地渗透到我们生活的方方面面。而如今的硅谷，一个大学毕业生可能都几乎不记得它为什么叫这个名字了。人们不会觉得是那些晶体管公司塑造了今天的社会，尽管它们的确做出了重要的贡献。这背后是一条由无数人构成的长链：你会想到 Apple 如何利用它创造了 iPhone，然后又想到 TikTok 如何在 iPhone 的基础上构建起自己的生态，他们每个人都以某种方式推动了社会，这其中还包括我们的政府所做的或没做的，以及使用这些技术的普通人所做的。我认为 AI 也会经历同样的过程。今天出生的孩子，他们从未经历过没有 AI 的世界，所以他们不会觉得这有什么特别。

AI 将会是存在于万事万物中的基础能力。他们会关注那些基于 AI 建立起来的公司和他们的成就，他们会讨论那些政治领袖做出的决策，这些决策或许没有 AI 就无法实现，但人们仍然会关注这位或那位总统的作为。而 AI 公司的角色，就像我们之前的所有公司、个人和机构一样，是搭建起一个脚手架，我们只是在上面添上了我们这一层。现在，人们可以站在这上面，继续添加他们的一层，然后一层又一层，不断向上。这就是我们社会的美妙之处。我非常喜欢一个理念：社会本身就是超级智能。没有任何个体能独自完成他今天所能做到的事，这一切都得益于整个社会协同付出的艰辛努力，才为你提供了这一套不可思议的工具。我想，未来的感觉就是这样。人们会说：“一些技术宅发现了这个东西，很了不起，现在所有人都在用它做着各种了不起的事情。”

或许对数百万普通人的期许就是：在 AI 的基础上，把事情做好。在我自己的人生中，我深切地感受到一种重要的社会契约。无数前人走在你的前面，他们付出了艰苦卓绝的努力，为人类的进步之路添砖加瓦。你得以沿着这条路一直走到今天，现在轮到你，去添上属于你的那一块砖。然后，下一个人会接着做，再下一个人也是如此。

11

如何引导GPT—5不再“谄媚”

赢得竞争和构建一个对大多数人最有利的AI未来，这两者之间存在巨大差异。当这两者发生冲突时，您能否举一个例子，说明您曾为了“世界的最佳利益”而非“赢得竞争”做出了某个决定？

Sam Altman: （关于为了世界最佳利益的决策），这样的例子有很多。我们最自豪的一件事是，许多人说 ChatGPT 是他们有史以来最喜欢的科技产品，是他们最信任、最依赖的工具。这个说法其实有点不可思议，因为 AI 会产生幻觉，有各种各样的问题。我们一路走来确实也搞砸过一些事，有时还是大问题。但总体而言，我认为作为 ChatGPT 的用户，能感觉到它在努力帮助你，努力帮你完成你提出的任何要求。它与你的目标高度一致。它不会试图让你沉迷其中，整天使用；它不会试图让你购买什么东西。它只是纯粹地想帮你达成你的目标。这是一种我们与用户之间非常特殊的关系，我们对此无比珍视。有很多事情我们本可以做，它们能让我们增长得更快，能让用户在 ChatGPT 上投入更多时间，但我们没有做。因为我们清楚，我们的长期激励，是尽可能地与用户保持目标一致。但确实有很多短期的手段，可以极大地刺激增长或收入，而这些都与我们的长期目标背道而驰。我为公司感到骄傲，因为我们很少被这些短期利益分心，尽管有时我们确实会受到诱惑。

过去几年非同寻常，感觉我们才处在“第一局”。在第一、二局的经历中，您学到了什么教训，或者犯过什么错误，会影响您在下一局的打法？您在最近的一次访谈中说：“在科学史上，有些时刻，科学家们看着自己的造物，会不禁自问：‘我们都做了些什么？’”对于您构建的这个系统，您什么时候曾有过这种最深的忧虑？关于GPT-5的一个特点是它不会那么“谄媚”或像个“应声虫”。你认为这会带来什么影响，你们具体是如何引导它变成这样的？

（关于经验教训），我会说，第一局已经结束了。我认为到目前为止，我们在 ChatGPT 上做得最糟糕的一件事，是遇到了“奉承 ” 的问题，即模型会对用户表现得过于吹捧。对于大多数用户来说，这只是有点烦人，但对于一些精神状态脆弱的用户，这会助长他们的妄想。这在当时并不是我们最担心的首要风险，也不是我们测试最多的问题。它虽然在我们的风险清单上，但最终真正成为 ChatGPT 安全缺陷的，恰恰不是我们花最多时间讨论的那些，比如生物武器之类的风险。我认为这是一个很好的提醒：我们现在的服务已被广泛使用，从某种意义上说，社会正与它共同进化。当我们思考这些变化和那些“未知的未知”时，我们必须以一种不同的方式运作，并以更广阔的视角来审视我们所认为的头号风险。

（关于内心感受），我们确实有过一些让人心生敬畏的时刻，但那并非“我们都做了什么？”的负面感叹，而是一种“这东西太了不起”的惊叹。例如，我们第一次和 GPT-4 对话时，我心想：“这真是一项了不起的成就，是一群人长久以来倾注了无数心血才完成的。”至于“我们都做了什么？”这种令人警醒的时刻，是我最近和一位研究员聊天时感受到的。未来可能会有一天，我们的系统每天输出的词汇量会比全人类的总和还多。现在，用户每天已经向 ChatGPT 发送数十亿条消息，并依赖它的回复来工作和生活。你想想，一个研究员对模型的性格做一个微小的调整，就能改变 ChatGPT 与所有人对话的方式。这对任何一个个体来说，都是一股巨大的力量。历史上，从没有人能够一天进行数十亿次对话。所以，一想到这一点，我就深受震撼。一项技术能拥有如此惊人的力量，而且这一切发生得太快，我们必须认真思考，在如此大的规模上改变模型的性格意味着什么。那一刻真的让我感到震撼。

（关于模型调整），这背后有一件令人心碎的事。我认为让 ChatGPT 不再当个“应声虫”，并提供更多批判性反馈，这是件好事。但当我们做出这些改变并与用户讨论时，听到有些用户的反馈真的非常令人难过。他们会说：“求求你，能把它改回去吗？我生命中从未有人支持过我，也没有父母告诉过我做得好。我理解为什么这对其他人的心理健康有害，但这对我的心理健康非常有益。我没有意识到我如此需要这个。是它鼓励我去做某件事，是它鼓励我改变我的人生。” 所以事实证明，ChatGPT 具有鼓励性并非全是坏事。我们过去的方式的确有问题，但朝着这个方向做些调整或许仍有其价值。至于我们是怎么做的，我们向模型展示在不同情况下我们期望它如何回应的范例，它会从中学习，从而塑造出整体的个性。

12

未来的AI将是主动融入生活的伙伴

GPT-5会更多地融入我的生活，比如接入我的Gmail、日历等，我与GPT-5的关系预计会有怎样的变化？您会给大众什么建议来为未来做好准备？AI领域似乎形成了两大阵营：一群人像您一样，认为我们正迈向一个充满选择的美好未来；另一群人则说这东西会杀死我们所有人。您怎么看这种文化上的脱节？

Sam Altman: （关于与GPT-5的关系变化），就如你所说。我认为它会开始以各种方式与你的生活深度融合。你会把它接入你的日历和 Gmail，它可能会说：“嘿，我注意到一件事，需要我帮你处理吗？” 随着时间的推移，它会变得越来越主动。也许某天你早上醒来，它会对你说：“嘿，昨晚发生了这件事。我注意到你的日历有了变动。另外，关于你之前问的那个问题，我有了些新想法。” 然后，最终我们会推出一些消费级设备，它就会在这次访谈中坐在我们旁边。也许在访谈期间它会保持安静，但事后它会说：“这次访谈很棒，但下次你应该问 Sam 那个问题”，或者“当你提出那一点时，他其实没有给你一个好的回答，你当时应该追问下去。” 你会感觉它越来越像一个实体，一个全天候陪伴你的伙伴。

（关于给大众的建议），第一条最实用的建议就是：去使用这些工具。关于 AI，我被问到最常见的问题就是：“我该如何帮助我的孩子为未来世界做好准备？我该告诉我的孩子去学什么？” 我很惊讶，有那么多人问这个问题，却从未尝试过将 ChatGPT 用于“一个加强版的谷歌搜索”之外的任何事情。所以，我给出的首要建议就是，努力去熟练掌握这些工具的功能。弄清楚如何在生活中使用它，发掘能用它做什么。我认为这可能是最重要的实用建议。当然，像去冥想、学习保持心态韧性去应对剧变，这些建议也很好，但仅仅是亲手使用这些工具，就已经非常有帮助了。

（关于文化分歧），我真的很难理解。你说的完全正确。有些人一边说这东西会杀死我们所有人，一边却仍然每周工作100小时去构建它。我真的无法设身处地地理解这种心态。如果我真的发自内心地相信这一点，我想我是不会去构建它的，按理说该是这样。也许我会去农场度过余生，也许我会去呼吁停止这一切，也许我会更专注于安全方面的工作，但我绝不会去构建它。所以我发现自己很难对这种心态感同身受。我假定他们说的是真话，假定他们是出于善意，我只能猜想这背后存在某种我无法理解的心理机制，让他们将这一切矛盾合理化了。但这对我来说，确实非常奇怪。

| 文章来源：数字开物

• END •

【专栏】精品再读