诺奖得主、AlphaGo之父《时代》专访：AI远不如人类科学家，根本提不出有价值的猜想

整理：与可

原文作者：Billy Perrigo，《时代》周刊驻伦敦分社记者，主要报道科技行业，关注那些以奇特和意想不到的方式重塑我们世界的公司。

https://time.com/7280740/demis-hassabis-interview/

【编者按】去年 10 月，DeepMind 联合创始人 Demis Hassabis 因开发 AlphaFold 以解决蛋白质复杂结构预测问题，而获得了诺贝尔化学奖；2016 年，他和他的团队开发的 AlphaGo 战胜了人类围棋世界冠军李世石，自此声名鹊起；作为一个天才少年，他更是在 13 岁时就晋升为了国际象棋“大师”。

一直以来，Demis Hassabis 都被认为是人工智能（AI）的风向标人物，作为一家顶级 AI 公司的 CEO，他更愿意将自己视为一名科学家，称一生所做的一切都是为了追求知识，了解我们周围的世界，并将创造通用人工智能（AGI）视为他一生的目标。

在当前由大模型推动的 AI 浪潮中，他甚至主张不要急功近利，不要打破常规。他批评了他所认为的 AI 领域某些人的鲁莽态度，他把这些人比作 “没有意识到自己手中拿着危险材料 ”的实验者。

日前，他被《时代》周刊评为了“2025 年全球最具影响力百大人物”（TIME 100）之一，并接受了《时代》周刊驻伦敦分社记者 Billy Perrigo 的专访。

在采访中，他谈到了 AGI 的潜在“喜”与“忧”：喜在“治愈疾病、开发新能源，推动人类文明发展等”，忧在“被不法分子恶意使用、失去人类控制等”。他还表示，AGI 的伦理和社会问题，如就业、隐私等，也需要得到更多关注。

他还毫不吝啬地分享了他的乐观看法，“我们将在这个人类最繁荣的世界里，带着人工智能将帮助实现的所有技术，遨游星际。”

他还认为，掌握新工具将赋予人类“超能力”，带来更好、更有意义的工作，同时淘汰部分平凡岗位。但当 AGI 能够胜任大多数任务时，新的问题随之而来：如何公平分配生产力提升的成果？以及，失去传统工作的意义后，人类如何重塑存在的目标？“这需要新的哲学思考”。

学术头条在不改变原文大意的前提下，对采访内容做了适当的精编和删减。如下：

AGI 如果诞生，将会产生巨大的影响。你能为我描绘一下最好的情况吗？如果我们创造了 AGI，世界会变成什么样？

我之所以一辈子都在研究人工智能和 AGI，是因为我相信，如果操作得当、负责任发展，它将是有史以来最有益的技术。因此，我认为，从现在起往前推 10 多年，我们可以利用它来做的事情包括：利用人工智能治愈所有疾病，以及帮助开发新能源，无论是核聚变还是最佳电池，或是新材料，如新型超导体。我认为，当今社会面临的一些最大问题，无论是气候还是疾病，都将通过人工智能解决方案来解决。因此，如果我们再往前推 10 年，我认为乐观的看法是，我们将在这个人类最繁荣的世界里，带着人工智能将帮助实现的所有技术，遨游星际。

以气候问题为例。我认为，除了更多的技术，包括人工智能辅助技术（如新型能源等），我们没有任何其他方法可以解决这个问题。我不认为我们能迅速采取集体行动来解决这个问题。

换一种说法： 如果我不知道像人工智能这样的变革性技术即将出现，我会对当今社会感到非常担忧。我坚信这一点。我之所以对未来 50 年的发展持乐观态度，是因为我知道，如果我们正确地构建人工智能，它将能够帮助我们解决一些最紧迫的问题。这几乎就像骑兵。我认为我们今天就需要这支骑兵。

你也一直强调要规避风险。你能描述一下最坏的情况吗？

最坏的情况，我想在科幻小说中已经说得很多了。我认为我最担心的两个问题是：如果使用得当，人工智能将是一项神奇的技术，但这是一项双重用途的技术，它将强大得令人难以置信。因此，这意味着潜在的坏人可以重新利用这种技术来达到潜在的有害目的。因此，作为一个领域和社会，我们面临的一个巨大挑战是，我们如何让好的行为者能够获得这些技术，从而做出令人惊叹的事情，比如治愈可怕的疾病，同时又限制可能的坏行为者获得同样的技术？这是一个很难解决的难题。第二件事是 AGI 风险本身。随着技术变得更加自主、更加基于智能体，技术本身也会带来风险，而这正是未来几年将要发生的事情。我们如何确保能够掌控这些系统、控制它们、解读它们在做什么、理解它们、设置正确的防护栏，而这些防护栏又不能被自我改进的高能力系统移动？这也是一项极其艰巨的挑战。因此，这是两个主要的风险点。如果我们能正确处理这两方面的问题，我想我们就能实现令人惊叹的未来。

但这并不是最坏的情况。最坏的情况是什么样的？

我认为，如果你弄错了，那么这些系统就会产生所有这些有害的用例，而这些用例的范围可能与我们试图做的事情相反--你可能最终没有找到治疗方法，而是用这些系统找到了毒素。因此，如果你颠倒了系统的目标，所有好的用例都会变成有害的用例。作为一个社会，这就是我一直支持国际合作的原因。因为无论系统建在哪里，无论以何种方式建造，它们都可以分布在世界各地。它们会影响到世界上几乎每一个角落的每一个人。因此，我认为，我们需要围绕这些系统的构建方式、我们赋予它们的设计和目标，以及它们的部署和使用方式制定国际标准。

在人工智能安全领域，有很多人都在谈论这些系统在多大程度上可能会寻求权力、具有欺骗性、试图剥夺人类的权力并摆脱人类的控制。你对这是否是默认路径，还是尾部风险有什么看法？

我的感觉是，风险是未知的。所以有很多人，我的同事，著名的图灵奖获得者，都站在这个论点的两边。我认为正确的答案应该是在中间的某个位置，也就是说，如果你看看这场辩论，辩论双方都有非常聪明的人。因此，这告诉我，我们对它的了解还不够多，无法真正量化风险。随着我们对这些系统的进一步开发，可能会发现要控制这些系统比我们想象的要容易得多，或者说比我们预期的要容易得多。很多事情都是这样的。因此，有一些证据表明，事情可能比一些最悲观的人所想的要容易一些，但在我看来，风险仍然很大，我们必须仔细研究，量化风险，然后尽可能有预见性地提前处理，而不是事后处理。

是什么让你夜不能寐？

对我来说，是国际标准与合作的问题，不仅是国家之间的合作，还有公司与研究人员之间的合作，因为我们正在迈向 AGI 的最后一步。我认为我们正站在这个风口上。也许我们还有 5-10 年的时间。有人说更短。我不会感到惊讶。这就像一个概率分布。但无论如何，它很快就会到来。我不确定社会是否已经做好了准备。我们需要考虑清楚这一点，同时也要考虑我之前谈到的这些问题，包括这些系统的可控性，以及这些系统的可访问性，并确保一切顺利。

你认为自己是科学家还是技术专家？你远离硅谷，来到伦敦。你如何定位自己？

我首先认为自己是一名科学家。我一生所做的一切都是为了追求知识，试图了解我们周围的世界。我从孩提时代起就痴迷于此。对我来说，打造人工智能就是我对如何解决这些问题的表达：首先打造一个工具，这本身就非常吸引人，是对智能和意识以及这些已经成为最大谜团的事物的一种陈述，然后它可以有双重目的，因为它也可以作为一种工具来研究你周围的自然世界，比如化学、物理和生物学。还有比这更令人兴奋的冒险和追求吗？因此，我认为自己首先是一名科学家，其次可能是一名企业家，这主要是因为这是做事最快的方法。最后，也许是一名技术工程师，因为归根结底，你不想只是在实验室里理论和思考问题。实际上，你想为世界带来实际的改变。

我想谈谈时间线的问题。奥特曼和 Dario Amodei 最近都给出了...

很近了，对吧？

奥特曼说他预计 AGI 会在特朗普任期内出现。Amodei则说最早在2026年就会实现。

部分取决于你对 AGI 的定义。因此，我认为，出于各种原因，人们在淡化这一定义，筹集资金，人们可能会出于各种原因这样做。我们的定义其实一直都是一致的：拥有人类所有的认知能力。实际上，我对此的测试是：[人工智能]能否在 1900 年代利用与爱因斯坦相同的信息量提出广义相对论？所以，这不仅仅是解决一个数学猜想，你能提出一个有价值的猜想吗？所以，我敢肯定，我们的系统很快就能解决其中一个“千年奖”。但是，你能提出一组像这样有趣的猜想吗？

听起来，一言以蔽之，这就是你所说的科学家和技术专家之间的区别。所有技术专家都在说：这是一个能比人类更好或更便宜地完成有经济价值的劳动的系统。

这种说法很好。也许这就是我对这部分内容如此着迷的原因，因为在历史上，我一直钦佩那些科学家，我认为他们才是真正推动知识向前发展的人，而不是让知识变得实际有用的人。显然，两者对社会都很重要。工程和科学都是如此。但我认为，[现有的人工智能]缺少这种假设的产生。

让我们具体问题具体分析。你认为我们离能为人工智能研究做出有意义贡献的自动研究员还有多远？

我认为还有几年时间。我认为编码助手已经相当不错了。到明年，我认为他们会非常出色。我们正在努力推进这项工作。[Anthropic]主要专注于此，而我们一直在做更多科学方面的事情。[人工智能仍然]不如最好的程序员能为操作系统设计出漂亮的结构。我认为这部分还很欠缺，所以我认为还需要几年的时间。

在 Gmini 模型中，你非常注重多模态性，不仅将语言空间作为基础，还将现实世界作为基础。与其他实验室相比，你们更注重这一点。这是为什么？

有几个原因。其一，我认为真正的智慧需要了解你周围的时空世界。这对你想做的任何真正的科学也很重要。我还认为，这实际上会让语言模型变得更好，而且我认为我们已经看到了一些这样的效果，因为你实际上已经把它建立在了真实世界的语境中。不过，事实上，语言本身已经走得比某些人想象的要远得多，也许我也会认为这是可能的。最后，这也是一个用例问题，因为我脑海中有两个用例，我们正在大力开发。一个是通用数字助理的概念，它能在日常生活中帮助你提高工作效率，丰富你的生活。它不只存在于你的电脑中，而是随身携带，可能是手机、眼镜或其他设备，而且一直都非常有用。要做到这一点，它需要了解你周围的世界，并处理你周围的世界。

其次，对于机器人技术来说，它也正是现实世界中机器人技术所需要的。它必须了解所处的空间环境。[人类是]多模态的，对吗？所以，我们在屏幕上工作。我们有视觉。我们有喜欢看的视频，有想创作的图像，还有想听的音频。因此，我认为人工智能系统需要反映出这一点，才能与我们进行最充分的互动。

Signal 总裁 Meredith Whittaker 对你刚才描述的万能智能体提出了批评，认为你并不是凭空得到这种帮助。作为交换，你需要放弃大量数据。你必须让它获取你生活中的几乎所有信息使其有用。谷歌是一家收集个人信息以提供有针对性广告的数字广告公司。你如何看待智能体对隐私的影响？

Meredith 指出了这一点。我喜欢她在 Signal 所做的工作。我认为，首先，这些东西都需要选择加入。

但我们选择了各种东西。我们选择数字追踪。

所以，首先，这是你的选择，当然，人们会这么做，显然是因为它很有用。我认为，只有当你完全相信这个助手是你的，它才会起作用，对吗？它必须值得你信任，因为它就像现实生活中的人类助手一样，一旦他们了解你，他们就真的很有用。我的助理们比我自己还了解我，这就是为什么我们的团队合作得这么好。我想，这就是你想要的数字助理的实用性。但是，你必须确保它真的是孤立的。我们拥有世界上最优秀的安全人员，他们负责这些工作，以确保它能保护隐私，甚至在我们的服务器上也能加密，以及所有这些技术。我们正在努力研发这些技术，以便在我们的助理产品（我们称之为 “Project Astra”）准备就绪时使用。我认为这将是消费者的决定，他们会希望使用保护隐私的系统。我认为边缘计算和端侧模型在这里也将非常重要，这也是我们如此关注小型、高性能、可在单个设备上运行的模型的原因之一。

我不知道你认为还要过多久，我们才能开始看到这些东西对劳动力市场的重大影响。但如果或当这种情况发生时，将会造成巨大的破坏，对吗？你有应对这种混乱的计划吗？

我和很多经济学家谈过这个问题。我认为，首先，该领域的专家，经济学家和其他人，需要做更认真的工作。当我与经济学家交谈时，我不确定这方面的工作做得是否足够。我们正在建立智能体系统，因为它们会更有用。我认为，这也会对工作产生一些影响，尽管我怀疑它会带来其他工作，现在还不存在的新工作，即你要管理一组智能体，他们在做一些琐碎的事情，也许是一些背景研究，等等，但你还是要写出最终的文章，或提出最终的研究论文。或提出研究的想法。比如，你为什么要研究这些东西？

所以我认为在下一阶段，人类将被这些神奇的工具赋予超能力，前提是你知道如何使用它们，对吧？所以会有颠覆，但我认为会更好，会有更好的工作和更充实的工作，然后更平凡的工作就会消失。过去的科技就是这样。但是，当 AGI 可以做很多很多事情的时候，我认为这是一个问题：我们能否在全世界范围内公平、广泛地分配生产力的提高？之后还有一个问题，就是意义和目的。这就是下一个哲学问题，我认为我们今天需要一些伟大的新哲学家来思考这个问题。

我在2022年采访你时，我们谈到过这个问题，你说过 “如果你身处一个极度富足的世界，不平等的空间和方式就会减少。所以，如果AGI愿景得以实现，这也是它的积极后果之一。” 但在那样的世界里，仍然会有人控制财富，有人没有财富，工人也可能不再有工作。你能详细阐述一下你的愿景吗？

我个人并没有花很多时间在这个问题上，尽管我可能越来越应该这样做。同样，我认为顶尖的经济学家也应该对此多加思考。我觉得，彻底的富足真正意味着你解决了核聚变和/或最佳电池和/或超导体等问题。假设你在人工智能的帮助下解决了这三件事。这意味着能源的[成本]基本上应该为零，而且是清洁和可再生的，对吗？突然间，这意味着你可以解决所有的用水问题，因为你只需要有海水淡化厂，这很好，因为那只是能源和海水。这也意味着制造火箭燃料......你只需使用类似的技术，从海水中分离出氢和氧，对吗？突然间，资本主义世界的许多基础都不复存在了，因为其基础是能源成本、资源成本和资源稀缺性。但是，如果你现在已经打开了太空，你可以开采小行星和所有这些东西，这需要几十年的时间来建设基础设施，那么我们就应该进入这个新的经济时代。

我认为这根本没有解决不平等的问题，对吧？开采这些小行星仍然可以获得和积累财富。土地是有限的。

所以现在有很多东西都是有限的，这就意味着最终是一场零和游戏。我所考虑的是一个不再是零和游戏的世界，至少从资源的角度来看是这样。那么还有其他问题吗？也许吧。因此，这些问题必须在政治上加以解决。但至少你已经解决了一个主要问题，那就是，在我们所处的这个资源有限的世界里，一切最终都会变成零和。这不是唯一的根源，但却是冲突的主要根源，也是不平等的主要根源。

这就是我所说的彻底的富足。我们不再处于一个资源有限的零和世界。但我敢肯定，这可能需要一种新的哲学。

阅读最新前沿科技趋势报告，请访问欧米伽研究所的“未来知识库”

https://wx.zsxq.com/group/454854145828

未来知识库是“ 欧米伽 未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。

截止到3月31日 ”未来知识库”精选的百部前沿科技趋势报告

（加入未来知识库，全部资料免费阅读和下载）

上下滑动查看更多u