AI有种1994年互联网的颠覆性气息 | 2024顶科协奖“智能科学或数学奖”得主连线实录，相约十月顶科论坛

2024世界顶尖科学家协会奖（简称顶科协奖）9月12日在上海揭晓——

“智能科学或数学奖”授予康奈尔大学Jon Kleinberg教授

“生命科学或医学奖”授予约翰斯·霍普金斯大学Jeremy Nathans教授

2024顶科协奖新闻发布会首设获奖者连线环节。现场连线中，两位获奖者分享了他们获奖的喜悦和科研感想，并表示非常期待10月的上海之行。

届时，隆重的2024顶科协奖颁奖盛典将与2024世界顶尖科学家论坛开幕式同时举行，两位获奖者也将参加精彩的获奖者系列交流活动。

我们将分两期分享两位获奖者连线访谈实录：

2024顶科协奖“智能科学或数学奖”

获奖者访谈

Q：当下有很多人对技术发展非常乐观，也有很多人没有意识到技术发展会导致什么变化，您认为哪些伦理问题最为重要和紧迫？

Jon Kleinberg：

这是我们这个领域正在思考和努力解决的核心问题之一。当我们思考算法的使用时，应该将算法视为强大的概念、智力的工具——早在计算机出现之前就已经存在了。用地图导航、用算术记录家庭或公司的账目、做加减乘除等，任何循序渐进的程序都是一种算法。

但是，计算机确实加速了算法进入生活的许多部分。它使算法的规模扩大，从而在我们无法想象的规模上运行系统和社会进程。因此，就像大多数在这种规模下运行的强大工具一样，算法可以产生巨大的效益，也可以造成巨大的危害。这取决于我们在设计中做出的选择。因此，我认为这是我们工作的关键问题。

当我们思考以这种方式使用功能强大的工具所引发的伦理问题时，会发现问题有很多类别。在康奈尔大学讲授此类主题的入门课程时，我们通常会着重从几个角度来探讨：

首先是算法成为“决策者”、做出与人有关的决策时，我们如何定义“做出公平和相对公平的决策”？

第二个角度是算法作为敏感信息的存储库。鉴于许多通过机器学习和人工智能训练出来的算法，其背后都有大量的数据支撑，我们该如何保护这些信息的完整性，以及数据所代表的人的利益？

最后，当我们都上网在大型平台上消费新闻，向熟人、朋友和亲人发送信息，发表自己的观点让全世界都能看到时，算法就成了交流和自我表达的机制。我们不禁要问，我们的设计选择会如何影响哪些东西会被关注，哪些东西会被看到？

所有这些都是非常深奥的问题，甚至连基本定义都是具有挑战性的辩论话题，我认为我们所有人都需要为未来的发展做出贡献。

Q：如何理解算法对世界的影响？我们对大数据的使用会纠正我们的偏见，还是会让事情变得更糟？

Jon Kleinberg：

算法是一种工具，随着时间的推移，我们一直在磨炼和完善它。如果追溯到几个世纪以前，复杂问题的数学化使得记录、保存、规划、资源分配等社会功能成为可能。但我们既看到了这种方法的好处，也看到了其潜在的危害。算法让我们能够把手工操作的事情，以一种更大规模、更高效率的方式来完成，而且还能以一种人类根本无法做到的一致性来完成。

这就意味着，既然算法是在我们不在场的情况下做出决定，我们就必须在使用抽象概念时更加小心谨慎，这样算法做出的目标和选择才是我们真正想要的。

例如，用于分配资源和决定人员的算法，可以根据我们赋予它们的目标进行非常有效的优化。但它们无法自行定义这些目标。这部分取决于我们，我们创造了算法运行的形式，它在其中执行。

因此，如何利用算法来实现社会目标，将永远是技术层面的算法设计者、社会层面的政策制定者和广大公众之间的持续对话。

Q：你认为人工智能是泡沫还是需求是可持续的？

Jon Kleinberg：

每个从事计算工作的人很早以前就已经学会了要谨慎预测，进步的速度往往快于预期，我们最终会陷入意想不到的境地。关于人工智能的问题，我认为有些是过去2年时间尺度上的深刻变化，有些则是过去12至14年时间尺度上的深刻变化。

回溯到 2010 年到 2012 年，我们看到的是，由于人工智能的突然成功，以及在巨大数据集上训练的深度神经网络，某些从20世纪50、60年代就被宣布为挑战性问题的问题突然开始得到解决，其进展之快着实让人大吃一惊，对吗？

这些问题包括识别图像中的物体、将人类语言的声音信号转化为书面文字、提取一段文字并尝试总结其内容……于是，我们有了人脸识别、语音识别等应用。

在2010年后长达10年的时间里，人工智能的发展非常迅速。当时的一个明确目标就是，人工智不仅要识别数据或进行分类，还要生成数据。这就是生成式人工智能一词的由来。过去2、3年里的突破，我认为是深度神经网络10年发展的顶峰。

问题是，接下来走向何方？我认为有些变化是深刻的，而且会持续下去。我们现在拥有了一些强大工具，能自动完成一些曾以为不可能自动完成的任务。但更不明确的是，我们将在它们的基础上构建什么？

我认为，现在这个时期是具有颠覆性的，就像 1993、 1994 年万维网早期也具有类似的颠覆性。1994 年我在读研究生，看着网络带来的所有变化。我当时有一种感觉，1994 年已经发生了很多事情，但我认为我们所忽略的是思考还有多少事情尚未发生？

我们当时应该预测一下未来10年。到 2004 年时，1994年的东西都已经看不到了。它们成了网络搜索、社交媒体、推荐系统的基础设施，成了2004的基石。

如果你把1994年类比到今天正在发生的事情，又一次，基石正在建立。我认为这才是这个领域需要继续关注的：既要关注建立这些结构的机会，同时也要以负责任的态度和符合社会利益的方式去建构。

Q：您的研究横跨多个领域，您是如何开始注意到这些领域之间的深层联系的？在促进跨学科合作方面，对您来说最大的挑战是什么，您是如何克服的？

Jon Kleinberg：

在上世纪70、80年代，计算机的重点其实主要是计算机。而到了90 年代，计算机突然变成了连接、网络和系统，成为交流和自我表达的平台。

很显然，为了理解网络和网络上的内容，为了以一种对人们有用的方式利用网络，我们需要借鉴许多领域的知识，包括解决技术问题的计算机、数学和统计学，以及社会科学领域、经济学、社会学、心理学、政治学等许多领域的知识，以便理解正在发生的行为、社会和市场动态，然后结合法律和政策去思考社会对这些变化的反应。

这种跨学科的工作显然是非常具有挑战性的，要消除方法、培训和术语方面的障碍，跨越这些不同的领域。就像Nathans教授刚才所说的，互动、对话和交谈在科学研究中十分重要。

对我来说，从计算机到经济学、社会学再到法学，等等，跨越这些跨学科鸿沟确实有赖于在这些领域找到合作者。我的一些最亲密的合作者都来自其他学科，他们思考问题的方式与我真正不同，但不知何故我有能力与他们发展出一种共同语言，这样我们就能以一种最终对彼此都有意义的方式来比较观点。

编 辑：秣 马

佳 莹

实习生：史新雨

责 编：小 文

顶科协奖