网易首页 > 网易号 > 正文 申请入驻

我们即将经历下一个技术奇点,超智能时代人类会更加不平等吗?

0
分享至

近年来,人工智能的发展正在成为全世界瞩目的经济增长点,不少人甚至将本轮以大语言模型为基础的人工智能浪潮视作“第四次工业革命”的起点、唯一的“技术奇点”以及通往通用人工智能的必由之路。

但是另一方面,对于大模型技术本身的质疑并没有消退,反而随着未被使用的高质量训练数据越来越少以及大模型扩大参数的边际效益递减问题而愈发高涨。同时,大模型对于传统就业市场和经济生态产生了实质性冲击,这进一步引发了一部分群体的民意反弹。

当下,人类似乎正站在又一个科技的十字路口,等待着技术发展指明前行方向。未来的人类社会会向何处去?我们又会如何与人工智能共存?关于这些问题,观察者网与《超智能与未来》(Hyperintelligence: How the Universe Engineers Its Own Mind)、《超级趋势》(Supertrends)等畅销书的作者拉斯·特维德对话,请他为我们给出明确的建议。

【对话、整理 观察者网/唐晓甫】

观察者网:您创办了多家公司,也撰写了不少畅销书。是什么促使您从单纯的商业投资转向为人类未来发声?是否有一个关键时刻改变了您的视角?

拉斯:我曾经从更宏观的视角写过一本书,名为《创造性社会》(The Creative Society),讲的是一些科学家如何凭借创造力取得成功。这本书的灵感来自我在哥本哈根的一次晚餐。

我是丹麦公民,但居住在瑞士。那次我受邀在哥本哈根与德勤的一位首席技术官雅各布·博克·阿克塞尔森(Jacob Bock Axelsen)共进晚餐。他极为特别,拥有物理学、生物物理学、数学、哲学和化学五个学位。我们聊了宇宙、生命、数学、统计学、物理学等诸多话题。

拉斯·特维德接受观察者网访谈

随后我告诉他,另一位朋友建议我写一本关于未来的书,但我不确定写什么,因为我已写过三本同类主题的书。回到瑞士后,我收到雅各布的短信,说:“你应该把新书命名为《宇宙的智能进化》(The Cosmic Evolution of Genius)。”我便开始琢磨这个题目,并打电话问他,这个题目的含义是什么?

他说,关于人工智能的未来只是一个更宏大故事的一部分。未来我需要考虑的事情不仅关乎宇宙、关乎智能的演化,也关乎我们人类在那段更宏大的叙事中所应当扮演的角色。我觉得这个视角非常有意思,于是便开始动笔写这本《超智能与未来》。

观察者网:许多知识分子对科技和人工智能的发展持悲观态度,但您却极为乐观。您创业过程中的哪些经历塑造了您对科技进步的乐观态度?

拉斯:我首先认为,几百年来大量证据有力地证明,人类的生存状况在诸多方面都在稳步且大幅改善。1939年,德国学者诺伯特·埃利亚斯(Norbert Elias)出版《论文明的进程》(Über den Prozess der Zivilisation)。这本书以德文出版,当时几乎无人关注,因为它讨论的主题是人们会随着时间推移变得更文明、更和平。这本书问世的时机非常糟糕,因为二战当年就爆发了。

后来,史蒂文·平克又拾起这一线索,写出了一本极其出色的书。在这本名为《人性中的善良天使》(The Better Angels of Our Nature)的书中,他以极其详尽的方式描述了人们如何在全世界范围内变得更加文明。他认为,尽管仍然有战争存在,但战争总体上越来越少,残酷的事情也越来越少,世界整体正在更多地走向“双赢”而非“零和”。

在此,我想补充一点,许多人认为,我们的资源正在枯竭;但实际情况恰恰相反。我们正从各种渠道获得越来越多的资源,因为“资源”从根本上说是创新的产物。我认为第一个明确指出这一点并用统计数据加以支撑的人,是一位名叫朱利安·西蒙的学者,他写了一本书,名为《终极资源》(The Ultimate Resource)。他在书中提出人类的“终极资源是我们的头脑”。从历史经验看,随着人口的增加以及技术发展,我们获得的资源反而越来越多。

现在,全球关于“我们正在毁灭地球”的讨论非常多,但如果你查看统计数据就会发现任何一个进入工业化、然后继续发展工业化的国家,都会在起步阶段破坏环境,但当其收入水平达到一个阶段后,当地的环境又会转好。整体而言,当下世界在不少方面正经历环境改善,森林覆盖等指标在恢复。从长期统计看,有大量证据表明世界的情况正在变好。

不过,现实是:写“末日论”的书往往畅销;而写积极进步的书,销量反而一般。很多人不了解这些统计事实,但世界确实在变好,而且还会继续变好。

观察者网:您的书名实际上暗示了宇宙的演化规律本身就设计了智能。这是一个深刻的哲学命题。您能否解释一下,您如何得出这种宇宙观?您是否认为产生智能是宇宙的固有属性,而非偶然副产物?

拉斯:当我们在着手写这本书时,最开始只打算写一部宇宙的复杂性如何演化出智能的书。我们并非先立一个预设模型再去填充细节,而是顺着问题把故事写出来。在行文过程中,我们发现宇宙的演化历史中反复出现一些非常简单的模式,而这正是宇宙创造智能的方式,它们并不复杂。

首先,让我们简单回顾一下宇宙的历史:我们知道宇宙在大约138亿年前的大爆炸中诞生。在最初的一瞬间,宇宙并不存在任何物质、只有能量;随后出现了一些亚原子粒子,并在最初的数分钟内组合成几种不同的原子,其中几乎全部原子都是氢和氦。接着又过去了数千万年,恒星出现了。它们在达到核聚变的临界密度后开始合成其他元素,于是就有了整个元素周期表。

大爆炸假说

在宇宙漫长的历史中,演化过程反复出现这样一种“临界密度—级联”模式:在某个时刻,某种事物达到“临界密度”后就会触发新的复杂性级联反应。最初,它只产生“固定产物”,比如原子;而在某个阶段,它开始产生“有生命力的产物”,例如细胞。你可称前者为token(记号/计数单元),后者为living token(活性单元)。

现在,我们正在借助科技与人工智能,创造信息领域的临界密度(编者注:即智能涌现现象)。这种密度已经高到足以催生新的智慧与理解,乃至更高密度的知识。在历史上,根据我的归纳,我们已经经历了利用信息密度创造知识和智慧的十个阶段,而我在书中提到的“超智能”(Hyperintelligence)是第十一阶段。

现在我们刚刚看到“超智能”的些许曙光。我认为我们对它的感觉,类似当年人们初见内燃机。当时见到内燃机的人们会尝试启动它,听它轰鸣几下又熄火,再循环启动到熄火的过程,现在的我们也是在做类似的事情。

我们确实看到了“超智能”的一些要素,但尚未达到那种“全时、全速”运行的状态。我认为数年内人工智能会达到那一步,并引领我们迈向更高层次,创造新的知识。归根结底,人类或许只是通往“宇宙的智能进化”的又一块垫脚石;未来宇宙有可能变得具有意识。

我们可以通过人工智能让机器人与无人探测器向宇宙各处扩散,这样的扩散可能导致AI本身获得意识。如果具备意识的AI遍布整个宇宙,那么我们可以认为:我们为宇宙创造了它自身的意识。也许宇宙中还有其他文明也在做同样的事情。我认为宇宙需要我们,或者某种与人类相似的物种,迈出那关键一步。

观察者网:您刚刚已经提到了临界密度和复杂性级联的概念,此外您还认为创造性脉动是推动智能进化的主要力量。您能否详细说明这三个概念的相互作用机制,为何它们是宇宙“自我设计”的基本机制?

拉斯:让我们把时间线再往前推一点。正如我一开始所说,大爆炸后早期只有四种元素,其中几乎全部都是氦和氢。那个阶段的宇宙到达了一种较低层次的复杂性,然后其系统复杂度不再显著增加。

在这样的背景下,氢气云在数千万年的尺度上坍缩,最终才能形成一颗恒星。然后恒星内部在高温高压下发生聚变,从氢一路合成到铁;随后在超新星爆发或恒星相撞时产生更重的元素,如金、铀等。

于是整个元素周期表上所有的元素就形成,而宇宙也因此拥有了可合成分子的“积木”。但是在没有生命的宇宙中,实际上只存在大约260到350种不同类型的加合物和分子,但这已经是那个阶段的系统复杂性的上限,那个时候的宇宙已经无法生成更多种类的物质。但是随着生命的出现,复杂性显著上升。

首先是单细胞生命,它们就开始创造出各种复杂的分子,复杂性由此开始上升。单细胞生命如何迈向多细胞生命呢?关键在于临界密度:随着单细胞生物分裂增殖,它们的密度不断提高并趋于黏连;当超过某一临界密度,便触发复杂性级联,细胞开始分化与协作,最终形成彼此依存、单个细胞难以独立存活的多细胞体。

如果我们把这个模式抽象出来,可以将其理解为当一类物质超过临界密度后,就会产生的复杂性级联反应,并随之产生的创造脉动。这一过程是基于极其简单的原理重复而成,并不需要外界力量的推动。这种自我形成、自我发展并达到一个阶段的模式,贯穿了宇宙自驱动的演化历史。

观察者网:很多人把“技术奇点”视作未来某一刻的单一事件,而您认为它在宇宙中会持续发生。这与传统奇点论有何不同?对我们的应对有何启示?

拉斯:在我看来,我的观点并不与“单一奇点”论相矛盾;相反,我认为过去我们已经历过多次(物理、生物、技术等各方面的)奇点,未来还会出现若干新的奇点。很多人强调我们正逼近那个“唯一的奇点”。但事实上,从原子的出现、生命的出现、多细胞生命的出现、再到科学技术的出现,每一次变革都创造了一个奇点。

我们现在创造一个新的奇点,那就是“高级智能”和“超智能”,而且在这之后还会有一连串的奇点。我在书中总共列举了14个奇点,也许还有第15个。第15个奇点就是创造一个新宇宙的能力。对于普通人来说,我们应当做好准备应对这些变化。我们应当意识到,当前所面临的转变,将是在人类漫长历史中速度最快的一次。

我建议每个人都在手机上安装一个AI并与之互动,了解其基本工作方式。对年轻人来说,他们需要意识到,许多本来通过传统教育路径可以获得稳定、体面的岗位将被AI和机器人替代。因此,每个人都应弄清楚自己的兴趣所在。你究竟喜欢做哪类事情,将非常必要。我们需要思考,在一个会计、律师等诸多职业都被AI替代的世界里,我如何去做那些我热爱的事?

观察者网:您的工作和研究覆盖了人工智能系统的自我改进方向。从研究与投资的角度看,您认为实现真正自主的AI还需要多久?目前还存在哪些关键的技术障碍?

拉斯:我们在公司里使用代理式人工智能绘制与预测过全球的科学与创新发展全景图。到目前为止,我们标注了人类历史上大约16000项创新,并做出了4000条预测。

到2028年,我们预计DeepSeek之类的推理式AI将会像学者一样工作、自主构建复杂答案,并且为了完成最终目标不间断工作。与之相对比的是,即便今天我们向模型提问,它也许“思考”一分钟就答复;当人们用它们来写软件时,有时它们可能连续工作20分钟然后停止。当然它们在一个任务上能够持续工作的时间,正以一种接近超指数的方式不断变长。

所以我们认为,2028年左右AI就能做到不间断工作,并自行定义后续任务直至完成全部任务。在行业里我们称之为“AI创新者”(AI innovator)。

我在这里给你举个例子,我们写这本书时大量使用了AI,但在写作的时候,我们需要提出一个问题后,它才会给出答案。但是也许到了2028年,你只需输入:“这是我对一本书的设想,请把它完成。”它就会自行规划路径、持续写作,直至成书。

现在写一本这样的书大概需要一个人一年时间,但也许三年后的AI可以在半个小时之内里完成这样一本书,所以我认为2028年可能成为AI发展历史上一个关键节点。

AI Agent是下一阶段AI发展的重点 阿里云

2028年也是我认为的“AI驱动机器人被大众接受”的时间点。我们已经看到了AI机器人的出现,但是它还远远谈不上走入大众市场,等到2028年,我们将看到它所带来的经济影响。

如果我们接着把时间线向前推进到2034年,当然,以下都只是我们的猜测,那些自主的、由AI驱动的模型与设备能够进行非常复杂的协作工作。那时,埃隆·马斯克或其他人理论上就可以将机器人和AI送往火星并留在那里,并为它们设定指令:“我们50年后再回来,在火星上建立一座文明。”这样当你50年后回来时,它们可能已经理解需要如何将火星地球化、建造建筑,并显著改善当地环境。届时,那里将可能会出现一些由它们创造、不同于人类文明的要素。

我们认为到2034年,我们将可以在技术上实现这些东西,只不过在进度上会有所滞后,但这些设想都将变得可能。所以,我们要面对的是非常激进的变化。

观察者网:所以您认为AI,尤其是大模型会在几年内彻底理解真实世界的物理规律吗?

拉斯:我认为它将能够在几年内实现自行定义任务。因此,当你思考一个自我再进化或递归的东西的时候,你会发现其中许多要素,AI可以进行自我改进。举例来说,今天我们可以通过调参让AI的某些表现发生变化,类似于通过生物手段取出一段基因并进行调整,使其表达更快;而在更根本层面,我们也可以像在生物学中添加一段全新基因那样,为AI赋予全新的能力。

届时,它们还可以自主部署:在既定目标驱动下自主规划并执行外出任务,在追求目标的过程中可能突破许多既有限制。这些要素共同构成我们面前这场巨大转变的一部分。

观察者网:您认为创新是我们最终的资源,人口越多,人均资源就越丰富。这挑战了传统的马尔萨斯思维。您能否举例说明这一原则在历史上是如何运作的,以及您认为它在当今的哪些领域仍然有效?

拉斯:首先,如今关于“资源正变得更加充裕”的现象,已经有了非常精细化的研究。对于这一概念的精确描述是:一个人为了获得一定数量的某种商品或某种基础资源,需要工作的小时数。这被称为“时间价格(time price)”。

有一项研究考察了美国最常用的26种商品(比如铁以及许多其他东西)在1850年到2018年间约170年的“时间价格”的演变。结果显示:普通美国工人购买这26种商品所需的工作量下降了98%。

实际上,这里还存在一种类似“摩尔定律”的规律:平均每20年,为购买同一批商品所需的工作时间会减半。很多基础商品在非常长的时间里都呈现出这种指数性减少趋势,其中最经典的例子是“光”。人们对光的需求极强,以至于人们很早就围绕光进行创新。有研究显示:自石器时代以来,光的成本已经便宜了60万倍,没错,就是60万倍。

接下来我们可能会说,是的,过去如此,但未来会不会继续?如果我们把这一点与《超级趋势》一书中提到的时间线及我们所有的预测放在一起看,就会发现它将继续,甚至可能加速。这是因为我们正在关注并开发一些极其重要的革命性技术。

在这里我举几个例子,其中之一是核聚变。前几天我参观了一个可控核聚变的实验堆。中国也正致力于核聚变研究,目前全球有四十余个正在工作的实验性聚变堆。其中一个公司名为Helion,他们声称三年后就能并网供电。对此,我们可以拭目以待。但大多数可控项目都表示大约需要15年左右才能实现商业供电。

而一旦核聚变实现商用供电,我们将拥有足够的能源供全世界使用,其能提供的能源足够人们使用到地球毁灭。它完全安全,完全“免费”,所需资源极其少且异常充裕,根本不存在任何上限。这是关于能源的例子。

四种可控核聚变路线,左上为托卡马克装置(中国环流三号);右上为仿星器装置(Wendelstein 7-X);左下为激光可控核聚变装置(国家点火装置);右下为Z-箍缩装置(Z Pulsed Power Facility)

但在许多其他领域,我们也看到效率在提高。我可以给你举一个历久弥新的例子,农业。早在农业诞生之初,人们发现如果在同一片土地上持续耕作会导致减产,这是因为植物需要氮才能发育,而耕种会不断从土壤中汲取氮。

所以当时的人们采用牛粪等粪便当肥料;后来发现这些粪便的产能仍不能解决减产问题,于是人们又开始利用在太平洋的岛屿上发现鸟粪石;这种来源随后也枯竭了。但是同期,人们发现可以通过化学的方法在空气中“提取”氮元素,并将其工程化,化肥的出现真正从根本上解决了问题。

历史上,这种事情一再重复发生,而我们事实上正走向物质的“超级丰裕”。我们越来越不依赖直接从自然界获取东西,而越来越依赖人工合成。现在即便是劳动,我们也正通过人工智能与机器人实现“合成劳动力”。这是一种根本性趋势,正在深入渗透并改变文明的运作方式,而且它一直在加速。

观察者网:通过《超级趋势》和您的预测工作,您试图描绘未来创新。您用什么方法区分真正的新兴趋势与纯粹的炒作?如何解释突破性创新的不可预测性?

拉斯:我们确实为了区分趋势与炒作建立了一套分析系统。我认为如果需要区分炒作与趋势,需要首先考虑就是,是否存在真实的市场需求。许多炒作往往是懂技术的人甚至工程师推动的,他们认为他们的想法可行,但是在许多情况下,他们并不太讨论这项技术是否真的存在足够大的需求。因此,真正重要的是人们到底想要什么。

从商业角度,我们也会考量网络效应或其他放大机制。历史上,广播最初被当作“听书”的工具,电视起初被认为只能播放录制的戏剧,但是后来围绕着广播和电视出现了一系列基于需求的生态和多元应用。事实证明,人类会先发明出核心技术,然后出现围绕它的应用生态。因此,你必须同时预判核心技术的突破,然后预测技术突破后应用或需求层面的突破。

我们现在在使用AI做相关预测。实际上,AI的“幻觉”在回答“如果五到十年后拥有这项核心技术,它能被用于什么”时,表现出乎意料地好。它会提出“这可以用来做X”的清单,我们再评估可能出现多少种应用及其吸引力。就我的经验而言,AI往往能给出一些出人意料却可落地的点子,而这些潜在应用方向通常确实颇具吸引力。

观察者网:您倡导的许多积极技术也会带来巨大的经济颠覆。在人工智能能力迅速扩张而社会与经济体系尚未适应的过渡期,企业和投资者应如何应对?

拉斯:首先,我认为在商业领域将这些技术的影响划分为两类是有益的。第一类是提升既有流程的效率,这也引出提到的问题:岗位流失。第二类是思考这些技术能催生哪些全新的事物。

通常,擅长处理这两类事项的人也并不相同:擅长提升效率的人一般并不那么富于创造力,反之亦然。我认为,提升效率的方法其实相当直接:雇用一些人,对所有流程进行梳理,并分析如何改进。至于创造性流程,我不认为应当假设你自己在公司工作或者动员你的所有员工就能搞定。

我认为,可以创建许多大型组织来发掘创造性可能性。当然,你可以从公司内部着手:举办竞赛,让员工提交方案;建立一个类似电视节目《Dragons’Den》的机制。给予人们进行路演、提出创意的机会,若点子足够好,或可获得资金。但你也可以设立“创业加速器”和风险“胶囊”基金。再比如,10家保险公司可以在竞争的同时共同出资设立保险科技风投基金;银行也可以类似操作。

总之,我有很多方式可以让好的创意浮出水面。

如果你投资了足够多的初创公司,你可以基于经验判断:“这家的商业逻辑说得通,我们愿意加入其团队。”而一旦成为团队一员,你所持股份也可能获得可观收益。关键在于区分“效率”与“创造力”两大板块,因为这确实是两件不同的事。

观察者网:您是否认为AI的发展会产生拥有超级AI的“超人”,进一步加剧世界的不平等?

拉斯:我认为,很难断言AI会加剧还是会减少全球的不平等情况。一种可能的情形是:极少数人因AI而变得极其富有。以埃隆·马斯克为例:马斯克的私人开支很少,他的财富主要集中在公司之中。因此,我并不认为马斯克在剥夺他人的财富;我认为他只是在让财富循环起来,以创造就业与推动创新。因此,这不是问题。但更重要的问题是:普通人怎么办?许多人会因为AI失去工作,并且难以寻找到下一份工作。

马斯克

但是AI发展也有积极的一面,普通人可以通过AI获取更多知识、受到更多教育。教育部门必须适应这种转变。你、我以及许多人一直在使用AI学习各种各样的内容。传统上,我们会先用若干年受教育,再在余下职业生涯使用我们所学赚钱、升职。但现在这种学习模式已经结束了,我们需要终身学习。

AI进入教育领域也带来了一种可能性,假设你出生在贫困地区,不认识任何大人物,但你可以访问上海或波士顿的大学教授相同的模型。这为任何拥有智能手机或电脑的人都提供了巨大机会。

观察者网:鉴于中国在人工智能领域的巨额投资,以及您强调的临界密度作为驱动力,您如何看待中国在全球超级智能发展中的地位?您认为中国的做法有哪些独特的优势,面临哪些挑战?

拉斯:首先,若把中国所具备的优势拿出来看,我先提一个常被忽略的点——电力。如果你听过谷歌的CEO以及美国其他科技领军人物的说法,你会认识到,在他们眼中,AI最终极的成本就是电力成本。而中国在电力基础设施建设上的推进速度,远超世界上任何其他国家。

去年中国在智能电网上的投资超过了全球其他国家的总和,而我们确实需要大量电力。做个参照,美国未来十年计划开建的AI工厂,其电力需要超过100座核反应堆供电。因此,这些AI工厂起初并不会主要依靠核反应堆供能,起初大概率主要依赖天然气供能,随后也许逐步增加核能的比例。相比之下,电力是中国的强项,且中国电价更低。

中国的第二个优势是数据共享规则相对更为宽松。AI训练需要数据与电力;而数据共享越充分,AI的开发速度就越快。

中国的第三个优势,也是我认为最重要的优势就在于人才规模。在中国,有大量对技术感兴趣并受过良好技术教育的人。全球范围约一半所谓的STEM教育(科学、技术、工程与数学)专业学生都在中国,因此中国的技术聚焦度非常高,这是一个强项。

我们可以从美国的数据中更直观地感受中国在AI方面的人才体量优势。在美国约有10万名全职从事AI方向的人员,其中30%出生在中国,这很惊人。但更惊人的是,在美国的顶尖AI科学家中,大约一半出生在中国。

我认为AI的主要商业价值不会体现在大型语言模型上。它们对于输入信息非常敏感,往往会随机选择如何回答。大模型没有明显的网络效应、没有强品牌价值,也缺少关键的知识产权专利,同时大模型的训练与运行成本又很高。

所以我认为大模型的大部分商业价值会在agentic AI(代理性人工智能)时代实现,也就是你所说的AI面向具体行业的落地之后。那就意味着当你走进一家具体的公司,比如媒体公司、制药公司,说“我们要把AI接入这套流程”,需要把约数百个不同的AI智能体在特定场景中组合、测试、适配并使其自我学习。

社会各领域有数以百万计的流程等待AI部署。这种大范围部署并非一劳永逸之举,而需要系统梳理企业流程、客户与目标等,再将AI系统嵌入其中并持续优化,这很费时。

各类经过蒸馏后可以用于本地部署的模型

这也意味着,如果你拥有100万名真正擅长这件事的人,你的AI部署就会很快,你的GDP就会快速上扬;如果你只有1万名,那么你的部署进程会落后,你的GDP就不会快速上升。那么谁有100万相关人才?中国。所以我认为这是一项非常大的优势。

接下来谈中国的短板。短板首先体现在芯片上,以英伟达作为标杆,我认为到2027年,中国的芯片会到达英伟达今天的水平;但到那时英伟达又会更进一步。很难说中国何时能与之并跑甚至反超。我的粗略判断是可能需要约10年。目前中国芯片较英伟达性能落后约40%,且双方均在指数式提升,这是很大的差距。

当然,回看DeepSeek发布后所引发的股价波动,我们就应该意识到:随着软件层面演进,硬件对AI的重要性可能没有想象中那么“绝对”。起初有人质疑其使用“违规”的英伟达芯片训练,对此我一无所知;随后DeepSeek发表论文说明了优化路径,并向公众开放。

因而,即便未来没有全球最快、最“聪明”的通用基础大语言模型影响也不是那么大,我认为更重要的是把具有专家深度与行业洞见的大模型部署到特定领域并发挥实际效用。

观察者网:我想更深入聊聊大模型,我与您在一些看法上可能不同,从现在的角度看,似乎“Scaling Law”(大模型的规模定律)已经到达了一个极限。各家大模型可获取的数据量也在逼近上限。大模型的未来将如何?我们会不会以其他算法路线取代当下的大模型范式?

拉斯:我认为,大语言模型的基本概念可能会发生变化。当前,当你给它一个任务时,它会经历处理过程,随后因存储等问题而遗忘相关知识。若其记忆能力更强,就能更高效地自我教学。

针对你提到的“数据枯竭”问题,我认为它也存在解决方案,这被称为AI的“数据墙”(data wall)。现在互联网上的数据量仍在增长,有用的数据每年大概增长5%左右,并不算多;而训练数据正在逐步追上它。

所以解决问题的关键在于,让AI进行模拟,也就是自我对弈。早期最吸引人的例子之一是AlphaGo。它先在海量历史棋谱上进行训练,然后基于上述经验再与自己对弈提升能力。一年后他们推出了AlphaGo Zero,这个AI从零基础开始训练。一开始它下得就像一个新手,但3天后它就达到世界冠军水平,40天后就彻底击败了上一代模型。

目前,许多模型采用类似的自我博弈训练。例如Waymo公司99.9%的自动驾驶训练发生在仿真环境中,他们可以以比现实快35000倍的速度进行模拟。又比如AI模型在寻找蛋白折叠规律的速度比人类传统速度快上百万倍。

2017年柯洁惨败于AlphaGo

同样,你还可以对世界经济系统、政治系统等进行建模和自我对弈。事实上,AI几乎在任何领域都可以实现自我博弈,以创造出庞大的可能性。这是一门称为系统动力学的学科,而它仍处于萌芽状态,但这意味着大语言模型能积累远超任何人类曾在任何数据库或互联网上发布过的知识总量。我认为这点非常重要。

另一方面,物理世界中的AI机器人之类的具身智能也可以实时学习,我们可以接入它们的系统并利用它们的学习成果促进AI模型发展。事实上,如果外面有数百万乃至数十亿台从自动驾驶汽车到家庭、办公室、餐馆之类的机器人,它们不仅可以以一种当今互联网所不具备的方式去学习世界如何运作,而且由于世界在不断变化,它们会实时捕捉这种变化,并用于补充这些模型的不足。

因此,我不认为“数据墙”不可跨越;这些模型将会捕捉并自动创造信息。我对大语言模型的发展持相当乐观的态度。

观察者网:但已有部分论文表明,用AI自生成数据训练大模型会导致“中毒”、加深偏见。您怎么看?

拉斯:是的,我理解你所说的逻辑,我们会默认AI自主合成数据是正确的,而一旦这些数据是错误的,AI会基于错误的数据进行训练,就会合成出更多错误数据放大偏差。

但我认为这可以通过工程化方式进行解决,大语言模型的发展能够应对许多问题。举例而言,随着新的GPT-5的出现,我们拥有了多模型路由体系(混合专家体系,MoE)。当你给出一个提示语时,系统会判断这个提示语应该被发送到哪个模型。

我们也看到,最近DeepSeek和Claude这些模型在处理AI幻觉的时候相比于早期版本更加在行了。当你不需要AI幻觉的时候,他们可以尽量约束相关参数,而当你需要它们散发想象力的时候,他们释放相关参数。例如,我说“请为某件事起草一个好标语时”,它就会调用更具想象力的路径。

就在我们见面之前,我还问过AI这样一个问题:“世界历史上是否有一个时期,罗马帝国与中华帝国的人口合计占到全球的三分之二?”它给出了正确答案。也就是说,模型在“何时求真、何时发散”的判别上在进步,并且会进行你所谓的红队式(red team,即西方在军事演习、网络安全演习等领域中扮演敌人或竞争对手角色的群体)对抗性审查:对给定信息主动追问“真的正确吗”,以进行审查与反复核验。

当然,你提到的问题确实存在,但我认为AI会在这一领域持续改进。

观察者网:您认为智能发展必将超越国界,那么国际合作在人工智能发展中有多重要?您认为在超级智能领域采取碎片化、竞争性的做法会带来哪些风险?

拉斯:我认为国际合作非常有用。但在某种程度上,我对能否顺利实现国际合作持一点怀疑,因为国家之间的竞争非常激烈。不过,已出现一些积极迹象,例如机器人间数据交换的通用协议。这是个不错的方向。

至于我个人,我最关心,也最需要国际合作推进的是版权。原因很简单:AI与国家安全、财富与成功等方方面面密切相关。人们会意识到,对于各类知识的版权管制越宽松,你的AI模型演进越快;而如果你完全放松版权,AI就会以最快速度演进。

就我个人而言,我赞成涉及各类文化、知识产品的版权法律可以宽松化,如果中国、美国、欧盟、韩国、日本等能够就版权法的规则达成一致,将更为有利。我不知道这会不会发生,但我认为那将极其有用。

在美国,总统科学技术顾问委员会主席大卫·萨克斯正牵头AI政策。他是一位非常成功的企业家与风投家,对AI的商业与技术都有深刻理解。他正在致力于让AI法律变得统一且简明,并且目标是告诉大家:在未来10年内我们不打算修改它,虽然我不认为这一目标能够实现,但他的想法就是让AI法规尽可能地简单而和谐。

许多人会说:“用我的书、别人的音乐等内容来训练AI,是在偷我们的财产。”但我这本书就大量用到了AI。我把AI看作人人可“演奏”的创造性钢琴。我认为我们应当允许AI尽可能地摄取内容,并在更广的范围内使用而不必支付无数项版权费;因为它会成为整个人类共同的平台,其成果会回馈到所有人。

“DeepSeek时刻”后越来越多的国人接触AI

观察者网:若人工智能在所有领域超越人类认知,人类在人工智能演进进程中应承担何种目标与贡献?我们应当如何在超级智能时代维系自我意义与自主性?

拉斯:首先,若从更高的视角看:如果人类真的创造出超智能,而这种超智能最终遍及整个宇宙,甚至成为“宇宙意识”,那么我们就是带来这一切的起源。因此,我要说的第一点是:我们应当珍视自身在创造这一切中的角色。但这与我们的日常生活并无直接关联。

回到日常层面,我认为我们应当追寻那些既特殊又令人愉悦的价值,以便在一个大部分GDP由AI创造的世界中,继续坚持人的独特价值:例如同情心、好奇心与创造力等。届时,每个人都可以探索自我价值:我是作家吗?我是艺术家吗?我喜欢照顾孩子吗?我想帮助无家可归的狗吗?我是否想要重建已消逝的自然吗?诸如此类。

我们需要认识到,人类具备意识,而AI并不具备。我们可以体验这个世界,而AI不行。这意味着我们可以基于我们对世界的主观体验来为彼此创造新事物,改造世界。

我有时把当下处境与人类与猫狗的关系作类比。最初,当人类开始与狗共处时,它们尚且是狼。我们和狗共同生活的理由是:它们可以保护我们,而我们喂养它们。但如今我们并不需要狗来保护我们,我们只是喜欢狗。同样,我们最初养猫是因为它们会捕食老鼠;而现在鼠患不再普遍,但是我们喜欢猫。

如果我家里有10条狗和10只猫,这并不会提升我的生产率;事实上它们会使我的生产率下降,因为照料猫狗既耗时也花钱。同理,单纯增加人口并不必然提升技术的生产率。但人类可以很友善,我们可以以善意激励、鼓舞他人。

现实生活中,在线音乐几乎是免费的:我订阅了Spotify、Apple Music以及其他诸多服务。尽管如此,我仍非常喜欢去音乐会,也喜欢走进爵士乐吧,看着三位音乐家在我面前演奏。他们演奏的音乐或许相同,但我能看见他们,这是完全不同的体验,因为他们是人。因此,我们必须把重心放在人与人的真实互动上。

由此,未来的生活方式会很不一样;但我们也将有机会提供比今天更多的基础性公共免费服务。未来也许不仅教育与医疗是免费的,还可能包括基础免费交通、基础免费互联网和基础免费AI等服务。也就是说,未来人们的基本需求将大体得到满足;若他们希望获得更多,则需要通过工作来实现。

本文系观察者网独家稿件,文章内容纯属作者个人观点,不代表平台观点,未经授权,不得转载,否则将追究法律责任。关注观察者网微信guanchacn,每日阅读趣味文章。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一定要大量读书:一个人修行高不高,就看他有没有读过这10本书

一定要大量读书:一个人修行高不高,就看他有没有读过这10本书

欣辰读书
2026-05-15 22:59:03
夏天,遇见这肉再贵也要吃,比牛羊肉补,一周吃2次,健脾强免疫

夏天,遇见这肉再贵也要吃,比牛羊肉补,一周吃2次,健脾强免疫

阿龙美食记
2026-06-03 14:09:28
狗屎运爆棚!6月转运起飞,喜从天降,财富说来就来的3个生肖

狗屎运爆棚!6月转运起飞,喜从天降,财富说来就来的3个生肖

毅谈生肖
2026-06-03 11:31:13
尾盘罕见,不到400万元,301418拉升逾16%

尾盘罕见,不到400万元,301418拉升逾16%

数据宝
2026-06-03 15:33:46
最多3年2.07亿!这是步行者给西亚卡姆的全部,能否续约已有答案

最多3年2.07亿!这是步行者给西亚卡姆的全部,能否续约已有答案

奕辰说球
2026-06-03 09:44:45
知名演员无戏可拍,和母亲街边卖鱼意外走红,今选择拍视频当网红

知名演员无戏可拍,和母亲街边卖鱼意外走红,今选择拍视频当网红

白面书誏
2026-05-27 20:46:32
不能二次加热的6种食物!医生提醒:吃不完或倒掉,别乱节俭

不能二次加热的6种食物!医生提醒:吃不完或倒掉,别乱节俭

冷眼看世界728
2026-05-12 20:46:26
海藻为什么是男人眼中的极品

海藻为什么是男人眼中的极品

乡野小珥
2026-06-01 18:15:36
再见,杨瀚森,8换1或去雄鹿

再见,杨瀚森,8换1或去雄鹿

体育新角度
2026-06-02 19:59:18
16名国脚?曼城自己都嫌不够,19人出征世界杯创英超纪录!

16名国脚?曼城自己都嫌不够,19人出征世界杯创英超纪录!

茅塞盾开本尊
2026-06-03 15:04:05
鸟巢撒糖不到24小时!张柏芝突然官宣两大喜讯,网友:不对劲!

鸟巢撒糖不到24小时!张柏芝突然官宣两大喜讯,网友:不对劲!

林轻吟
2026-06-02 22:43:18
生育大局已定:不出意外的话,26年起中国人口将迎来3大明显变化

生育大局已定:不出意外的话,26年起中国人口将迎来3大明显变化

阿凫爱吐槽
2026-05-23 04:14:26
NBA史上最具含金量的10个FMVP:乔丹两次上榜,11年诺天王第三!

NBA史上最具含金量的10个FMVP:乔丹两次上榜,11年诺天王第三!

钱说体育
2026-06-03 10:01:55
学医后才明白,稳定血糖最好的运动,不是快走慢跑,而是这个

学医后才明白,稳定血糖最好的运动,不是快走慢跑,而是这个

健康科普365
2026-06-02 19:45:05
单位里有一个很奇怪的现象:你跟一个领导 3 年以上,不管你态度多好,多忠诚,一旦他状态不好,你就很容易成为他的“眼中钉”

单位里有一个很奇怪的现象:你跟一个领导 3 年以上,不管你态度多好,多忠诚,一旦他状态不好,你就很容易成为他的“眼中钉”

互联网思维
2026-05-29 23:35:13
4名顾客吃火锅写5000字差评:称食材腥,不愿买单,现场画面扒出

4名顾客吃火锅写5000字差评:称食材腥,不愿买单,现场画面扒出

李晚书
2026-06-01 10:53:54
抢七出局!交易重来!雷霆大豪赌!三大球星选谁?

抢七出局!交易重来!雷霆大豪赌!三大球星选谁?

篮球盛世
2026-06-03 15:18:38
属猴人:后半生最大的靠山,不是子女,不是财运,而是这2个人

属猴人:后半生最大的靠山,不是子女,不是财运,而是这2个人

阿龙美食记
2026-05-29 22:02:25
王皓底牌大揭秘:暴揍张本智和前,梁靖崑被叫进房间问了三个问题

王皓底牌大揭秘:暴揍张本智和前,梁靖崑被叫进房间问了三个问题

不似少年游
2026-06-03 14:56:50
5月销量一公布,有些新能源车真的危险了!

5月销量一公布,有些新能源车真的危险了!

西莫的艺术宫殿
2026-06-03 00:31:19
2026-06-03 16:39:00
观察者网 incentive-icons
观察者网
全球视野,中国关怀
142447文章数 1850726关注度
往期回顾 全部

科技要闻

传DeepSeek融资意向500亿:腾讯投100亿

头条要闻

94版《三国演义》成观众心中"白月光" 多位扮演者离世

头条要闻

94版《三国演义》成观众心中"白月光" 多位扮演者离世

体育要闻

选择中国品牌的库里,和他们的巨大野心

娱乐要闻

官方痛批乱象 刘涛郑恺等艺人遭点名

财经要闻

AI,开始偷懒了?

汽车要闻

依托全域辅助驾驶布局 千里浩瀚助推吉利5月市场大热

态度原创

时尚
本地
艺术
家居
手机

休闲T恤舒适感极佳,夏天必不可少!轻轻松松拿捏日常的造型

本地新闻

用杨柳青年画的方式,打开天津

艺术要闻

二十年前割麦的场景

家居要闻

江畔轻奢 观云大宅

手机要闻

荣耀确认Robot Phone手机初代抗跌落已经是旗舰水平

无障碍浏览 进入关怀版