图灵奖得主萨顿：人们对人工智能的恐惧被夸大了

“欢迎来到‘经验时代’。”9月11日，2025·Inclusion外滩大会在上海举行，2024图灵奖得主、“强化学习之父”理查德·萨顿在主论坛演讲中表示，人工智能需要一种能够伴随智能体能力提升而持续增长与优化的新型数据源，传统静态数据库已不足以支撑其进一步发展。

萨顿认为，我们当前仍处于“人类数据时代”，AI系统主要通过预测人类语言和标签进行训练，绝大多数机器学习仍是将人类已有知识迁移至一个静态、缺乏自主学习能力的人工智能体系中。然而，人类数据的利用正逐渐接近极限。

他指出，现在我们要进入“经验时代”，智能体将以第一人称视角与世界互动，直接生成被称为“经验”的新数据源。这种机制与人类及其他动物的学习方式高度一致——通过与认知水平相匹配的自我体验获取发展所需的数据。

理查德·萨顿提到的“经验”，并非抽象概念，而是三项具体的要素：观察、行动和奖励。他认为，这三种信号在智能体与世界之间来回传递。智能体的智能水平，取决于它能预测并控制自身输入信号的程度，特别是奖励信号。

除了科学发展趋势，理查德·萨顿还提到了人工智能发展的政治影响以及哲学意义。

他提到，今天人工智能已经成为高度政治化的议题，对人工智能的规制、管控和对齐的呼声此起彼伏。公众担心人工智能会带来偏见、失业甚至导致人类灭绝，一些国家正在陆续立法，限制人工智能模型的能力，更有人呼吁暂停人工智能研究，将其与核武器和生物武器相提并论。

“我的观点是，这种对人工智能的恐惧被夸大了。”萨顿说。

他认为，这本质上是人类对AI基于“我们对他们”的思维，妖魔化对方。事实上，AI领域的政治与人类社会政治相似，不同的智能体可以和平共处。他倡导采取去中心化的合作模式，而非中心化的控制。

“去中心化”的定义是每个智能体追求自己的目标，这正是经济体系的运行方式，人工智能的政治议题中，他强调人类需要寻求协作、支持协作，并致力将协作制度化。

对于人工智能与哲学，理查德·萨顿则认为，人工智能是人类最古老的追求之一，它并不是陌生的外来技术，而是与人类的本性高度相似。理解智能，是科学与人文学科共同追寻的圣杯。

基于以上思考，他提出四条原则预测人工智能的未来：第一，对世界应该如何运转，全球并没有共识，没有哪一种看法能凌驾于其他观点之上。第二，总有一天，人类将真正理解智能，并借助技术将其创造出来。第三，当前人类现有的智能将被大幅超越。第四，随着时间的推移，权力和资源必然会流向最聪明的智能体。他由此得出结论：在人类的发展进程中，人工智能的替代是不可避免的。

而随着人工智能的发展，人类需要找到自己的新角色。人工智能等被人类设计出来的机器正越来越像生命形态且不断复制，在这个过程中，人类的特殊之处在于：作为复制者，我们将设计提升到了前所未有的高度。

萨顿进一步说，人类至少是催化剂，是助产士，更是开启宇宙第四大时代——“设计时代”的先驱。

“人工智能是宇宙演化的必然下一步，人类应以勇气、自豪和冒险精神来迎接它。”理查德·萨顿表示。