“AI教父”辛顿：防止“养虎为患”，这是全球携手加强AI治理的最重要命题

7月26日，2025年世界人工智能大会开幕，图灵奖、诺贝尔物理学奖得主杰弗里·辛顿在主论坛上进行了“数字智能是否会取代生物智能”的演讲，呼吁全球联合进行AI治理技术的研究。

辛顿被称为“AI教父”，他从1985年开始进行语言模型的研究，对大语言模型发展感触颇深。他认为，大语言模型理解一个句子，就是为句子中词语分配彼此兼容的特定向量，其理解语言的方式与人类理解语言的方式几乎是一样。无论是大语言模型还是人类都会产生幻觉。

而且，大语言模型比人类更厉害。比如大语言模型的知识迁移能更强。计算机科学的软件知识是永恒存在的，即使硬件被摧毁，软件仍会被复活。所以辛顿认为，尽管数字智的计算需要花费更多的能源，但其优点在于，可以通过"蒸馏"等方式，将拷贝在不同的硬件上的知识进行分享，而传统生物智能知识则难以分享。

辛顿提到了当下非常火热的AI智能体，他认为，AI智能体比人类更加聪明。当这些AI智能体拥有足够的能力进行知识拷贝，能够对自我行进行评估时，他们可能会想到做两件事情，一是永生，二是获得更多的控制权，这将危害人类的利益。

“这就像有个人把小老虎当成宠物来养，小虎崽是很可爱，但如果一直养下去，你要确保它长大的时候不会把自己吃掉。一般来说，养老虎当宠物不是一个好的想法。”

辛顿对未来AI治理提出了展望。AI在很多方面都做得很好，比如说医疗、教育、气候变化、新材料方面，AI几乎能够帮助所有的行业变得更有效率，人类没有办法摆脱或者消除AI，也没有一个国家会这么做，所以这不是一个选项。这意味着如果人类想要生存的话，必须找到一个办法来训练AI，让他们不要消灭人类。

辛顿认为，各国不会在防御人工智能的危险方面达成合作，因为各国在使用AI方面的利益是不一致的。为了促成合作，更加实际可行的办法可能是寻找一套相对独立的人工智能防御技术，当一个国家发现了一个相对独立的防御办法时，他们会更乐意分享给其他国家。

在演讲的最后，辛顿提议，建立一个由各国人工智能安全研究所与国内研究网络组成的国际社群，“从长期来看，这可以说是人类面临的最重要的问题”。

原标题：《“AI教父”辛顿：防止“养虎为患”，这是全球携手加强AI治理的最重要命题》

栏目主编：李晔 文字编辑：俱鹤飞

来源：作者：解放日报 吴丹璐