“AI 之父” 谈风险：不如担心核弹危机

今年 3 月，据说是马斯克和上千名科学家、商界领袖们一起签署了一封公开信，呼吁暂停比 GPT-4 更强大的 AI 研究。截至目前，这封信已征集到超过 2.7 万个签名。因为缺乏足够的认证机制，签名很容易冒签。

哪怕都是真签名，德国计算机科学家于尔根·施密德胡伯（Jürgen Schmidhuber）也觉得这些呼声是误导性的，因为不管人们喜欢与否，一场存在于各国政府、科研机构和公司间的 AI 竞赛已经开始，既然无法避免，就应该学会接受。

Schmidhuber 于上世纪 90 年代对神经网络的研究，最终发展为语言处理模型 LSTM（长短时记忆），并被广泛应用于苹果 Siri 、Google 翻译等语音助手和自动翻译软件。在 ChatGPT 出现前，《彭博商业周刊》称其为商业化最成功的 AI 成就。Schmidhuber 也因此被一些人称为 “人工智能之父” 或 “深度学习之父”。

跟其他人工智能领域的先驱们不同， Schmidhuber 压根不认同应该停下 AI 研究。他说 95% 的情况下，人工智能研究目的跟其他科研没什么区别，都是为了让人类活得更久、更健康和更轻松。相比于 “新的存在微小风险的人工智能”，他更担心 “旧的核弹危机”。

Schmidhuber 更多将 AI 视作一种工具，他说同一种工具既可以用来改善生活，也可以被恶人利用，而对抗所谓 AI 恶意利用者的最好方式，就是开发出更好的 AI 工具。Schmidhuber 还认为人工智能最终会超越人类智能，不过即使它们比人类更聪明，也会因此在某些时候失去对人类的兴趣。Schmidhuber 曾经跟马斯克交谈了好几个小时，并试图用这个观点减轻后者对 AI 的恐惧。

上周，为了能更自由地谈论人工智能风险，被誉为 “AI 教父” 的图灵奖得主 Geoffrey Hinton 宣布从 Google 离职。数年前因 AI 问题跟 Google 创始人拉里·佩奇不再交流的马斯克说，他认为佩奇没有认真对待 AI 安全问题，而是在试图创造一个 “数字上帝”。（邱豪）