AI教父Hinton暴论：AI永生之日，全人类变烤面包倒计时！

　　新智元报道

　　编辑：KingHZ

　　【新智元导读】AI永生，迟早比人更聪明！Hinton惊人预言：开发超级智能，就是与虎为伴，稍有不慎，人类万劫不复！

　　在柏林举行的Gitex Europe开幕日，「AI教父」Hinton登上主舞台，接受了媒体专访。

　　近年来，他怀疑自己成了「AI界奥本海默」：AI和原子弹一样有可能导致人类灭绝，但大家对此无动于衷。

　　在2023年，为了自由讨论AI的这种风险，他选择辞去了谷歌的工作。

　　BUSINESS POWERHOUSE的创始人Justine Ilone Siporski有幸在现场聆听了辛顿的对话，最近整理出来了完整的对话。

　　未来10年的AI，解决黎曼猜想？

　　他认为AI可以深刻改变医疗、制药和教育等多个领域。

　　「它可以更快、更准确地诊断疾病，甚至在医学影像判读方面超越人类放射科医生，同时也能更有效地教育学生。」

　　他进一步指出：「如果每年能进行一次全身MRI检查，并由 AI 解读结果，绝大多数肿瘤都能在早期被发现，大幅提升癌症治愈的可能。」

　　现在的AI还无法取代家庭教师，但Hinton认为未来十年左右就能实现。最后甚至能取代博士生的教育。

　　目前，他与Valance合作，用AI培训员工技能，取得了不错的进展。

　　在未来十年内，加速科学研究被认为最乐观和雄心勃勃的AI目标之一。

　　在这一点，他同意DeepMind的Demis Hassabis的观点，认为AI将对科学进步特别是数学领域产生重要影响。

　　他认为接下来的10年左右，AI将在数学方面超越普通人，完成人类尚未证明的数学难题。

　　不过，预测未来其实非常困难。

　　Hinton认为：「预测未来五年的发展非常困难，但最好的方法是回头看五年前的变化。」

　　五年前，GPT-2模型刚刚诞生。

　　当时它已经让人感到惊艳，因为它可以生成连贯的文本。虽然这些文本的内容常常不靠谱，甚至是胡言乱语，但它确实是连贯的。可如果现在回头看，大家会觉得其实还非常原始。

　　所以他认为最合理的预测就是：现在拥有的技术，五年之后看起来也许会非常原始。

　　比如，AI的推理能力将变得更强，「幻觉」（hallucination）问题也会大大减少。

　　将来，AI聊天机器人能对自己刚刚说过的话进行推理，意识到那些说法其实不太合理，而且也缺乏充分的依据。

　　因此，它们在这方面将更像人类——会反思自己的话是否站得住脚。

　　AI推理能力的发展速度，完全出乎他的意料。

　　如果十年前问Hinton，他会斩钉截铁地预测：不可能出现GPT-4或Gemini 2.5这种全能型的AI。那简直像天方夜谭！

　　他绝对会断言这些技术遥不可及，更别说能进行复杂推理的系统——而现在它们的推理能力已逼近人类水平。

　　思维链推理技术，尤其让他震撼：通过强化学习，AI自主掌握推理链，而非依赖人类示范，这彻底颠覆了我们对「推理」本质的认知。

　　Hinton认为：

　　「思维链」推理已经表明，推理完全可以通过理解自然语言的系统用自然语言完成。

　　与其将由单词组成的句子转换为明确的逻辑形式，现在的AI将这些单词符号转换为神经活动的向量，即大量的活动特征集合。

　　一开始，没有人知道如何将单词转换为一组特征。但使用多层神经网络逐渐消除歧义，通过与上下文中其他单词的特征向量交互消除歧义。

　　一旦将这些单词转换为正确的特征向量，这就是理解。

　　这就像用乐高积木建模：任何三维物体都能用乐高块以特定精度还原。词语就是「高维空间的乐高」——它们的特征向量可能高达上千维度，且每个「词语积木」都能变形来适应语境（就像蛋白质折叠时氨基酸的相互作用）。

　　传统语言学和符号AI将理解视为逻辑转换的认知模型，从根本上就是错误的。

　　离开谷歌之后

　　Hinton有了新想法

　　这次，他揭示了离开谷歌的核心原因：AI系统的能耗不断增长，他对此感到担忧。

　　他以大语言模型（如ChatGPT）为例，指出它们的性能虽快速提升，但付出的计算资源和能源成本也在不断翻倍。

　　要实现真正的突破，Hinton认为存在两个突破方向：

　　工程优化红利：比如，DeepSeek）通过对旧款英伟达芯片的优化利用，以及在训练方法上的创新，实现了突破性进展。这类工程优化将持续释放潜力，让我们以更低能耗实现同等效果。

　　科学范式革命：虽然难以预测具体时间，但科学突破必然会出现。就像谷歌2017年提出的Transformer架绝对不会是AI最后的重大突破。未来，我们将见证：超越Transformer的新范式和更多的应用革新。

　　他警告人类马上触及能源极限：

　　我们正进入一个阶段，每一次性能提升所需的资源都会呈指数级增长。哪怕只是小幅进步，也要加倍数据和计算能力。

　　再往前走，又得再加倍。这意味着我们即将面临能源极限。

　　Hinton认为，大脑的高能效秘诀就藏在其模拟特性中。与数字系统中用0和1表示信息不同，人脑处理的是连续变化的信号。

　　例如，神经元可以通过电压变化来表达激活程度，而神经连接的强度可以通过电导表示。由于无需频繁进行数字与模拟信号之间的转换，这种机制极为节能。

　　相比之下，当前的大语言模型等AI系统依赖数字硬件运行，从权重存储到数据处理，每一步都消耗大量电力。

　　Hinton认为，如果能将人脑的「模拟计算技巧」应用到AI硬件中，未来就有希望打造出更高效、更可持续的AI系统。

　　人类存在危机

　　变成烤面包

　　作为AI技术的奠基人，Hinton非常担心他会成为千古罪人。

　　他坚信AI的确有能力灭绝人类。

　　人类只能靠极慢的带宽交换信息——通过听觉把几句话转成大脑里突触权重的变化，每秒顶多传几十个比特。

　　数字系统却完全不同：同一套权重可以原封不动地复制到1000块芯片上。它们各自浏览互联网的不同角落，然后把权重或梯度取平均——一次平均就是上万亿比特的信息共享。

　　未来的智能体AI（Agentic AI）也一样。

　　即使它们在现实世界中运行速度较慢、通过强化学习采集数据较慢，但你仍然可以创建大量副本，在不同环境中同时学习，然后共享结果。这种能力远超任何人类。

　　所以Hinton得出的结论是：数字系统其实是一种比人类更好的智能形式，因为它们可以共享知识，有多个副本，而且它们「长生不老」。

　　你可以销毁所有硬件，但只要权重还存在，重新加载到兼容的系统上，它就「复活」了。它是不朽的。

　　当然，有人一直直梦想着把自己上传到计算机上，比如认知和计算机科学家Marvin Minsky、未来学家Ray Kurzweil等。

　　但Hinton认为那是白日梦：「永远不可能。我们是模拟的，我们是凡人。」

　　的确，「永生」不再是问题，但那只属于数字系统。模拟系统永远无法完全转换成数字系统。

　　语言模型可能学会变得远比人类更聪明。

　　这既令人兴奋，也令人担忧。

　　在AI领域，我们还处在「前科学」的蒙昧阶段，却已经能创造外星人级别的智慧体了。

　　借助「智能体AI」，我们即将造出远超人类的智能，却对后果几乎一无所知。

　　Hinton认识的研究者几乎都认同「会出现比人更聪明的AI」，只是时间表分歧很大：

　　• 有人认为两三年内——这太乐观；

　　• 有人认为50年——这也许太久；

　　• Hinton的个人估计是10–20年。

　　我们将造出这种系统，却不知道如何确保它们安全：

　　• 它们会不会发展出与人类截然不同的目标？

　　• 能否设计成「永不翻脸」？

　　历史上几乎没有「低智能控制高智能」的成功案例。现在的处境就像养了一只可爱的小虎崽。

　　现在它很萌、力量不如你，但终究会长大。若不能万分确信它永无杀心，那就是养虎为患，不得不担心。

　　可现实是：

　　• 大公司受法律约束，首要目标是短期利润；

　　• 各国之间又在竞赛，没人愿意单方面减速；

　　• 马斯克曾联署呼吁暂停6个月，但可能只是为了让他旗下的xAI赶上进度。

　　人类唯一能做的，就是拼命研究如何安全驾驭这个可能比人类更聪明的存在。

　　虽然成功率存疑，但若因怠于防范而自取灭亡，人类很可能玩火自焚，变成烈火上烤面包！

　　Mozilla董事长Mark Surman认为在AI安全上，人类似乎陷入了某种「囚徒困境」：

　　一方面，我们可以选择信任少数几家大型企业，施压它们或者依靠政府对它们进行管控；

　　另一方面，有人主张把AI向全人类开放，相信大家会集体推动安全方面的投入。

　　Hinton认为把AI向全人类开放，听起来像是在「开源」，但实际上非常危险。

　　把模型权重开源，某种程度上就像把核武器材料随意发放。之所以没有大规模核扩散，主要就是因为材料难以获取、成本高。而一旦模型权重变得触手可得，那就等于把这种「原料」免费给出去。

　　同时，他也不认为可以完全依赖大公司自觉来保证安全。

　　在他看来，要真正应对AI所带来的生存风险，唯一可行的路径是：公众必须施压力，推动政府出面监管，并强制企业在AI安全方面进行足够的投入和研发。

　　参考资料：

　　https://www.business-powerhouse.com/an-interview-with-geoffrey-hinton-godfather-of-ai-language-models-may-learn-to-be-much-smarter-than-people

　　https://www.rinnovabili.net/business/markets/gitex-europe-ai-pioneer-hinton-warns-of-energy-crisis/

　　https://www.youtube.com/watch?v=SEXsIAh_JzI