上海
本文系网易科技上海世界人工智能大会系列前方原创报道
出品｜网易科技《态度》栏目
作者｜丁广胜 袁宁
毫无意外，本届WAIC是近五年最火的一届。吸睛元素拉满。
有首次访华的诺贝尔奖、图灵奖双料得主、AI教父Geoffrey Hinton杰弗里·辛顿。
有人气爆表的机器人展区，AI眼镜展区，直到闭馆声音响起，宇树机器人，智元机器人，Xreal，Rokid等明显展台依旧拥挤不堪，人们不愿离去。
有遍地开花的AI应用，智能汽车，数字工厂，AI生万物，很多应用实实在在“落”了下来，也“砸”出了新的价值。
我们看到几乎所有参与者都激情洋溢，尤其是新兴创业者们。你能感受到他们的热情，与势必要抓住历史机遇的决心。
而作为本届WAIC2025的“压轴大魔王”，辛顿吸引了太多目光，他的观点独特而深刻。
如果你恰好想知道他到底说了什么。那这份金句盘点你不容错过。
（2024年10月8日下午，约翰·霍普菲尔德（John J． Hopfield）和杰弗里·辛顿（Geoffrey E． Hinton）获2024年诺贝尔物理学奖）
1，你会有既聪明又善良的AI，但如何训练它变得聪明和如何训练它变得善良是不同的问题。你可以有让它善良的技术和让它聪明的技术。它将是同一个AI，但会有不同的技术。
2，我们对词语运作方式的理解可能是完全错误的。同样，几乎每个人都对“主观体验”这类术语有着强烈但完全错误的理论。这不是真正的科学问题，而是源于我们对心理状态的错误模型。
3，他们确实很想在人工智能领域设立诺贝尔奖，但目前并没有这个奖项。所以，他们就将物理学奖颁给了人工智能领域的贡献者。
4，我认为人工智能对科学的帮助是显而易见的。
5，我想最核心的建议是：若想做出真正原创的研究，就要寻找那些‘所有人都可能犯错’的领域。
6，坚持你所相信的，直到你真正明白它为何是错的。只是偶尔，你会继续坚持你的信仰——而它最终被证明是正确的。重大突破正是由此而来，它们从不属于轻易放弃之人。你必须坚持己见，即使他人并不认同。
7，如今的大语言模型就是我当年微型语言模型的 “后代”。
8，大语言模型和人类理解语言的方式相同。基本逻辑是将语言转化为特征，再以完美的方式整合这些特征，这正是大语言模型各层级所做的工作。
9，人类甚至可能和大语言模型一样产生 “幻觉”，因为我们也会创造出一些虚构的表达。
10，人类习惯了作为最智能的生物，很难想象 AI 超越人类的场景。就像养鸡场的鸡无法理解人类一样。
11，有人认为可以在 AI 变得过强时关掉它们，但这并不现实。它们可能会像成年人操纵3岁孩子一样操纵人类。
12，面对 AI，我们只有两个选择：要么训练它永远不伤害人类，要么 “消灭” 它。
13，即便一个国家放弃 AI，其他国家也不会。因此，若想让人类生存，必须找到训练 AI 不伤害人类的方法。
14，全球主要国家或 AI 大国应建立一个由 AI 安全机构组成的国际社群，研究如何训练高智能 AI 向善。
15，人工智能的能力已接近，甚至可能超越人类，但人类尚未掌握有效控制这些系统的方法。因此，共识呼吁各国加强在AI对齐与安全方向的基础研究投入。
