两位顶级科学家的17分钟对话：如何训练“善良”的AI

2025 WAIC期间，现年77岁的“AI教父”、图灵奖和2024年诺贝尔奖双料得主杰弗里·辛顿（Geoffrey Hinton）第一次踏上了中国，关于他在这里的一切动向和观点都备受关注。

7月26日上午，辛顿在WAIC开幕式演讲提到人工智能可能会战胜人类智能，这让他感到担忧，人类要避免“养虎为患”，这一演讲很快刷屏朋友圈，在各个AI群里传播。

下午，辛顿又现身模速空间旁的美高梅酒店，在科学前沿全体会议上与上海人工智能实验室主任周伯文进行了一场对话。这并不是第一财经第一次来到这一会议，但这一定是历届人数最多的一次科学前沿全体会议。

下午五点，辛顿压轴出场时，全体起立鼓掌、迎接这位重量级人物。

在17分钟的对话中，辛顿和周伯文两位科学家谈及大模型的“意识”、如何训练“善良”的AI，以及给年轻科学家的建议。

辛顿还调侃自己获得诺贝尔物理学奖是个“错误”，“他们真的很想在人工智能领域颁发诺贝尔奖，但他们没有这个奖项。所以他们拿了一个物理学的奖颁给人工智能（的科学家）。”

辛顿此前多次警告人类重视AI安全与风险，在这次对话中，他认为，当今的多模态聊天机器人已经具有意识。但具体如何规避这种风险，一直没有很多关于措施的讨论。

辛顿此次补充认为，有使AI变得聪明的技术，同时也可以有使AI变得善良的技术，虽然目前还未出现，但这是一个值得我们去探索的可能性。很有可能随着决策系统变得越来越智能，我们让AI保持善良的技术也需要随之改变，现在还不知道答案，这也是需要立刻开始研究它的原因之一 。

各国可能不愿意分享使AI智能化的技术，但可以分享使其变得友好的技术，这是辛顿的希望。就在WAIC开幕前一天，辛顿刚参加了第四届人工智能国际安全对话（International Dialogues on AI Safety，IDAIS），与20 余名专家联名签署发布了《AI 安全国际对话上海共识》。

辛顿还认为，AI将极大地帮助科学发展，最令人瞩目的例子无疑是蛋白质折叠，他提及谷歌DeepMind CEO 戴密斯·哈萨比斯（Demis Hassabis）等人的研究，他们通过明智地运用AI并投入巨大努力，极大地提升了预测的准确性。这是一个早期的标志，预示着AI将在众多科学领域带来进步。

对话最后，周伯文提到，上海AI实验室研究人员的平均年龄只有30岁，这表明，AI的未来属于年轻一代，作为行业的引路人，辛顿想传递给下一代年轻人哪些重要的建议？

“最核心的是，如果想做真正原创性的研究，就应该去寻找那些你认为‘所有人都做错了’的领域。”辛顿说，虽然最终可能会发现大家那样做是有原因的，而自己的方法是错的，但关键是在自己搞明白为什么错之前绝不要放弃，不要因为导师否定就放弃它。

“偶尔，你会发现自己坚持的东西并没有错，而这正是重大突破的来源，这些突破从不属于轻易放弃的人。”这是这位“AI教父”留给在场年轻人的结语。