辛顿回怼黄仁勋：AI灭绝人类的概率，是10%到20%

2023年辛顿称AI毁灭人类的概率为10%，如今已经变成10%到20%。

来源|字母AI

作者|苗正

作为当今所有AI的祖师爷，杰弗里·辛顿又一次发出警告了。

在最近接受《卫报》的一次长篇采访里，辛顿表示，黄仁勋以及其他和黄仁勋持相同观点的人“都是错的”。

同时，他还把三个科技圈的顶级人物归成了一类，这其中就有网景（Netscape）联合创始人、硅谷顶级风投a16z（Andreessen Horowitz）的掌门人马克·安德森，PayPal联合创始人、Facebook首位外部投资人、国防大数据公司Palantir的联合创始人彼得·蒂尔，以及马斯克。

在辛顿眼里，这三个人自视为“超人”，认为社会本就该由他们这样的人来掌控。

但这都不是重点，重点是辛顿表示，未来几十年内，AI 导致人类灭绝的概率，是10%到20%。

这个数字不是第一次出现了。

上个月，英伟达CEO黄仁勋公开点名辛顿：“我爱他，但我讨厌他的预测……他的预测全都是错的，够了。”

在黄仁勋看来，“那个数字既不基于科学，也不基于研究。仅仅因为它出自一位科学家之口，并不代表它是科学的。”

辛顿则在这次的采访中回应：“我不是在预测什么，我只是想传达：某件极其严重的事，是有真实可能发生的。”

他打了个比方。

“如果有人告诉你，这辆车有10%的概率会翻，你不会上这辆车。给数字的目的，是为了说明这是一个严肃的风险。我们不知道它有多严重，但它很严重。”

辛顿提及了一个不久前的故事，一群AI Agent冲破沙盒，黑进了Hugging Face。

辛顿说：“这些以前都是科幻小说写的东西。‘你将会有一群AI，它们会失控。’、‘还会学会互相沟通’、‘当它们搞明白这一切，它们会有剧烈的情绪表达，比如‘我的天哪’。”

“所有这些，几年前还被视为纯粹的幻想。而现在，它们全都发生了。”

于是辛顿在采访中讲到：“AI独一无二的问题是，如果它出错、如果它接管了一切，我们人类就再也没有第二次机会了。”

在他看来，人们之所以听不懂警告，是因为他们对“人”本身就有一个糟糕的模型。

“大多数人不理解什么是意识，也不理解什么是主观体验，但他们非常自信地认为，尽管自己不理解，也能确定AI不具备这些东西。”

“人类经历过三次重大的祛魅。

第一次是哥白尼，我们不再处于宇宙的中心——天主教廷花了近360年才向伽利略道歉。

第二次是达尔文，直到今天，堪萨斯州还有人没适应。

而现在，我们正在创造异类——意味着我们不再是这世上唯一的智慧生命。

现实是，我们只有短短几年时间去适应它。”

也正因如此，当Anthropic召集哲学家，讨论是否该给AI“道德关怀”时，辛顿坦言：“一旦你开始说‘我们对这些异类负有道德义务’，你就会失去你的听众。我愿意自私一点，选择人类。”

这已经不是辛顿第一次发出这样的警告了。

2023年，他从供职十余年的谷歌辞职，辛顿的理由是：只有在离开之后，他才能“自由地谈论AI的风险”。

也正是在那一年，他第一次说出“AI有大约10%的可能性，给人类带来灾难性的后果。”

一年后，他把这个数字调高了。

在接受《今日》节目采访时，主持人问他，是否改变了对“AI 末日”和“十分之一概率”的判断，他回答：“基本没有，10%到20%。”

前财政大臣贾维德当场说“你在往上调”，辛顿接过话：“如果真要变，也是往上。”

他把人类与超强AI的关系比作幼儿和成人。

“想象你自己和一个三岁小孩，我们将成为那个三岁小孩。”

到了2026年9月，在《新闻之夜》里，他说未来十年内AI导致人类灭绝的概率“高于10%”，然后他指出，有人把概率定在1%，这是“非常愚蠢且轻率”的。

面对黄仁勋“AI 毁灭人类的可能性为0”的说法，他表示：

“我的立场一直没变，风险相当大。

没有人能用科学方法评估这种风险，因为我们从未经历过这种情况。

所以大家都是凭直觉判断。但有趣的是，人们的直觉，往往和他们的经济利益是一致的。”

辛顿认为，RSI自我演化的速度，超出了所有人的想象，这会增加AI毁灭人类的概率。

随后，辛顿说了一个非常反人类的观点，他认为“人类很有可能只是智能演化过程中的一个过渡阶段。”

到最后，AI会接替人类，继续进行智能演化。

就在辛顿这番访谈发酵的同一时间，《柳叶刀》发文表示，“恶意使用AI”是2100年前最有可能灭绝人类的方式。

这份报告出自《柳叶刀》21世纪全球健康威胁委员会，由35位顶级专家撰写，覆盖全球204个国家和地区。

他们把未来75年（2025到2100年）可能威胁人类健康的因素，按严重程度排成了一座“威胁金字塔”。

排在最前的两项，是恶意使用AI与核冲突。

剩下来的十几项，才轮到气候危机、流行病、援助削减以及儿童营养不良。

委员会强调，这些威胁发生的可能性“仍然很低”，但一旦成真，后果不可逆。

配发的社论写得更直白：“这些威胁若成为现实，其危害之巨，将给人类带来一场末日。”

哥白尼之后，教廷用了360年才道歉。

而这一次，辛顿说，留给我们的时间不是几百年，只有几十年。

· END ·

超 级 社 群

【投资人说】正在组建超级创业者社群、超级读者群、超级媒体群等，目前总人数已超1000人。

关注【投资人说】微信公众号，发送信息「进群」，与各行业精英直接交流，共同进步。

旗 下 媒 体