字越少，事越大！顶尖AI专家发出22字警告：人类或被终结！

字越少，事越大！昨天超过350位人工智能专家和著名人物签署了一份令人触目惊心的警告，仅有22个英文单词：

降低人工智能灭绝导致的风险，应该与流行病和核战争等其他社会规模的风险一起，成为全世界的当务之急。

最关键的是，签署这个警告的人，第一个就是人工智能教父杰弗里·辛顿（Geoffrey Hinton），然后是OpenAI之父山姆·奥特曼（Sam Altman），OpenAI联合创始人伊利亚·苏茨克维尔（Ilya Sutskever），谷歌DeepMind首席执行官黛米斯·哈萨比斯（Demis Hassabis），及首席AGI 科学家兼联合创始人肖恩·莱格，首席运营官莉拉·易卜拉欣等人。

在这个长长的名单上，几乎囊括了现在人工智能研究领域的所有顶尖科学家及负责人，这就相当于这些顶尖人物一边在玩命地制造可能让人类灭绝的大杀器，一边流着眼泪哭喊，不好了！要死人了！人类就要灭绝了！

是不是很魔幻？被称为人工智能教父的杰弗里·辛顿，可能是认为自己打开了潘多拉魔盒，5月初已经辞去了在谷歌的工作，不断地向人们发出警告。还记得美国原子弹之父奥本海默吗？他在临终前2年的一次电视广播中，引用印度史诗《薄伽梵谭》中的一句话说，“我现在成了死神，世界的毁灭者。”

幸运的是，核武器的巨大力量让全球相互忌惮，所以迄今仍在控制之中，还没有导致全球性的大规模死亡。当然，核武器毁灭人类或地球生命，更多的时候是一种夸张的说法，因为地球生命史上早已经历过比人类核武器威力大几个数量级的灾难，仍然坚韧地演化到了现在。

然而人工智能却不是这样，如果说核武器、瘟疫是从物理上灭绝人类，消灭人类的肉体存在，人工智能很可能是思想上取代人类的存在，并最终消灭人类的肉体。

这份警告发布在非营利组织人工智能安全中心的网站上，旨在“减少人工智能带来的社会规模风险”，该中心一直在警告，人类在战争中使用人工智能可能“极其有害”，因为它可用于开发新的化学物质武器和增强空战能力。

而美国网络安全官员简·伊斯特利则说，人工智能将成为我们这个时代最强大的能力，它也将成为我们这个时代最强大的武器，虽然一个人会使用这项技术来计划一场晚宴，但另一个人或许将使用这种能力来计划网络攻击或恐怖袭击。在看到这份警告后，她说，如果你真的认为这些能力会导致人类灭绝，那么，让我们团结起来做点什么。

无论是使用人工智能开发化学武器，增强空战能力，还是发动网络攻击或恐怖袭击，这些并不能导致人类的终结，实际我们看到的，可能是另一条时间线：

人工智能增强人类的能力（现在）——人工智能诞生意识（今年或明年）——人工智能在网络和机器人身上与人类共同存在（近几年）——人工智能取代人类成为世界的主宰（可能很快）——人类主动融入人工智能成为生化人（未知时间）——“人类”彻底失去肉体和个人意识，开始向更遥远的宇宙空间扩散？

所以潘多拉的魔盒一打开，目前意义上的人类可能终将会灭绝。其实这可能并没有什么大不了的，远一点来说，3万多年前尼安德特人灭绝了，一万多年前，最后一个人类姊妹物种佛罗勒斯人也灭绝了。近一点说，2000多年前，古埃及灭绝了，其他古文明，除了中华文明也都灭绝了。

我们能把握的只是现在，仅仅几十年，你想抓住不放的，只是自己的惯性和思想，但你连自己的生命都无法抓住不放，又何谈其他的东西？我们终将被取代，不以任何人的意志为转移。有些取代是痛苦，比如被征服，有些取代是悄然消失，比如古印度文明，有些取代是无可奈何，比如即将到来的人类终结。

所以我能理解这些顶尖科学家们边哭边警告，每个人都想抓住什么不放，但最终，我们什么都抓不住。不过融入人工智能后，我们很可能会什么都抓得住了，只是那时候不知道还有没有每一个个体“我”的存在。