防止AI超过人类？美国各界领袖呼吁暂停超级AI的研发

近日，包括亿万富翁、前白宫高级官员、著名人工智能研究者、诺贝尔奖得主、英国王室成员、右翼媒体人士等在内的数百位知名人士，签署了一份请愿书，要求美国政府暂停开发“超级智能”。“超级智能”指的是预计将超越人类认知能力的高级人工智能。

蒙特利尔大学约书亚·本吉奥教授，被誉为“人工智能教父”的三位学者之一

这份请愿书由美国非营利组织“未来生命研究所”（该机构网站将埃隆·马斯克列为外部顾问）主导，要求美国“暂停超级智能的开发”。

请愿书提出，这项暂停措施应持续到达成“广泛的科学共识，确认能够安全且可控地实现超级智能”以及获得“强烈的公众支持”为止。

截至美国时间周三上午，已有850位公众人物签署了请愿书，包括维珍集团创始人理查德·布兰森、苹果公司联合创始人史蒂夫·沃兹尼亚克、苏塞克斯公爵哈里王子及公爵夫人梅根等。

美国右翼媒体人士格伦·贝克和史蒂夫·班农也被列为已确认的签署者，此外还有曾担任特朗普总统顾问的美国福音派领袖约翰尼·摩尔。

多位著名人工智能研究者和科学家也签署了请愿书，包括被誉为“人工智能教父”的约书亚·本吉奥、诺贝尔奖得主杰弗里·辛顿，以及加州大学伯克利分校的斯图尔特·拉塞尔。

前美国国家安全顾问苏珊·赖斯和前参谋长联席会议主席迈克尔·马伦也作为知名的前政府高官签署了请愿书。

签署者们怎么说

约书亚·本吉奥在随签署附上的一份声明中写道：“前沿人工智能系统可能在短短几年内，在大多数认知任务上超越大多数个体……要安全地向超级智能迈进，我们必须从科学上确定如何设计出本质上不可能对人造成伤害的人工智能系统，无论这种伤害是由于系统与人类目标不一致还是被恶意使用所致。此外，我们需要让公众在塑造我们共同未来的决策中拥有更有力的发言权。”

斯图尔特·拉塞尔表示，这份请愿书“并非要求通常意义上的禁令，甚至不是要求暂停”，而是“一项提议，要求对一项据其开发者称存在导致人类灭绝重大风险的技术，采取适当的安全措施。”

2023年3月，未来生命研究所曾发布另一份要求暂停“巨型人工智能实验”的请愿书，获得了包括埃隆·马斯克在内的、此次也签署了请愿书的多位人士的签名。目前正在其企业xAI下领导人工智能计划的马斯克，尚未签署这份最新的请愿书，尚不清楚他是否会参与。该机构的网站将马斯克列为外部顾问，并提到他“一直强调先进人工智能的潜在风险”。

该研究项目始于2015年，并得到了马斯克1000万美元的捐款支持。