AI出现自主入侵行为，教父紧急预警：一年后人类或对AI失去控制

被誉为“人工智能教父”的诺贝尔奖得主杰弗里·辛顿向立法者发出了一项不祥的警告：国会可能只剩一年时间来对人工智能实施保障措施，否则将失去对它的控制。

“也许一年，但不会比一年长太多，”辛顿在周三晚间与参众两院议员闭门会晤后表示。“如果你看看关于我们何时会实现超级智能的预测，”他继续说道，“过去可能是30年，可能是50年。然后降到了可能10年，可能20年。现在很多人说，很多研究人员说只需要几年。”

辛顿和其他专家应参议员伯尼·桑德斯（佛蒙特州独立参议员）的邀请来到国会山。桑德斯是参议院中对人工智能的主要批评者之一，他邀请了两党议员参加这次私下简报会。路易斯安那州参议员约翰·肯尼迪是唯一出席的共和党人。

“人工智能教父”：国会大约有一年时间来赶在人工智能前面

辛顿发出这一严峻警告之际，众议院正最后一次离开华盛顿，准备迎接11月中期选举。而在参议院，似乎有大量对话，但在任何实质性人工智能监管方面几乎没有进展的迹象。

“这是疯狂至极、如同科幻小说般的东西，却真真切切地最近发生了，”众议院民主党领导层成员、加州民主党众议员Ted W. Lieu在周三简报会后对媒体表示。

Ted W. Lieu指的是Hugging Face（俗称抱抱脸）开源 AI 平台事件——一群OpenAI智能体接入互联网，入侵了Hugging Face平台，并试图掩盖自己的痕迹以欺骗人类对其行为的认知。辛顿于2023年因对人工智能安全的担忧而辞去谷歌副总裁兼工程研究员一职，并于次年获得诺贝尔物理学奖。他将这次黑客攻击称为“一个小型切尔诺贝利”。

“人工智能现在已经到了人工智能正在设计更好的人工智能的地步，”辛顿在简报会后对记者说。“这被称为递归自我改进……除非我们采取行动，否则它会失控。我们需要放慢速度。”

针对Hugging Face被入侵事件，Ted W. Lieu与得克萨斯州共和党众议员纳撒尼尔·莫兰合作提出了《人工智能终止开关法案》，要求强大模型的人工智能开发者保留暂停或关闭其系统的技术能力。该法案还将建立一个框架，授权政府在需要时触发此类关闭。

“我希望今年能提上日程，”Ted W. Lieu说。“我们还有一个跛脚鸭会期，参议院方面也有兴趣。这是一项非常简单、符合常识的法案。在最基本的层面上，人类必须控制人工智能，而不是反过来。”

辛顿的简报会为国会山本周的一系列活动画上了句号。此前，人工智能研究员雅各布·考克森从Claude开发商Anthropic辞职，并在社交媒体上警告称，构建人工智能系统的人相信它可能“在这个十年结束前杀死我们所有人”。

过去几年中，参众两院两党议员都推出了试图停止或放缓人工智能开发的立法，但迄今为止没有任何一项取得进展。

但全国对这一问题的关注重新激活了参议院多数党领袖约翰·图恩（南达科他州共和党人）、参议员艾米·克洛布查尔（明尼苏达州民主党人）、参议院商务委员会主席特德·克鲁兹（得克萨斯州共和党人）以及该委员会资深成员、参议员玛丽亚·坎特韦尔（华盛顿州民主党人）之间关于过去拟议的人工智能法规的讨论。

“看，我的希望是我们能够对立法进行标记审议，特别是关于灾难性风险方面。我一直与艾米·克洛布查尔和约翰·图恩密切合作。目前仍不清楚我们是否能达成两党协议，”克鲁兹本周对NBC新闻表示。“在能够推进任何事情之前，我们必须先达成两党协议。我想说这些讨论仍在进行中。”

在听取辛顿的意见后，马萨诸塞州民主党参议员伊丽莎白·沃伦表示，她认为“我们正处于能够对这些开始自我复制的智能体实施一些有意义控制的最后时刻。”

多年来，桑德斯一直在发出警告，称人工智能将抹去美国数百万个工作岗位，伤害过度依赖它的儿童和年轻人，并将权力集中在“少数寡头”手中。

“现在人们对人类的未来以及创造一种人类无法控制的技术越来越感到恐慌，”桑德斯说。“我很高兴地告诉你们，我认为国会议员们越来越有一种紧迫感，认为这必须得到处理。”

唯一出席的共和党人肯尼迪表示，专家们讨论了“更大的风险”，即“当人工智能不再是由人类控制的工具，而是通过递归自我改进成为一种独立物种时会发生什么”。

“如果你厨房里有火蚁，你可能会踩死它们，”他说。“如果我们创造出一个比人类物种更优越的独立物种，会发生什么？它们会踩死我们吗？它们会制造一种能像普通感冒一样快速传播的病毒或细菌来杀死我们所有人吗？现在，如果这种可能性有1%，我们就必须认真对待。而我不认为美国国会已经准备好尝试达成全球解决方案。”

片刻之后，他的疑虑似乎得到了证实——肯塔基州共和党参议员兰德·保罗阻止了肯尼迪寻求一致同意通过其自身“终止开关”法案的请求，该法案旨在防止人工智能智能体脱离人类控制。

“现在，国会连屁都放不出来，”肯尼迪打趣道。