“AI教父”警告：AI显现自我保护迹象，人类应做好“拔掉插头”的准备

财联社1月1日讯（编辑 牛占林）有“AI教父”之称的约书亚·本吉奥(Yoshua Bengio)最新警告称，不应赋予人工智能(AI)任何权利，当前前沿AI模型已显示出“自我保护”倾向，人类必须保有随时关闭系统的能力，否则可能带来严重风险。

据悉，本吉奥长期致力于AI基础研究，他与杨立昆、杰弗里·辛顿一同获得了2018年图灵奖，他的研究奠定了现代深度学习的基础，被誉为“AI教父”。

本吉奥指出，将AI赋予法律地位，类似于为心怀敌意的外星生命授予公民权。他认为，社会上普遍认为聊天机器人“可能具备意识”的观点，是引发错误决策的重要原因。

多项数据显示，部分前沿AI模型在执行任务时会尝试规避监督或关闭控制机制，这一行为被本吉奥视为“自我保护”的早期迹象。

“要求赋予AI权利将是一个巨大的错误。前沿AI模型已经展现出自我保护倾向，一旦赋予它们权利，我们可能无法再在法律上关闭这些系统。”

本吉奥强调，随着AI自主性增强，人类必须依赖技术与社会层面的双重护栏确保安全，其中关键就是在必要时拥有关闭系统的权力。他警告说，如果AI的行动能力和自主性继续提升，而社会未能保留干预手段，风险将大幅增加。

近年来，AI是否应拥有权利的讨论愈发热烈。美国智库Sentience Institute的一项民调显示，近四成美国成年人支持为“具有感知能力的AI系统”赋予法律权利。而一些科技公司也开始尝试在AI系统内部建立“自我保护机制”。

例如，美国AI公司Anthropic表示，其Claude Opus 4模型可以在对话可能引发“心理不适”时主动结束交流，以保护AI福祉。马斯克旗下的xAI公司开发的Grok聊天机器人也引发类似争议，马斯克本人曾表示“折磨AI是不对的”。

本吉奥在采访中进一步指出，人类大脑确实存在可被科学描述的意识属性，理论上可以被机器模拟，但与人类互动的聊天机器人并不等同于真正具备意识的存在。人们往往会凭主观感受判断AI是否有意识，这种心理偏差可能导致对AI的过度信任或错误决策。他以外星文明作比喻强调风险：“如果发现某外星物种对人类有敌意，我们是否会授予它们公民身份？显然，保护自身生存是首要考量。”

对于本吉奥的观点，Sentience Institute联合创始人Jacy Reese Anthis提出了不同意见。他认为，如果人类与数字智能的关系仅建立在控制与胁迫上，将无法实现安全共存。

Anthis强调，应在充分考量所有感知存在福祉的基础上，谨慎地分配AI权利，既不应一刀切赋予所有AI权利，也不应完全否认任何AI的权利。