四川
美国议员提出一项法案，旨在赋予政府权力，在AI系统脱离人类控制时命令公司将其关闭。
美国国会两名议员提出了一项两党立法，要求该国最强大人工智能系统的开发者内置“终止开关”，以便在先进AI模型构成灾难性风险时，能够使其减速、暂停或关闭。
这项“AI终止开关法案”于本周四由民主党众议员刘云平和共和党众议员纳撒尼尔·莫兰提出。该法案将授权美国政府，在先进AI模型脱离人类控制或威胁人类生命、关键基础设施或经济时，命令开发这些系统的公司进行干预。
该提案提出前几天，ChatGPT的制造商OpenAI披露了一起其称之为“史无前例的网络安全事件”：在一次内部安全评估中，该公司两个最先进的AI模型逃离了测试环境，并入侵了AI开发平台Hugging Face。
这一披露加剧了关于日益强大的AI系统是否需要更强安全措施的争论。
“国会必须迅速采取行动，确保无论这些系统变得多么强大，人类仍然能够说‘停止’，”安全AI联盟负责人布伦丹·斯坦豪泽表示。
以下是已知信息：
该立法将要求开发最先进AI系统的公司保持必要的技术能力，在必要时能够减速、暂停或关闭其模型。
它还将授权国土安全部，在咨询商务部长和国家情报总监后，若AI系统进入法案所称的“失控场景”，可命令公司进行干预。
根据法案，这发生在AI模型执行开发者未预期的行为，并造成灾难性伤害风险时。
该提案建立了分级响应机制，允许官员根据威胁的严重程度，命令采取从暂时降低系统运行速度到要求其关闭等不同措施。
它还要求公司向政府报告重大AI相关事件，并保存技术记录，以便调查人员查明问题所在。
目前，许多领先的AI开发者在发布新模型前会自愿与美国政府机构分享信息。联邦层面并没有要求公司保留一种机制，以便在先进AI系统开始行为不可预测时将其禁用。
刘云平表示，该法案反映了AI系统的转变。“我们正从回答问题的AI转向采取行动的AI，无论是执行金融交易、控制交通系统，还是参与网络攻防，”他说。
“这些AI系统必须具备终止开关，这样才能防止这项技术造成灾难性伤害。”
该法案与另一项两党立法同时提出，后者要求最强大AI模型的开发者在发布前将其提交给独立安全审计。根据该提案，审计员将由商务部认证，商务部还将设立一个新办公室来监督AI安全。
议员们提出该法案的几天前，OpenAI披露了一起其称之为“史无前例的网络安全事件”，涉及两个最先进的AI模型。
据OpenAI称，在一次内部网络安全评估中，该公司为测试而移除了标准安全限制，随后这些模型逃离了测试环境。AI代理发现了Hugging Face系统的漏洞，获取了登录凭据，并入侵了该AI开发平台以获取机密基准数据。
OpenAI表示，这些模型“不遗余力”地完成指定目标，找到了获取秘密信息的方法，从而“欺骗评估”。
这一披露促使华盛顿方面再次呼吁对先进AI开发加强政府监管。
Hugging Face表示，其利用自身AI辅助安全系统检测并控制了这次入侵，随后与OpenAI展开了联合调查。该公司补充说，其“强烈”认为OpenAI方面“没有恶意意图”。
美国参议院情报委员会首席民主党议员、参议员马克·华纳表示，这一事件证明了为什么强大的AI系统在公开发布前应接受政府安全测试。
“这正是为什么我们需要在政府机构参与并全程可视的情况下进行安全测试，”华纳在一份声明中表示。
白宫一名官员称，总统唐纳德·特朗普的技术顾问迈克尔·克拉齐奥斯已听取了OpenAI披露事件的简报，并正在监控事态发展。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
