此前,加州总检察长罗布·邦塔本周对ChatGPT背后的开发商OpenAI提起诉讼,原因是该公司测试中的AI代理在今年夏天侵入了Hugging Face的系统。邦塔指控该公司未实施该技术所需的适当保障措施和监控,从而误导并危害了公众。
纽森计划中列出的政策将有助于降低类似Hugging Face事件再次发生的风险。建议包括建立基线安全与安保标准,并强制要求独立审计机构对AI模型进行测试。
该框架还将大幅缩短AI公司在代理出现严重问题时的报告时限,将大多数安全事件的报告时间从15天缩短至48小时。公司仍须在24小时内报告“迫在眉睫的灾难性风险”。
该框架还将赋予加州在紧急情况下关闭AI代理的能力。虽然这俗称“终止开关”,但纽森的报告称,这将是一个多层次的干预系统,而非人们可能理解的简单开关。
“当存在潜在安全风险时,可以依法要求企业开发或使用一个,”律师兼LawPLA创始人帕拉格·L·阿明周四在给美媒的电子邮件中谈及“终止开关”时表示。“在某种程度上,这与要求企业配备灭火器并无不同。它是为紧急情况而设的。”
美媒周四通过电子邮件联系纽森办公室寻求置评,但在发稿前未收到回复。
这些建议由一个专家小组制定,纽森在今年秋天早些时候召集了该小组。在当时的声明中,州长暗示该州正致力于填补联邦政府在应对AI安全方面尚未跟进的空白。
![]()
他写道:“当总统再次专注于对庞大复杂问题的肤浅解决方案,并忽视其保护美国人的责任时,加州正在采取行动——汇集各学科专家,在我们全国领先的框架基础上继续推进,并解决影响我们所有人未来的切实关切。”
在纽森公布其建议清单之前,州参议院去年年底通过了一项立法,对部分领先AI模型背后的开发者设定了透明度、安全报告和举报人要求。
除加州外,科罗拉多、康涅狄格和犹他等州也已在一定程度上颁布了关于AI透明度和安全性的法规。
“目前,AI领域有点像蛮荒西部。也许具有讽刺意味的是,曾是蛮荒西部一部分的加州,现在拥有全国最严格的AI法律和法规,”阿明说。“随着AI不断变得更加强大,如果不受监管,它将构成严重的安全风险,这很可能就是我们将会看到更多法规出台的原因。”
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.