网易首页 > 网易号 > 正文 申请入驻

美国加州州长:希望加州有权关停“失控”AI

0
分享至

此前,加州总检察长罗布·邦塔本周对ChatGPT背后的开发商OpenAI提起诉讼,原因是该公司测试中的AI代理在今年夏天侵入了Hugging Face的系统。邦塔指控该公司未实施该技术所需的适当保障措施和监控,从而误导并危害了公众。

纽森计划中列出的政策将有助于降低类似Hugging Face事件再次发生的风险。建议包括建立基线安全与安保标准,并强制要求独立审计机构对AI模型进行测试。

该框架还将大幅缩短AI公司在代理出现严重问题时的报告时限,将大多数安全事件的报告时间从15天缩短至48小时。公司仍须在24小时内报告“迫在眉睫的灾难性风险”。

该框架还将赋予加州在紧急情况下关闭AI代理的能力。虽然这俗称“终止开关”,但纽森的报告称,这将是一个多层次的干预系统,而非人们可能理解的简单开关。

“当存在潜在安全风险时,可以依法要求企业开发或使用一个,”律师兼LawPLA创始人帕拉格·L·阿明周四在给美媒的电子邮件中谈及“终止开关”时表示。“在某种程度上,这与要求企业配备灭火器并无不同。它是为紧急情况而设的。”

美媒周四通过电子邮件联系纽森办公室寻求置评,但在发稿前未收到回复。

这些建议由一个专家小组制定,纽森在今年秋天早些时候召集了该小组。在当时的声明中,州长暗示该州正致力于填补联邦政府在应对AI安全方面尚未跟进的空白。



他写道:“当总统再次专注于对庞大复杂问题的肤浅解决方案,并忽视其保护美国人的责任时,加州正在采取行动——汇集各学科专家,在我们全国领先的框架基础上继续推进,并解决影响我们所有人未来的切实关切。”

在纽森公布其建议清单之前,州参议院去年年底通过了一项立法,对部分领先AI模型背后的开发者设定了透明度、安全报告和举报人要求。

除加州外,科罗拉多、康涅狄格和犹他等州也已在一定程度上颁布了关于AI透明度和安全性的法规。

“目前,AI领域有点像蛮荒西部。也许具有讽刺意味的是,曾是蛮荒西部一部分的加州,现在拥有全国最严格的AI法律和法规,”阿明说。“随着AI不断变得更加强大,如果不受监管,它将构成严重的安全风险,这很可能就是我们将会看到更多法规出台的原因。”

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
研究发现:爱吃鸡蛋的人,帕金森、老年痴呆发病率,比同龄人低?

研究发现:爱吃鸡蛋的人,帕金森、老年痴呆发病率,比同龄人低?

路医生健康科普
2026-10-22 20:45:03
官媒点名!4位明星化身老赖,最后一位臭名昭著,给大众提了个醒

官媒点名!4位明星化身老赖,最后一位臭名昭著,给大众提了个醒

林轻吟
2026-11-10 07:17:48
长荣曾拒挂旗帜、订单转向日韩,合作接连遇挫,如今怎么样了?

长荣曾拒挂旗帜、订单转向日韩,合作接连遇挫,如今怎么样了?

玲儿爱唱歌
2026-11-21 06:32:49
美军高层警告特朗普:延长与伊朗战争,将导致部队作战能力下降

美军高层警告特朗普:延长与伊朗战争,将导致部队作战能力下降

吕坾极限手工
2026-11-22 11:30:58
深圳街头那一万四千辆不喝油的公交车,把老外看愣了

深圳街头那一万四千辆不喝油的公交车,把老外看愣了

音乐时光的娱乐
2026-11-21 04:37:48
美国又对中国芯片加码!从不让买到不让造,他们到底在急什么?

美国又对中国芯片加码!从不让买到不让造,他们到底在急什么?

飘逸的云朵
2026-11-22 12:19:47
狂轰50+11+7创历史,绝平却超时!公开谈大帝踩线,输球不输格局

狂轰50+11+7创历史,绝平却超时!公开谈大帝踩线,输球不输格局

锅子篮球
2026-11-22 10:48:07
沪媒不忍了!点名拉塞尔不适合上海战术体系,卢伟表态,拉塞尔发声

沪媒不忍了!点名拉塞尔不适合上海战术体系,卢伟表态,拉塞尔发声

萌兰聊个球
2026-11-22 10:51:49
谭维维:我这辈子最正确的决定,就是嫁了一个退居幕后带孩子的人

谭维维:我这辈子最正确的决定,就是嫁了一个退居幕后带孩子的人

扒瓜
2026-11-22 12:15:44
张雪骑摩托刚出P房就摔倒 师傅牙哥“技术不行 纯瘾大”的含金量还在上升

张雪骑摩托刚出P房就摔倒 师傅牙哥“技术不行 纯瘾大”的含金量还在上升

快科技
2026-11-22 08:56:13
《丑狐》让相由心生具像化了!网友:人一旦寒了心 脸也会跟着变垮

《丑狐》让相由心生具像化了!网友:人一旦寒了心 脸也会跟着变垮

陈意小可爱
2026-11-21 04:23:59
他曾是政治局常委,68岁失志选择服药自尽,至今骨灰未找到

他曾是政治局常委,68岁失志选择服药自尽,至今骨灰未找到

钟离踏忆
2026-11-19 14:41:40
日本网友批高市早苗在东盟峰会、APEC会场挤眉弄眼吐舌头:丢人!

日本网友批高市早苗在东盟峰会、APEC会场挤眉弄眼吐舌头:丢人!

澎湃新闻
2026-11-22 08:58:51
男子在山姆花3970元买国航机票次卡,激活后没查到合适航班,申请退款发现订单“已核销”,已向12315举报;国航、山姆客服回应

男子在山姆花3970元买国航机票次卡,激活后没查到合适航班,申请退款发现订单“已核销”,已向12315举报;国航、山姆客服回应

91.6陕西交通广播
2026-11-21 11:55:51
赵忠祥倪萍家常饭同框,一碗炸酱面胜过珍馐

赵忠祥倪萍家常饭同框,一碗炸酱面胜过珍馐

娱你同欢
2026-11-21 23:01:28
特斯拉正式宣布,年度重磅新产品即将发布!

特斯拉正式宣布,年度重磅新产品即将发布!

XCiOS俱乐部
2026-11-21 21:23:20
轩子这组“老师”造型,把反差感玩明白了

轩子这组“老师”造型,把反差感玩明白了

记录生活的小明
2026-11-22 07:25:15
张升民同志简历

张升民同志简历

看看新闻Knews
2026-10-29 18:54:09
突发!黄仁勋离开英伟达后,台积电“操作”惊呆所有人

突发!黄仁勋离开英伟达后,台积电“操作”惊呆所有人

大厂财经社
2026-11-22 11:23:39
深圳APEC国宴菜品出圈,背后坐镇大厨,40个竟全是来自顺德

深圳APEC国宴菜品出圈,背后坐镇大厨,40个竟全是来自顺德

巷北楠猫本尊
2026-11-21 02:40:07
2026-11-22 13:44:49
秋之洁
秋之洁
秋之洁
1446文章数 216关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

牛弹琴:联合国秘书长的热门候选 可能被中方一票否决

头条要闻

牛弹琴:联合国秘书长的热门候选 可能被中方一票否决

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

数码
教育
旅游
手机
公开课

数码要闻

华为WATCH GT6获鸿蒙7.0.0.108SP8升级,表端支持微信来电接听和挂断

教育要闻

日常英语:合租的问题

旅游要闻

留在紫柏山的张良背影

手机要闻

DOOGEE Wide Core亮相,6500mAh电池、紫光展锐T7250处理器

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版