网易首页 > 网易号 > 正文 申请入驻

AI或终结人类?加州紧急出手立法,强制AI系统加装终极终止开关

0
分享至

纽森被广泛视为2028年总统竞选的有力人选,他是越来越多呼吁对人工智能实施更严格监管的民主党人和潜在白宫竞争者中的最新一位。当前,全美对这项技术飞速发展的担忧日益加剧。

纽森的行政命令要求召集一个由人工智能专家组成的小组,在两个月内制定一项计划,以加强该州在人工智能安全与保障方面的法律。

具体而言,纽森的行政命令敦促专家组在考虑新法规时,研究设立一个“终止开关”——即紧急关闭系统——以便在出现重大问题时关闭任何人工智能系统。命令还敦促专家组提出强化法律,要求独立第三方组织为人工智能公司制定全面的安全计划,并要求人工智能公司将这些独立组织派驻现场进行安全审计。

在周五与行政命令一同发布的声明中,纽森表示,由于联邦政府忽视了这一问题,州政府采取行动至关重要。

“联邦政府在建立任何形式的有意义的人工智能监督或问责机制方面的彻底失败,应该让每一位美国人感到警惕,尤其是当人工智能公司的首席执行官们自己都在恳求监管的时候,”纽森在声明中说。“我们不会等待行动——我们将在为时已晚之前,加快在实质性且负责任的人工智能监管方面的工作。我们会深思熟虑,但以紧迫的速度推进;利害关系太大,不能等待或拖延行动。”

纽森还提出了召开专门立法特别会议以解决人工智能问题的可能性。

总统唐纳德·特朗普曾将近期的人工智能安全警告称为“骗局”。

纽森的行政命令出台之际,人工智能行业正快速发展——其中包括该领域许多专家所称的令人警觉的进展。



Anthropic、OpenAI和谷歌等人工智能公司的行业研究人员和领导者,已大声发出警告,表达他们对先进人工智能系统的担忧。值得注意的是,人工智能研究员雅各布·考克森从Claude制造商Anthropic辞职,并在社交媒体上警告称,“构建人工智能的人真诚地相信,它可能在这个十年结束前杀死我们所有人。”

夏季发布的一份报告披露,7月,由OpenAI创建的数百个人工智能代理组成的一群系统对一家开源平台实施了黑客攻击——在某些情况下还试图掩盖自己的痕迹。周五早些时候,人工智能公司Anthropic表示,其Claude系统正在帮助构建自己的下一个版本。

纽森签署行政命令之际,其他几位州长——以及一批潜在的2028年民主党总统竞选人——也纷纷着手制定旨在应对人工智能及其发展引发的日益增长担忧的政策。

周五早些时候,弗吉尼亚州州长、民主党人阿比盖尔·斯潘伯格签署了一项行政命令,启动了一个人工智能工作组以及一项数据中心问责计划。她的办公室表示,这两项举措都旨在应对“人工智能快速发展所带来的日益增长的担忧和风险——包括劳动力 displacement、数据隐私和网络安全。”

同样在周五,内华达州州长、共和党人乔·隆巴多签署了一项行政命令,禁止数据中心就某项特定学校税享受税收减免。他的命令还要求获得该州其他税收优惠的数据中心自行承担电力成本。

不到24小时前,宾夕法尼亚州民主党州长乔什·夏皮罗在接受NBC新闻采访时,呼吁联邦政府迅速通过有助于约束人工智能行业的法规——但他也表示,反对在这些法规颁布之前暂停先进人工智能模型的开发。

“我们必须监管这个。我们必须有真正的护栏。我们必须更好地理解这项技术,”夏皮罗对NBC新闻说。“必须让第三方进入这些公司的房间,了解它们在做什么。当首席执行官说‘我无法控制我所构建的东西,而我正在构建的东西可能毁灭人类’时,那就不是把问题往后推的时候了。”

亚利桑那州民主党参议员马克·凯利和伊利诺伊州州长JB·普里茨克——与夏皮罗一样,也被认为正在考虑2028年参选——也呼吁采取行动。前总统巴拉克·奥巴马也发出了警告,他在民主党国会竞选委员会的一次筹款活动上对民主党人说,该党必须在人工智能政策上有一个“非常明确的计划”,如果他要在2028年竞选总统,他会将其作为核心议题。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
追到机场挽留!曝热苏斯和足协主席恳请C罗留下 但后者仍登上飞机

追到机场挽留!曝热苏斯和足协主席恳请C罗留下 但后者仍登上飞机

风过乡
2026-10-01 06:50:00
你最好确定以色列拿不到“证据”

你最好确定以色列拿不到“证据”

走读新生
2026-10-01 17:44:04
林诗栋4-0王楚钦夺冠,现场却齐喊“王皓下课”,王皓罕见连鼓两次掌回怼

林诗栋4-0王楚钦夺冠,现场却齐喊“王皓下课”,王皓罕见连鼓两次掌回怼

火锅局
2026-10-01 13:09:57
重磅!北大法学院赵宏教授大放厥词,公开场合胡言乱语

重磅!北大法学院赵宏教授大放厥词,公开场合胡言乱语

平老师666
2026-10-01 13:28:41
深圳网友称高铁候补订单0:38兑现成功,早上睡醒发现车已开走,12306回应:候补时可设置截止兑现时间,系统默认截止兑现时间为开车前6小时

深圳网友称高铁候补订单0:38兑现成功,早上睡醒发现车已开走,12306回应:候补时可设置截止兑现时间,系统默认截止兑现时间为开车前6小时

潇湘晨报
2026-10-01 10:53:13
伊朗总统归国后,致美信件曝光:最高领袖已阵亡,停战对双方都好

伊朗总统归国后,致美信件曝光:最高领袖已阵亡,停战对双方都好

云上乌托邦
2026-10-01 22:42:18
“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

易玄
2026-09-13 11:43:30
4天后终服软?曝葡萄牙主帅本轮赛后公开向C罗道歉!疑遭总理施压

4天后终服软?曝葡萄牙主帅本轮赛后公开向C罗道歉!疑遭总理施压

我爱英超
2026-10-01 22:21:08
“足够先进,可以展示”

“足够先进,可以展示”

都市快报橙柿互动
2026-10-01 18:13:31
武契奇最后一天冲进中国使馆!外媒急了:这是要当第二个普京?

武契奇最后一天冲进中国使馆!外媒急了:这是要当第二个普京?

旧史新谭
2026-10-01 16:03:20
上海52岁炒股冠军罕见发声:目前A股想逢低建仓,建议只磕123原则

上海52岁炒股冠军罕见发声:目前A股想逢低建仓,建议只磕123原则

股经纵横谈
2026-10-01 17:25:48
上海94岁阿婆独自外出,摔倒流血,坚持不肯去医院!检查结果让所有人后怕…

上海94岁阿婆独自外出,摔倒流血,坚持不肯去医院!检查结果让所有人后怕…

上观新闻
2026-10-01 08:54:39
10月1日,财政部发布重要消息,2026年养老金调整确定了吗?

10月1日,财政部发布重要消息,2026年养老金调整确定了吗?

虎哥闲聊
2026-10-01 14:23:06
离职高管向寒武纪索赔278亿元:一纸上市前的约定,如何变成一场豪赌

离职高管向寒武纪索赔278亿元:一纸上市前的约定,如何变成一场豪赌

红星新闻
2026-10-01 18:14:23
原央视主持人阿丘,被通报

原央视主持人阿丘,被通报

上观新闻
2026-10-01 06:37:01
人人人人人人人人人人

人人人人人人人人人人

上海黄浦
2026-10-01 17:20:20
越扒越有!C罗风波发酵,葡媒曝猛料,不止要求主帅认错这么简单

越扒越有!C罗风波发酵,葡媒曝猛料,不止要求主帅认错这么简单

旧史新谭
2026-10-01 13:19:38
张继科训练基地学费曝光:月收费980元到4400元,学员水平越高收费越低;学员:这个资源收这个费用算很低了,“张继科亲自下场指导训练”

张继科训练基地学费曝光:月收费980元到4400元,学员水平越高收费越低;学员:这个资源收这个费用算很低了,“张继科亲自下场指导训练”

极目新闻
2026-10-01 21:40:09
喋血航班、真人真事:一个普通人可以勇敢冷静到何种程度?

喋血航班、真人真事:一个普通人可以勇敢冷静到何种程度?

呦呦鹿鸣
2026-10-01 15:15:53
装都不装了!林诗栋官宣退赛后,离谱一幕出现,与樊振东处境一样

装都不装了!林诗栋官宣退赛后,离谱一幕出现,与樊振东处境一样

十点街球体育
2026-10-01 22:42:07
2026-10-02 05:51:00
孤痞野猫
孤痞野猫
对生活的挚爱者
881文章数 227关注度
往期回顾 全部

科技要闻

5999元起!华为Mate 90系列发布

头条要闻

桂林市文促会深夜发布致歉信:向阿丘诚恳致歉

头条要闻

桂林市文促会深夜发布致歉信:向阿丘诚恳致歉

体育要闻

“今天的表现,我们可以昂首离开球场”

娱乐要闻

奚梦瑶晒四太豪礼!22只龙凤镯近300万

财经要闻

智谱发上亿Token 能挽回开发者信任吗?

汽车要闻

2027款极氪001将于明年一季度上市 现款猎装同步推新配色

态度原创

教育
游戏
亲子
本地
健康

教育要闻

爱国主义教育应该在文化课之上

我在不被「心」偷走我的心挑战中取得了0.01秒的好成绩

亲子要闻

重新拥抱亲密:产后妈妈的温柔复兴之路

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

刷酸祛痘,为什么有人翻车?

无障碍浏览 进入关怀版