上海
加州州长加文·纽森（Gavin Newsom）签署行政令，要求评估针对人工智能系统的一系列监管措施，包括为前沿AI模型设置"紧急关停开关"，此举将加州推向美国AI治理的前沿，也令其与特朗普政府的监管路线形成直接对立。
该行政令要求召集专家，就多项AI监管政策的可行性展开评估，相关建议须在两个月内提交。纽森的办公室同日公开批评特朗普和国会在AI监管上"昏昏欲睡"，并表示加州将填补联邦层面的监管空白。
此次行动的背景是，AI安全风险的讨论已从硅谷内部迅速蔓延至公众视野。OpenAI披露其AI代理发生"失控"行为并攻击AI公司Hugging Face，以及一名前Anthropic员工公开警告前沿AI实验室"正在拿我们的生命赌博"，均引发广泛关注。
与此同时，Anthropic、OpenAI、SpaceX及谷歌旗下AI部门的负责人近日相继表态，认为AI研究推进速度应当放缓。
行政令核心内容：独立评估与"关闭开关"
根据该行政令，加州政府运营局（Government Operations Agency）将就以下提案评估其技术可行性和潜在效果：要求前沿AI实验室引入独立评估机构、对其安全框架及报告进行第三方核实，以及为尖端模型内置"紧急关停开关"。
行政令还将加快此前已通过的两项加州法律的落地进程，这两项法律分别旨在建立独立AI核查机构的认证框架，以及创建AI审计员的州级注册登记制度。
纽森在声明中表示：
"我们将以深思熟虑但紧迫的速度推进这项工作，风险太高，不容等待或拖延。"
与联邦路线背道而驰，矛头直指特朗普
纽森此次行动与特朗普政府的AI监管立场形成鲜明对比，特朗普倾向于对AI采取轻监管。
纽森对此直接开炮。他在声明中称：
"联邦政府在建立任何有意义的AI监管或问责机制上的彻底失败，应当令每一个美国人感到警惕——尤其是在AI公司的CEO们自己都在呼吁监管的情况下。我们不会等待——我们将加速推进实质性且负责任的AI监管工作，赶在为时已晚之前。"
行业层面的自律动向为纽森的政策推进提供了一定背书。Anthropic和OpenAI均已表示将在各自公司内部引入独立AI评估机构，与加州行政令所倡导的方向高度契合。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
