上海
美国加利福尼亚州州长加文·纽瑟姆于9月18日签署行政令，提议为前沿人工智能（AI）模型设立"终止开关"（kill switch），作为应对AI安全风险的综合性举措之一。该行政令要求加州在两个月内召集全国顶级专家，就AI安全问题制定新的监管建议。
纽瑟姆在新闻发布会上表示："我们必须加快步伐，在负责任的AI监管方面取得实质性进展，否则将为时已晚。我们将以紧迫的速度推进这项工作，同时保持审慎态度，因为风险太高，不能再观望或拖延。"
根据行政令内容，由专家组成的委员会将负责向州长办公室提交监管建议，据此更新州一级与AI安全相关的法律法规。具体措施包括：在AI实验室内部引入"指定的独立验证机构"，进行定期审计与评估；要求AI公司向第三方机构提交报告与风险评估；强制披露AI模型的"失控事件"（loss-of-control incidents）。
值得关注的是，AI企业对外部持续审查的呼声日益高涨。Anthropic公司首席执行官达里奥·阿莫代伊于上周提出了三步走计划，主张AI公司应主动放慢开发节奏，允许第三方评估机构获得类似"员工权限"的持续访问权限，以便对安全性与合规性进行检查。
参考链接:
https://www.engadget.com/2263218/california-governor-wants-to-implement-a-kill-switch-for-frontier-ai-models/
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
