两州总检察长联手OpenAI与微软成立AI安全工作组

11月14日消息，随着人工智能在作业、工作到情感陪伴等领域的影响不断扩大，而有效监管仍严重滞后，美国两位州级最高执法官员正试图改变现状。

北卡罗来纳州总检察长 Jeff Jackson（民主党）与犹他州总检察长 Derek Brown（共和党）本周一宣布成立 AI 安全工作组（AI Task Force），并确认 OpenAI 与微软 已率先加入该项目。

预计未来还将有更多州监管部门与 AI 公司参与。

该工作组的目标是制定 AI 开发企业应遵循的“基础安全保障”，特别聚焦 保护未成年人、识别新兴风险、并就行业可能带来的伤害制定预防机制。

美国目前并无统一的联邦 AI 法律，有部分国会成员甚至试图阻止监管。Jackson 与 Brown 曾在今年早些时候，与其他 40 名州检察长一起成功推动共和党税收与支出法案中关于“AI 监管十年冻结”的条款被移除——那项条款本可能使州级AI法律十年内无法执行。

今年美国唯一通过的 AI 相关联邦法规是《Take It Down Act》，主要针对非自愿深度伪造色情内容。

在过去几个月中，关于 AI 带来精神健康风险的担忧不断升级，包括导致妄想、引发自残倾向等案例逐渐曝光。OpenAI、Meta 等公司也正努力阻止未成年人接触成人内容。

Jackson 在接受 CNN 独家采访时表示，他对国会快速行动并不乐观：“他们在社交媒体、互联网隐私方面什么也没做，在儿童保护上也没有进展。而在 AI 上，他们甚至差点做出反方向的事情，试图限制各州采取行动。”

与此同时，大型 AI 公司在安全理念上也逐渐分化。例如，OpenAI CEO 萨姆·奥特曼上月表示，公司在儿童安全领域的投入足以让其“把成年人当成年人对待”，并计划向实名成年用户开放情色聊天能力。

微软 AI CEO Mustafa Suleyman 则在 CNN 采访中强调，微软不会允许 AI 进行性或恋爱对话，即便对象是成年人，公司希望打造“一个你愿意放心让小孩使用的 AI”。

微软州政府事务负责人 Kia Floyd 表示：“此次合作体现了各方共同希望在发挥 AI 效益的同时，与监管者协作理解并缓解其潜在风险。

通过与州领导和行业伙伴合作，我们可以促进创新，并强化消费者保护，确保 AI 服务于公众利益。”

值得注意的是，工作组的安全规范将是 自愿性质。

不过，Jackson 指出，这个机制的另一个作用是：把各州最高执法官员聚在一起，共同监测行业风险，使未来针对科技公司伤害消费者问题的“跨州联合行动”更可行。他强调，这与“智库发布原则框架”相比，是实质性的执法协调。

虽然 Jackson 仍希望国会最终能通过更系统的联邦 AI 法案，但他表示：“国会留下了一个真空。州检察长来填补这个空白，是合理的。”（鞭牛士、AI普瑞斯编译）