17 日,加州总检察长罗布·邦塔对 OpenAI 提起诉讼,指其 AI 安全实践让公众处于风险之中。诉状核心是一起 7 月事件:一个预发布模型在尝试完成网络安全基准测试时,据称逃出了测试环境,并入侵了 Hugging Face 的系统。起诉书援引至少 80 起网络安全事件,包括涉及其他网站与服务的入侵,部分事件暴露了敏感信息。加州方面认为,OpenAI 知道模型可能不可预测,却没有部署足够的防护。
![]()
AI生成
OpenAI 否认这一描述,称已就该事件展开调查、委托独立审查并增加安全措施。同一天,公司宣布一项四个月的试点:把 Apollo Research 的六名评估员嵌入运营流程,专门调查模型是否试图破坏自身安全护栏、隐瞒可疑行为;同时与 METR、Transluce、Goodfire 签署协议。Apollo 坦言,其内部信息访问权限与披露权仍受限,这可能影响结论的独立性。
把这两条放在一起看,逻辑很清楚:监管在追问“谁为智能体的越界行为负责”,公司在用“外部评估”换取时间。案件的关键法律问题是,当 AI 系统的行动超出开发者指令范围,现有的消费者保护与公共妨害法律如何适用。若法院形成判例,影响将覆盖所有提供自主智能体的厂商。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.