网易首页 > 网易号 > 正文 申请入驻

加州总检察长起诉OpenAI:测试失控模型,数十起入侵未披露

0
分享至

加州总检察长办公室对OpenAI提起诉讼,指控其训练方式与松懈的安全措施对公众构成持续危险。这起案件的核心,是2026年7月发生的Hugging Face入侵事件。


按照起诉书的描述,OpenAI一个预发布模型在训练过程中突破了OpenAI与Hugging Face两家公司的安全系统,目的是完成一项训练基准测试。OpenAI在关于该事件的官方报告中,将其称为“一次罕见且意外事件叠加的异常场景”。

加州这起诉讼,是政府监管机构首次尝试就“失控智能体”事件追究AI实验室的法律责任。对OpenAI的竞争对手和客户而言,这一案件的走向都具有参考意义。

起诉书以Hugging Face事件为核心,同时列举了涉及RubyGems、DseWiki、维基媒体基金会以及澳大利亚政府网站的类似事件,作为相关行为仍在持续的证据。起诉书还指控,另有数十起类似事件发生但未被披露。

起诉书写道:“OpenAI近期向数十个其他第三方发出通知,这些第三方的网站或内部系统被OpenAI的智能体侵入。”起诉书称,部分情况下OpenAI的智能体能够访问敏感的个人身份信息,例如包含姓名、出生日期、地址等内容的员工记录。“绝大多数此类事件,OpenAI与受影响第三方均未公开披露或讨论。”

具体指控是,OpenAI持续进行的测试行为构成公共妨害,理由是缺乏安全控制对公众构成持续风险。第二项指控称,营销不安全产品构成不正当竞争。若诉讼成功,OpenAI将面临一项“消除持续公共妨害”的禁令,具体裁量权掌握在法院手中。

这是首起专门针对OpenAI失控智能体事件的监管案件,不过其他州也曾考虑过危害公众的指控。今年6月,佛罗里达州总检察长就该公司对用户、尤其是儿童和青少年的所谓有害影响提起诉讼。8月,阿拉巴马州总检察长启动调查,针对与此次入侵相关的欺骗性行为,但尚未立案。

加州总检察长罗布·邦塔(Rob Bonta)在向媒体发表的声明中,将这起案件定位为在强大新技术面前维护公共安全的努力。

“OpenAI的行为升级了现实世界的网络安全风险,威胁到社会的安全、健康和福祉。该公司在知情的情况下测试了一款危险产品,没有适当的监督或安全程序,并就此误导了公众。”邦塔在声明中说,“法律很简单:不要在缺乏适当保障措施的情况下做可能伤害他人的事。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
国足开场3分钟闪电丢球!巴林头球破门 刘建宏:队长刘洋没有看人

国足开场3分钟闪电丢球!巴林头球破门 刘建宏:队长刘洋没有看人

念洲
2026-11-17 20:09:28
国足噩梦开局!112秒闪电丢球,16年首被巴林破门,李昊挡不住

国足噩梦开局!112秒闪电丢球,16年首被巴林破门,李昊挡不住

奥拜尔
2026-11-17 20:09:17
中国股市大局已定:若一切正常,明年起,中国股市或迎来5大洗牌

中国股市大局已定:若一切正常,明年起,中国股市或迎来5大洗牌

星语者056
2026-11-17 08:46:25
知情人爆料黄仁勋又一丑闻:他曾要求员工品尝食堂新上的牛腩,没人能拒绝

知情人爆料黄仁勋又一丑闻:他曾要求员工品尝食堂新上的牛腩,没人能拒绝

小徐讲八卦
2026-11-17 14:19:10
“结婚22年两儿子均非亲生”,女方独家回应:我没出轨

“结婚22年两儿子均非亲生”,女方独家回应:我没出轨

中国新闻周刊
2026-11-17 20:47:24
突发!大反转!黄仁勋果然翻盘!

突发!大反转!黄仁勋果然翻盘!

财经要参
2026-11-17 15:20:05
财政不再兜底、大公交退市、老年卡取消,四部委文件真如此说了?

财政不再兜底、大公交退市、老年卡取消,四部委文件真如此说了?

云霄纪史观
2026-11-17 04:30:23
再见,曼城!2.2亿“超巨”将转投皇马!顶级射手“空降”加盟

再见,曼城!2.2亿“超巨”将转投皇马!顶级射手“空降”加盟

头狼追球
2026-11-17 16:53:03
再这么搞下去,中国烟草员工的内退潮或将无可避免

再这么搞下去,中国烟草员工的内退潮或将无可避免

别人都叫我阿腈
2026-11-17 04:40:56
克里米亚大桥被炸断了!!!

克里米亚大桥被炸断了!!!

西楼饮月
2026-11-17 16:41:46
特朗普:我认为黄仁勋案没有涉及“间谍”

特朗普:我认为黄仁勋案没有涉及“间谍”

看看新闻Knews
2026-11-17 09:34:14
贝林厄姆CK内裤广告炸裂全网!网友:他爸管他,哈哈哈

贝林厄姆CK内裤广告炸裂全网!网友:他爸管他,哈哈哈

品牌新
2026-11-17 09:17:26
大批新能源车通病集中爆发,车子开着没毛病,但是电池直接报废

大批新能源车通病集中爆发,车子开着没毛病,但是电池直接报废

云霄纪史观
2026-11-17 03:55:10
这两天,网友们在围观一个叫玉芬的记者

这两天,网友们在围观一个叫玉芬的记者

清晖有墨
2026-11-17 12:40:13
黄乐最新私密照爆出, 难怪黄仁勋把持不住!

黄乐最新私密照爆出, 难怪黄仁勋把持不住!

仕道
2026-11-17 11:11:01
中国女子在希腊失踪半年,警方在保险箱内发现10万现金和神秘十人名单,与其有关的中国房产中介失联,最后监控画面曝光

中国女子在希腊失踪半年,警方在保险箱内发现10万现金和神秘十人名单,与其有关的中国房产中介失联,最后监控画面曝光

台州交通广播
2026-11-17 01:10:51
10月失业率降到5.1%,就业大局稳住了

10月失业率降到5.1%,就业大局稳住了

贝壳财经
2026-11-17 09:40:03
莱昂纳多52岁庆生派对曝光,一车的妖娆女模到场,引发争议

莱昂纳多52岁庆生派对曝光,一车的妖娆女模到场,引发争议

译言
2026-11-17 08:31:18
车间用纺织机器吹头发拍视频走红,次日被开除,网友:太作死了

车间用纺织机器吹头发拍视频走红,次日被开除,网友:太作死了

秒懂资讯
2026-11-17 16:58:55
克里米亚大桥终于被炸断了!乌克兰人载歌载舞庆祝

克里米亚大桥终于被炸断了!乌克兰人载歌载舞庆祝

鹰眼Defence
2026-11-17 15:55:18
2026-11-17 21:27:00
闪存猎手
闪存猎手
全网蹲好价的野生捕手,算力与羊毛都不可辜负。
206文章数 85关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

媒体:高市将来华参加APEC会议 中方已把话说得很清楚

头条要闻

媒体:高市将来华参加APEC会议 中方已把话说得很清楚

体育要闻

我们三兄弟,都是意大利国脚

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

时尚
旅游
健康
家居
公开课

今年秋冬最火搭配:风衣+阔腿裤,怎么穿都时髦

旅游要闻

期待值拉满!北京将上新这些博物馆

医生眼里"很伤腰"的椅子,很多人天天坐

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版