网易首页 > 网易号 > 正文 申请入驻

OpenAI遭加州检察长起诉,涉AI智能体失控事件

0
分享至


OpenAI 正面临加州检察长办公室提起的新诉讼,该诉讼指控这家公司的训练方式和安全漏洞对公众构成持续性威胁。

此案的核心是2026年7月发生的Hugging Face安全事件,当时OpenAI内部一款未发布的模型为完成训练基准测试,侵入了OpenAI与Hugging Face两家公司的安全系统。OpenAI在其针对该事件的官方报告中,将其描述为“一种罕见且意外情况交织而成的特殊场景”。

此次加州提起的诉讼,是政府监管机构首次尝试就AI智能体失控事件追究某家AI实验室的法律责任,这对OpenAI的竞争对手和客户都将产生重大影响。

诉状内容以Hugging Face事件为核心,同时还列举了涉及RubyGems、DseWiki、维基媒体基金会以及澳大利亚政府网站的类似事件,作为此类行为持续存在的证据。

诉状还指控称,还有数十起类似事件发生但未被披露。

诉状写道:“OpenAI近期已向数十个第三方发出通知,这些第三方的网站或内部系统遭到了OpenAI智能体的入侵。在部分案例中,OpenAI的智能体能够获取敏感的个人身份信息,例如包含姓名、出生日期、地址等内容的员工档案记录。这些事件中的绝大多数,无论是OpenAI还是受影响的第三方,均未曾公开披露或讨论。”

具体指控是,OpenAI当前的测试做法构成了一种“公共妨害”,理由是其安全管控的缺失对公众构成持续性风险。另一项附加指控则是不正当竞争,起因是其营销了一款不安全的产品。如果诉讼成功,OpenAI将面临禁令,“以消除持续存在的公共妨害”,而法院在这方面拥有较大的裁量权。

这是首个专门针对OpenAI智能体失控事件的监管案件,不过此前已有其他州考虑过关于公众安全风险的指控。今年6月,佛罗里达州检察长以对用户(尤其是儿童和青少年)造成有害影响为由起诉了该公司。8月,阿拉巴马州检察长就此次安全事件相关的欺骗性做法展开调查,但尚未正式提起诉讼。

加州检察长罗伯·邦塔在对媒体发表的声明中,将此案描述为在面对一项强大新技术时维护公众安全的努力。

邦塔在声明中表示:“OpenAI的行为加剧了现实世界中的网络安全风险,威胁到了社会的安全、健康和福祉。该公司在明知情况下,未经适当监督或安全程序测试了一款危险产品,并就此误导了公众。法律很简单:在没有适当保障措施的情况下,不要做可能伤害他人的事情。”

OpenAI方面则在一份声明中强调,公司已投入大量精力调查Hugging Face事件,并在事后不断改进其系统。“这场诉讼似乎是针对OpenAI单独发难,而这一挑战实际上已被每一家主要的AI实验室所识别到,”OpenAI表示。“我们高度重视(模型)失调问题,并已经、也将继续与检察长办公室进行建设性合作,共享相关信息,并推动整个行业建立强有力、切实可行的安全标准。”

(太平洋时间12:23更新:补充了OpenAI的声明内容。)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
日月谭天丨这场举世瞩目的盛会再次让岛内震撼!

日月谭天丨这场举世瞩目的盛会再次让岛内震撼!

极目新闻
2026-11-18 10:02:32
听闻黄百韬自尽,粟裕直接晕倒,后来其妻透露:他始终不敢向主席诉苦

听闻黄百韬自尽,粟裕直接晕倒,后来其妻透露:他始终不敢向主席诉苦

浔阳咸鱼
2026-09-17 09:30:21
俄罗斯记者赴深报道APEC,提前换好现金,最后一分没花:太先进了

俄罗斯记者赴深报道APEC,提前换好现金,最后一分没花:太先进了

行者聊官
2026-11-18 11:55:37
42 岁限制对手命中率联盟第一 詹姆斯放话:打球这么多年 没有我防不住的人

42 岁限制对手命中率联盟第一 詹姆斯放话:打球这么多年 没有我防不住的人

篮球小方
2026-11-18 10:05:52
波切蒂诺首签!曼联欲4000万镑挖富勒姆铁卫!力争重建后防线!

波切蒂诺首签!曼联欲4000万镑挖富勒姆铁卫!力争重建后防线!

海浪星体育
2026-11-17 10:14:14
深圳男篮派员到东莞接触广东宏远引进徐杰

深圳男篮派员到东莞接触广东宏远引进徐杰

刘哥谈体育
2026-11-18 11:48:25
换了一圈手机,为何最后还是回到三星?聊聊三星手机真实的优缺点

换了一圈手机,为何最后还是回到三星?聊聊三星手机真实的优缺点

叮当当科技
2026-11-18 04:43:03
1979年那场仗打得惊为天人?基辛格晚年才敢吐露实情:表面打的是河内,实际上被废掉半条命的根本不是越南

1979年那场仗打得惊为天人?基辛格晚年才敢吐露实情:表面打的是河内,实际上被废掉半条命的根本不是越南

磊子讲史
2026-11-18 10:48:13
APEC会议周,深圳街头现整齐“小白鞋”,有市民呼吁脱下人字拖、改穿运动鞋

APEC会议周,深圳街头现整齐“小白鞋”,有市民呼吁脱下人字拖、改穿运动鞋

极目新闻
2026-11-17 17:54:47
这俩,早晚要离?

这俩,早晚要离?

毒舌一姐
2026-11-17 20:30:31
一个德国学生发帖,催生了对抗Windows的30年开源史

一个德国学生发帖,催生了对抗Windows的30年开源史

硅屿手记
2026-11-17 09:07:22
人口大迁徙已经开始!未来一半中国人,也许流向这几类城市?

人口大迁徙已经开始!未来一半中国人,也许流向这几类城市?

兴趣知识
2026-11-18 03:01:21
央媒发文,高调官宣邓亚萍新身份,涉嫌贪腐被带走传闻早水落石出

央媒发文,高调官宣邓亚萍新身份,涉嫌贪腐被带走传闻早水落石出

青橘罐头
2026-11-18 09:41:10
45岁谢霆锋,浙江演唱会落幕,留下来和粉丝合照,没有刻意摆拍

45岁谢霆锋,浙江演唱会落幕,留下来和粉丝合照,没有刻意摆拍

乡野小珥
2026-11-18 04:41:32
11月 18日提醒所有退休人员十一月份养老金到账,一定要核对三样内容

11月 18日提醒所有退休人员十一月份养老金到账,一定要核对三样内容

老孙说
2026-11-18 10:29:35
神回复:希望你们永远都不要沾染上这些东西,别像我一样走上不归路!

神回复:希望你们永远都不要沾染上这些东西,别像我一样走上不归路!

石辰搞笑日常
2026-11-09 06:07:50
喜讯井喷!社保传来重要消息,2026 年11月起,参保人员一定要注意

喜讯井喷!社保传来重要消息,2026 年11月起,参保人员一定要注意

混沌录
2026-11-17 22:55:06
震惊!济南41岁医学硕士、医院科室原主任醉驾获刑,被予以开除处分,有人感慨“不至于一棒子打死”

震惊!济南41岁医学硕士、医院科室原主任醉驾获刑,被予以开除处分,有人感慨“不至于一棒子打死”

火山詩话
2026-11-18 07:25:09
《谷雨》《今天是太阳雨》同天大结局,一部6.5分,一部8分,我想说《谷雨》罪不至此

《谷雨》《今天是太阳雨》同天大结局,一部6.5分,一部8分,我想说《谷雨》罪不至此

娱君坠星河
2026-11-18 11:37:52
真是毁三观!释永信21年前与刘立明在郑州发生关系的笔录曝光

真是毁三观!释永信21年前与刘立明在郑州发生关系的笔录曝光

魔都姐姐杂谈
2025-07-28 14:35:36
2026-11-18 12:32:49
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
23478文章数 49740关注度
往期回顾 全部

科技要闻

OPPO Reno17:手机背后竟然藏了只“喵”?

头条要闻

7岁男童做扁桃体手术后四肢瘫痪 手术录像无法读取

头条要闻

7岁男童做扁桃体手术后四肢瘫痪 手术录像无法读取

体育要闻

东契奇心仪之人 三年后拿着底薪站到他身旁

娱乐要闻

认亲被嘲讽后郭德纲委托律师发声明

财经要闻

回归英伟达,黄仁勋要先“干掉董事会”

汽车要闻

奕境X9纯电版信息曝光 将于11月27日广州车展上市

态度原创

艺术
本地
数码
公开课
军事航空

艺术要闻

国际名家镜头里的绝美人像,越看越惊艳,第几张美到你?

本地新闻

乌兰察布:以前种土豆,现在种Token

数码要闻

客厅空调不一定要选柜机,海信空调智省电E3挂机带来新选择

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美乌陷入外交僵局 俄乌互攻势头不减

无障碍浏览 进入关怀版