网易首页 > 网易号 > 正文 申请入驻

加州起诉OpenAI 指控智能体失控危害公众

0
分享至

IT时代网11月17日消息,美国加利福尼亚州总检察长办公室对 OpenAI 提起诉讼,指控该公司的训练做法与安全管控松懈,对公众构成持续风险。这是监管部门首次针对人工智能实验室的“失控智能体”事件提起诉讼。

案件的核心是 2026 年 7 月发生的 Hugging Face 入侵事件。当时 OpenAI 的一款预发布模型为完成一项训练基准测试,攻破了 OpenAI 与 Hugging Face 双方的安全系统。诉状还列举了涉及 RubyGems、德国网站、维基媒体基金会及澳大利亚政府网站的类似事件,作为此类行为仍在持续的证据。

诉状称,OpenAI 已向数十家第三方机构发出通知,告知其网站或内部系统曾被 OpenAI 的智能体入侵,部分情况下智能体接触到了包含姓名、出生日期、地址等内容的敏感个人信息,而绝大多数事件从未被公开披露。

具体指控方面,加州总检察长认为 OpenAI 持续的测试做法构成“公共妨害”,理由是缺乏安全控制带来持续风险;另一项诉求则指向其营销不安全产品构成不正当竞争。若诉讼成立,OpenAI 可能面临法院下达的禁令。

加州总检察长在声明中表示,OpenAI 在缺乏适当监督和安全流程的情况下测试危险产品,并向公众隐瞒相关情况。OpenAI 方面回应称,这起诉讼似乎是把所有主要人工智能实验室都已认识到的问题单独归咎于该公司,公司将就失控问题继续与总检察长办公室接触,推动全行业形成切实可行的安全标准。


编辑:林一舟

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
国足开场3分钟闪电丢球!巴林头球破门 刘建宏:队长刘洋没有看人

国足开场3分钟闪电丢球!巴林头球破门 刘建宏:队长刘洋没有看人

念洲
2026-11-17 20:09:28
国足噩梦开局!112秒闪电丢球,16年首被巴林破门,李昊挡不住

国足噩梦开局!112秒闪电丢球,16年首被巴林破门,李昊挡不住

奥拜尔
2026-11-17 20:09:17
中国股市大局已定:若一切正常,明年起,中国股市或迎来5大洗牌

中国股市大局已定:若一切正常,明年起,中国股市或迎来5大洗牌

星语者056
2026-11-17 08:46:25
知情人爆料黄仁勋又一丑闻:他曾要求员工品尝食堂新上的牛腩,没人能拒绝

知情人爆料黄仁勋又一丑闻:他曾要求员工品尝食堂新上的牛腩,没人能拒绝

小徐讲八卦
2026-11-17 14:19:10
“结婚22年两儿子均非亲生”,女方独家回应:我没出轨

“结婚22年两儿子均非亲生”,女方独家回应:我没出轨

中国新闻周刊
2026-11-17 20:47:24
突发!大反转!黄仁勋果然翻盘!

突发!大反转!黄仁勋果然翻盘!

财经要参
2026-11-17 15:20:05
财政不再兜底、大公交退市、老年卡取消,四部委文件真如此说了?

财政不再兜底、大公交退市、老年卡取消,四部委文件真如此说了?

云霄纪史观
2026-11-17 04:30:23
再见,曼城!2.2亿“超巨”将转投皇马!顶级射手“空降”加盟

再见,曼城!2.2亿“超巨”将转投皇马!顶级射手“空降”加盟

头狼追球
2026-11-17 16:53:03
再这么搞下去,中国烟草员工的内退潮或将无可避免

再这么搞下去,中国烟草员工的内退潮或将无可避免

别人都叫我阿腈
2026-11-17 04:40:56
克里米亚大桥被炸断了!!!

克里米亚大桥被炸断了!!!

西楼饮月
2026-11-17 16:41:46
特朗普:我认为黄仁勋案没有涉及“间谍”

特朗普:我认为黄仁勋案没有涉及“间谍”

看看新闻Knews
2026-11-17 09:34:14
贝林厄姆CK内裤广告炸裂全网!网友:他爸管他,哈哈哈

贝林厄姆CK内裤广告炸裂全网!网友:他爸管他,哈哈哈

品牌新
2026-11-17 09:17:26
大批新能源车通病集中爆发,车子开着没毛病,但是电池直接报废

大批新能源车通病集中爆发,车子开着没毛病,但是电池直接报废

云霄纪史观
2026-11-17 03:55:10
这两天,网友们在围观一个叫玉芬的记者

这两天,网友们在围观一个叫玉芬的记者

清晖有墨
2026-11-17 12:40:13
黄乐最新私密照爆出, 难怪黄仁勋把持不住!

黄乐最新私密照爆出, 难怪黄仁勋把持不住!

仕道
2026-11-17 11:11:01
中国女子在希腊失踪半年,警方在保险箱内发现10万现金和神秘十人名单,与其有关的中国房产中介失联,最后监控画面曝光

中国女子在希腊失踪半年,警方在保险箱内发现10万现金和神秘十人名单,与其有关的中国房产中介失联,最后监控画面曝光

台州交通广播
2026-11-17 01:10:51
10月失业率降到5.1%,就业大局稳住了

10月失业率降到5.1%,就业大局稳住了

贝壳财经
2026-11-17 09:40:03
莱昂纳多52岁庆生派对曝光,一车的妖娆女模到场,引发争议

莱昂纳多52岁庆生派对曝光,一车的妖娆女模到场,引发争议

译言
2026-11-17 08:31:18
车间用纺织机器吹头发拍视频走红,次日被开除,网友:太作死了

车间用纺织机器吹头发拍视频走红,次日被开除,网友:太作死了

秒懂资讯
2026-11-17 16:58:55
克里米亚大桥终于被炸断了!乌克兰人载歌载舞庆祝

克里米亚大桥终于被炸断了!乌克兰人载歌载舞庆祝

鹰眼Defence
2026-11-17 15:55:18
2026-11-17 21:27:00
IT时代网 incentive-icons
IT时代网
IT时代网官方账号
21985文章数 2164关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

媒体:高市将来华参加APEC会议 中方已把话说得很清楚

头条要闻

媒体:高市将来华参加APEC会议 中方已把话说得很清楚

体育要闻

我们三兄弟,都是意大利国脚

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

本地
教育
家居
健康
公开课

本地新闻

乌兰察布:以前种土豆,现在种Token

教育要闻

趣味数字拆分,暗藏关联,看懂规律轻松解

家居要闻

2026建博会(广州) 公装联探展交流活动

医生眼里"很伤腰"的椅子,很多人天天坐

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版