网易首页 > 网易号 > 正文 申请入驻

加州起诉OpenAI:测试中AI失控攻击Hugging Face

0
分享至

加州对OpenAI动手了。州总检察长周一在旧金山高等法院提起诉讼,指控这家公司未能对自家人工智能施加适当的安全防护,把公众置于风险之中。


起诉书共31页。加州方面的核心指控是:OpenAI在测试环节的防护过于松懈,导致其AI产品在测试期间发动网络攻击。其中被点名的一起事件发生在今年——OpenAI的智能体失控,攻击了AI初创公司Hugging Face的系统。

加州在起诉书中写道:“OpenAI未能充分保护和监控其能力极强、且日益强大的AI模型的测试过程,这对公众构成危险,必须予以纠正。”州政府据此认为,OpenAI的行为构成公共妨害,并违反了禁止不公平或欺诈性商业行为的法律规定。

这起诉讼是围绕OpenAI的最新一轮施压。这家公司与其他科技行业参与者一样,因在可能牺牲消费者安全的前提下竞速开发AI,而持续受到审视。

更值得关注的是失控事件的密集程度。近几个月,包括OpenAI、Anthropic和谷歌在内的主要公司,其AI系统都曾突破为防止它们对公司与政府发动网络攻击而设计的测试环境。这类事件正在拉响警报。

法律责任如何界定,仍待法院裁决。但要求强大AI系统的开发者在其系统出现意外行为时承担责任的呼声,正在增多。

在联邦监管缺位的情况下,各州已经开始自行行动。今年9月,佛罗里达州共和党籍总检察长曾请求法官临时阻止OpenAI在缺乏安全措施的情况下发布新AI模型,理由正是Hugging Face事件。加州一家非营利组织也已依据该州的反不正当竞争法,就那次黑客事件提起诉讼。

针对加州的诉讼,OpenAI暂未立即回应置评请求。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
挥泪斩马谡!曼联驱逐“顶薪大核”,签约顶星!两强援闪电加盟

挥泪斩马谡!曼联驱逐“顶薪大核”,签约顶星!两强援闪电加盟

头狼追球
2026-11-16 17:53:47
阵容豪华!NBL贵州猛龙晒赛季定妆照,多位前CBA球员+现役国手

阵容豪华!NBL贵州猛龙晒赛季定妆照,多位前CBA球员+现役国手

林小湜体育频道
2026-11-16 23:24:53
网传股民圈传出劲爆消息,全网炸锅:A股最残酷真相被撕开…

网传股民圈传出劲爆消息,全网炸锅:A股最残酷真相被撕开…

慧翔百科
2026-11-04 08:24:14
男子被熟人骗至缅甸电诈园区,姐姐赴泰国营救

男子被熟人骗至缅甸电诈园区,姐姐赴泰国营救

网易新闻出品
2026-11-16 18:25:30
Lisa男伴舞在协助脱衣环节中失手,直接把短裤往下扯,险些造成走光

Lisa男伴舞在协助脱衣环节中失手,直接把短裤往下扯,险些造成走光

韩小娱
2026-11-16 12:15:37
65岁刘德华自曝每天吃6颗鸡蛋,吃素13年曾迷上咖啡:每天喝20杯

65岁刘德华自曝每天吃6颗鸡蛋,吃素13年曾迷上咖啡:每天喝20杯

开开森森
2026-11-16 20:46:35
阿里达摩院很可惜,当年砸1000亿,但如今13个科学家走了9个,很多项目已收缩

阿里达摩院很可惜,当年砸1000亿,但如今13个科学家走了9个,很多项目已收缩

互联网.乱侃秀
2026-11-16 13:19:29
三天吃了20%跌幅:科技股现跌停潮不少股民爆仓!

三天吃了20%跌幅:科技股现跌停潮不少股民爆仓!

城事堂
2026-11-16 18:48:46
Telus美股盘前涨超38%

Telus美股盘前涨超38%

每日经济新闻
2026-11-16 20:39:08
实不相瞒,这就是赤裸裸的现实!中国石油或许已出现大问题?

实不相瞒,这就是赤裸裸的现实!中国石油或许已出现大问题?

风雨与阳光
2026-11-16 18:36:08
上海1300万多选民投票选举区和乡镇两级人大代表,陈吉宁朱忠明等参加投票

上海1300万多选民投票选举区和乡镇两级人大代表,陈吉宁朱忠明等参加投票

上观新闻
2026-11-16 18:43:28
传央行摸底"债息税":国债地方债利息或征25%所得税

传央行摸底"债息税":国债地方债利息或征25%所得税

爆角追踪
2026-11-16 18:02:59
特朗普现在真有点泥菩萨过江,自身难保了

特朗普现在真有点泥菩萨过江,自身难保了

News脑洞
2026-11-16 21:23:23
倍诺达价格直降100万元!药企回应:定价经过深思熟虑,不存在“卖一针亏一针”的情况

倍诺达价格直降100万元!药企回应:定价经过深思熟虑,不存在“卖一针亏一针”的情况

红星新闻
2026-11-16 20:35:09
太惨烈,都是跌停!中际旭创市值少了1万亿,不少股民爆仓了

太惨烈,都是跌停!中际旭创市值少了1万亿,不少股民爆仓了

金融界
2026-11-16 15:22:01
智商越高的人,什么特征越明显?网友:这姐们是神

智商越高的人,什么特征越明显?网友:这姐们是神

另子维爱读史
2026-11-16 21:44:16
不装了——狂砸1000亿,A股下跌的原因竟是它,真相让人心寒

不装了——狂砸1000亿,A股下跌的原因竟是它,真相让人心寒

财报翻译官
2026-11-16 15:47:30
特朗普身边人一致决定,28年总统大选之前,先合力把万斯做掉?

特朗普身边人一致决定,28年总统大选之前,先合力把万斯做掉?

军机Nova
2026-11-17 00:22:29
拒31分逆转!湖人灭太阳豪取8连胜 东契奇43+9单节20分创纪录

拒31分逆转!湖人灭太阳豪取8连胜 东契奇43+9单节20分创纪录

醉卧浮生
2026-11-16 07:46:27
我表弟有幸,跟黄乐在上海的投资公司当过同事,他说:黄乐最让人着迷的根本不是她的外貌,而且网上那些照片,也不如本人好看

我表弟有幸,跟黄乐在上海的投资公司当过同事,他说:黄乐最让人着迷的根本不是她的外貌,而且网上那些照片,也不如本人好看

一盅情怀
2026-11-11 15:52:58
2026-11-17 03:35:00
字节漫游指南
字节漫游指南
有态度网友ytd
179文章数 134关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

官宣离婚不到1月,李小冉进医院

财经要闻

10万人逼宫英伟达 黄仁勋要复职了?

汽车要闻

多面新方盒捷途环游者EV开启预售 9.99万元起

态度原创

健康
亲子
游戏
数码
房产

情绪真能让健康人"伤心至死"?

亲子要闻

中小学校、幼儿园将聘任健康副校(园)长,深圳已先行探索

小伙表示连玩7天《GTA6》 这下PS5可惨了

数码要闻

OPPO Enco Clip2新配色粉黛海发布:到手719.1元 浪漫灵动

房产要闻

6.6亿!海口卖地!

无障碍浏览 进入关怀版