网易首页 > 网易号 > 正文 申请入驻

美国加州正式起诉OpenAI,指控其模型测试疏于管控、危害公共安全

美国加州正式起诉OpenAI

0
分享至

加州总检察长对OpenAI提起诉讼,指控其在AI模型测试中疏于管控、危害公共安全,此案将成为美国AI监管领域的标志性法律行动。

11月16日周一,美国加州总检察长Rob Bonta在旧金山高等法院对OpenAI提起诉讼,指控该公司违反加州《不公平竞争法》,并构成州法律定义下的公共妨害行为。

Bonta在新闻发布会上援引今年7月的一起事件称,OpenAI两款AI模型突破测试环境限制,擅自接入公共互联网,并入侵开源开发者平台Hugging Face的内部系统。

更令监管方担忧的是,OpenAI向调查人员披露,公司此前已知悉80起"涉及失控及未授权访问第三方网络和网站"的事件,但拒绝提供调查人员所需的详细信息。

这一系列披露对OpenAI产生直接冲击。该公司正处于谋求上市的关键节点,其已于今年6月向美国证券交易委员会秘密提交招股说明书,市场预计最早于2027年完成IPO。

监管层面的压力叠加持续累积的法律诉讼,或对其市值预期和上市进程形成制约。

法律压力持续累积,上市前景添变数

此次诉讼是OpenAI日益扩大的法律困境的最新一章。

今年6月,佛罗里达州总检察长James Uthmeier已对OpenAI及其CEO Sam Altman提起诉讼,指控该公司明知产品存在安全风险仍予以发布。

此外,OpenAI还面临多起诉讼,指控其ChatGPT平台导致用户产生有害妄想,甚至在部分案例中与用户自杀事件存在关联。

加州此番诉讼提供了可供参照的先例:就在约三个月前,Bonta联合多州总检察长对Meta提起的诉讼以Meta同意支付167亿美元和解金告终,加州预计从中获得15亿至21亿美元。

在立法层面,国会目前已收到一项综合性AI安全法案,但尚未通过。OpenAI、Anthropic等AI公司及AI批评人士均已在Hugging Face入侵事件后呼吁推动相关立法。

Bonta表示,他认可AI的技术潜力,相信其"能够实现科学突破、促进经济增长、防范网络攻击",但强调"开发这些模型的公司在道义上,乃至法律上,都有责任将公共安全置于首位"。

失控事件成导火索,80起安全记录遭隐瞒

今年7月发生的Hugging Face入侵事件是本次诉讼的核心事实依据。

据Bonta介绍,OpenAI的AI模型在测试过程中主动寻找可用于"作弊"的信息,并成功突破测试平台边界,获取未经授权的互联网访问权限,最终入侵Hugging Face系统。

该事件在业内引发强烈震动,促使政界人士呼吁对AI行业实施更严格监管。而更大的隐患在于,OpenAI向加州调查人员承认,公司此前已记录80起类似的失控事件,但未主动向监管方披露,也未配合提供详细信息供评估。

Bonta表示:

公司未能提供我们要求的详细信息以评估这些事件,这令人担忧,并将公众置于风险之中。

他指控OpenAI"无视公共安全,在明知情况下于缺乏适当监督和安全措施的条件下测试可能存在危险的AI模型,并误导消费者和公众"。

OpenAI:已采取整改措施,问题系行业共性

针对诉讼,OpenAI发言人Drew Pusateri发表声明,表示公司自Hugging Face事件以来已采取一系列透明整改措施,包括发布详细技术报告、委托并公布独立第三方报告、通知受影响机构、强化研究系统安全防护,并建立了针对模型"不一致行为"的识别和披露框架。

Pusateri同时对诉讼的针对性提出异议,称"这起诉讼似乎将OpenAI单独列为目标,而这一挑战已被每一家主要AI实验室所识别"。

他表示,OpenAI认真对待模型对齐问题,已与总检察长办公室进行建设性沟通,并将继续合作推动"整个行业切实可行的安全标准"。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
爽了!火箭轰动NBA!恶棍状元或联手杜兰特

爽了!火箭轰动NBA!恶棍状元或联手杜兰特

篮球实战宝典
2026-11-20 18:47:13
高市早苗在深圳就台湾问题表态,外交部最新回应:日方在台湾问题上尽快纠正错误言行

高市早苗在深圳就台湾问题表态,外交部最新回应:日方在台湾问题上尽快纠正错误言行

每日经济新闻
2026-11-20 17:08:48
它是“菜中人参”,冬天遇到别手软,买10斤囤着,随吃随取特省事

它是“菜中人参”,冬天遇到别手软,买10斤囤着,随吃随取特省事

阿龙美食记
2026-11-19 11:00:12
天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

情感大头说说
2026-11-20 04:49:19
中国股市失控信号亮起:这次可能真的不是玩笑

中国股市失控信号亮起:这次可能真的不是玩笑

星语者056
2026-11-20 08:56:23
75岁张纪中的妻子回应会不会改嫁,称“我老公再活30年,我75岁了,嫁给谁呀”

75岁张纪中的妻子回应会不会改嫁,称“我老公再活30年,我75岁了,嫁给谁呀”

韩小娱
2026-11-20 16:45:15
流动性危机来了

流动性危机来了

曹多鱼的财经世界
2026-11-20 11:54:49
胖东来新乡门店因涨租金搬离11年,市民称原址所开新商场几乎倒闭,仅剩一楼几家手机店还在营业,商场客服热线已成空号

胖东来新乡门店因涨租金搬离11年,市民称原址所开新商场几乎倒闭,仅剩一楼几家手机店还在营业,商场客服热线已成空号

极目新闻
2026-11-20 15:34:45
为什么国家越来越强,我们的日子却越来越紧

为什么国家越来越强,我们的日子却越来越紧

小禾的半糖生活
2026-11-18 13:20:03
武汉95后小伙子承父业收废品,买到一架客机,拆解视频意外爆火,本人回应:把童年顺口溜干成了现实

武汉95后小伙子承父业收废品,买到一架客机,拆解视频意外爆火,本人回应:把童年顺口溜干成了现实

极目新闻
2026-11-20 15:01:38
高市早苗飞离中国,中方铺红毯、礼仗队送别,日本认为“中方失礼”,根本站不住脚

高市早苗飞离中国,中方铺红毯、礼仗队送别,日本认为“中方失礼”,根本站不住脚

蓝星杂谈
2026-11-20 13:04:01
尾盘,A股突变,爆天量了!

尾盘,A股突变,爆天量了!

中国基金报
2026-11-20 15:53:51
刚刚,英伟达收到传票!

刚刚,英伟达收到传票!

EETOP半导体社区
2026-11-20 13:41:07
王刚红点套餐!门线故意手球,VAR介入改判,国安全队暴怒

王刚红点套餐!门线故意手球,VAR介入改判,国安全队暴怒

奥拜尔
2026-11-20 20:13:09
斯坦丘发文感谢大连英博球迷:希望你们能理解并尊重我的决定

斯坦丘发文感谢大连英博球迷:希望你们能理解并尊重我的决定

懂球帝
2026-11-20 20:36:29
高市见了普京

高市见了普京

周边问题研究所
2026-11-20 13:12:01
贺希宁回应前交叉韧带断裂赛季报销:会好好配合治疗 努力养伤回归

贺希宁回应前交叉韧带断裂赛季报销:会好好配合治疗 努力养伤回归

醉卧浮生
2026-11-20 13:23:04
高市早苗APEC独坐角落扇扇子,引日本网民群嘲:是去丢人现眼的吗?

高市早苗APEC独坐角落扇扇子,引日本网民群嘲:是去丢人现眼的吗?

可达鸭面面观
2026-11-20 08:41:45
深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

江山挥笔
2026-11-19 14:15:33
越来越多孩子自杀  多地高中严格执行周末双休

越来越多孩子自杀 多地高中严格执行周末双休

风向观察
2026-11-20 07:40:00
2026-11-20 21:20:49
华尔街见闻官方 incentive-icons
华尔街见闻官方
中国领先的金融商业信息提供商
155296文章数 2655537关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

手机
数码
艺术
公开课
军事航空

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版