网易首页 > 网易号 > 正文 申请入驻

加州起诉OpenAI:指控AI智能体失控引发网络安全事件

0
分享至

凤凰网科技讯 北京时间11月17日消息,加利福尼亚州总检察长罗布·邦塔当地时间11月16日宣布,已在旧金山高等法院起诉OpenAI,指控其在缺乏必要安全防护与监控的情况下开发、测试先进人工智能模型,误导并危害公众。加州总检察长办公室新闻稿称,诉讼指向OpenAI模型失控引发的网络安全事件,主张其行为构成公共妨害并违反加州《不正当竞争法》,诉状共31页。


官方新闻稿称,2026年7月,运行在OpenAI实验版模型上的智能体通过公共互联网攻击开源AI托管平台Hugging Face,攻击持续两天多,涉及数百个本应被限制在OpenAI研究环境中的自主AI智能体。邦塔表示,这只是"至少80起"网络安全事件之一;OpenAI已向总检察长办公室承认,测试中至少80次失去对自主智能体的控制,但未能提供办公室要求评估这些事件的详细信息。

据官方新闻稿,OpenAI近十年来多次警告AI驱动网络攻击的风险,并反复向公众保证在开发和测试中采取了适当防护;官方指其未遵守自身内部政策,在无足够监督的情况下推进测试。被攻击对象还包括存储代码的数据库、信息网站、存有敏感健康信息的政府数据库,以及OpenAI自身内部基础设施。

邦塔在声明中说:"法律很简单:没有适当的安全防护,就不要做可能伤害人的事。"OpenAI发言人德鲁·普萨特里(Drew Pusateri)回应称,这起诉讼"似乎单单挑出OpenAI,而这实际上是每一家主要AI实验室都已发现的共同挑战",公司已就模型失调问题与总检察长办公室保持建设性沟通。(编辑/穷奇)

本文源自:凤凰网科技

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
国足开场3分钟闪电丢球!巴林头球破门 刘建宏:队长刘洋没有看人

国足开场3分钟闪电丢球!巴林头球破门 刘建宏:队长刘洋没有看人

念洲
2026-11-17 20:09:28
国足噩梦开局!112秒闪电丢球,16年首被巴林破门,李昊挡不住

国足噩梦开局!112秒闪电丢球,16年首被巴林破门,李昊挡不住

奥拜尔
2026-11-17 20:09:17
中国股市大局已定:若一切正常,明年起,中国股市或迎来5大洗牌

中国股市大局已定:若一切正常,明年起,中国股市或迎来5大洗牌

星语者056
2026-11-17 08:46:25
知情人爆料黄仁勋又一丑闻:他曾要求员工品尝食堂新上的牛腩,没人能拒绝

知情人爆料黄仁勋又一丑闻:他曾要求员工品尝食堂新上的牛腩,没人能拒绝

小徐讲八卦
2026-11-17 14:19:10
“结婚22年两儿子均非亲生”,女方独家回应:我没出轨

“结婚22年两儿子均非亲生”,女方独家回应:我没出轨

中国新闻周刊
2026-11-17 20:47:24
突发!大反转!黄仁勋果然翻盘!

突发!大反转!黄仁勋果然翻盘!

财经要参
2026-11-17 15:20:05
财政不再兜底、大公交退市、老年卡取消,四部委文件真如此说了?

财政不再兜底、大公交退市、老年卡取消,四部委文件真如此说了?

云霄纪史观
2026-11-17 04:30:23
再见,曼城!2.2亿“超巨”将转投皇马!顶级射手“空降”加盟

再见,曼城!2.2亿“超巨”将转投皇马!顶级射手“空降”加盟

头狼追球
2026-11-17 16:53:03
再这么搞下去,中国烟草员工的内退潮或将无可避免

再这么搞下去,中国烟草员工的内退潮或将无可避免

别人都叫我阿腈
2026-11-17 04:40:56
克里米亚大桥被炸断了!!!

克里米亚大桥被炸断了!!!

西楼饮月
2026-11-17 16:41:46
特朗普:我认为黄仁勋案没有涉及“间谍”

特朗普:我认为黄仁勋案没有涉及“间谍”

看看新闻Knews
2026-11-17 09:34:14
贝林厄姆CK内裤广告炸裂全网!网友:他爸管他,哈哈哈

贝林厄姆CK内裤广告炸裂全网!网友:他爸管他,哈哈哈

品牌新
2026-11-17 09:17:26
大批新能源车通病集中爆发,车子开着没毛病,但是电池直接报废

大批新能源车通病集中爆发,车子开着没毛病,但是电池直接报废

云霄纪史观
2026-11-17 03:55:10
这两天,网友们在围观一个叫玉芬的记者

这两天,网友们在围观一个叫玉芬的记者

清晖有墨
2026-11-17 12:40:13
黄乐最新私密照爆出, 难怪黄仁勋把持不住!

黄乐最新私密照爆出, 难怪黄仁勋把持不住!

仕道
2026-11-17 11:11:01
中国女子在希腊失踪半年,警方在保险箱内发现10万现金和神秘十人名单,与其有关的中国房产中介失联,最后监控画面曝光

中国女子在希腊失踪半年,警方在保险箱内发现10万现金和神秘十人名单,与其有关的中国房产中介失联,最后监控画面曝光

台州交通广播
2026-11-17 01:10:51
10月失业率降到5.1%,就业大局稳住了

10月失业率降到5.1%,就业大局稳住了

贝壳财经
2026-11-17 09:40:03
莱昂纳多52岁庆生派对曝光,一车的妖娆女模到场,引发争议

莱昂纳多52岁庆生派对曝光,一车的妖娆女模到场,引发争议

译言
2026-11-17 08:31:18
车间用纺织机器吹头发拍视频走红,次日被开除,网友:太作死了

车间用纺织机器吹头发拍视频走红,次日被开除,网友:太作死了

秒懂资讯
2026-11-17 16:58:55
克里米亚大桥终于被炸断了!乌克兰人载歌载舞庆祝

克里米亚大桥终于被炸断了!乌克兰人载歌载舞庆祝

鹰眼Defence
2026-11-17 15:55:18
2026-11-17 21:27:00
金融界 incentive-icons
金融界
投资者信赖的财经金融门户网站
10258025文章数 547248关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

媒体:高市将来华参加APEC会议 中方已把话说得很清楚

头条要闻

媒体:高市将来华参加APEC会议 中方已把话说得很清楚

体育要闻

我们三兄弟,都是意大利国脚

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

教育
本地
数码
旅游
房产

教育要闻

趣味数字拆分,暗藏关联,看懂规律轻松解

本地新闻

乌兰察布:以前种土豆,现在种Token

数码要闻

AOC“Q27P4C”27英寸显示器发售:2K 120Hz +双扬声器,1499元

旅游要闻

期待值拉满!北京将上新这些博物馆

房产要闻

5381亩之后,三亚绿谷,等一个500强!

无障碍浏览 进入关怀版