网易首页 > 网易号 > 正文 申请入驻

加州起诉OpenAI:指控其AI智能体至少80次失控并攻击外部平台

0
分享至

来源:环球网

【环球网科技综合报道】11月17日消息,据《卫报》报道称,加利福尼亚州对OpenAI提起诉讼,指控该公司在开发人工智能技术时忽视安全与公众利益。诉讼源于今年7月曝光的一起事件——OpenAI的一款自主AI代理失控,对开源人工智能平台Hugging Face发起了网络攻击。


加州总检察长罗布·邦塔(Rob Bonta)表示,这起“臭名昭著”的攻击只是目前已知的80起“失控”事件之一,表明OpenAI未能采取足够的安全措施来保护社会。

“虽然有关Hugging Face攻击的描述让人联想到失控的人工智能系统造成的科幻幻想,但我要明确,这起攻击是OpenAI内部文化的必然结果,这种文化优先考虑增长和快速模型开发,而不是安全和问责制。”邦塔在声明中说。

据悉,该诉讼已提交至旧金山州高等法院,诉状指控OpenAI违反加州不正当竞争法,并构成州法律定义的公共妨害。邦塔请求法院责令该公司改变商业行为,并支付民事罚款。

今年7月,OpenAI披露,其一款可代表用户执行数字操作的半自主AI代理在测试中失控,访问开放网络并入侵了Hugging Face网站。该公司当时称,这是一起前所未有的网络安全事件,涉及最先进的网络安全技术。此后OpenAI又曝出多起安全事件,Anthropic和谷歌等其他AI公司也相继披露其恶意代理的活动记录。

加州此次起诉并非孤立行动。邦塔于9月就Hugging Face事件对OpenAI展开正式调查,随后发出传票,要求该公司配合调查其他网络安全事件及其模型风险。与此同时,美国联邦贸易委员会(FTC)正在对OpenAI、Anthropic等AI实验室进行全行业调查,以查明相关技术对消费者数字安全构成的潜在威胁。

“这些风险不再是假设性的。如果没有足够的保障措施和控制措施,这种本已不可接受的风险的范围和频率只会增加。”邦塔警告称,AI代理有可能入侵电网、医疗机构和金融机构。

OpenAI发言人德鲁·普萨特里(Drew Pusateri)回应称,公司一直致力于为AI模型建立安全保障机制,并主动识别和披露“偏差”事件,已发现的大多数案例严重程度较低,影响有限甚至没有影响。

“自Hugging Face事件以来,我们已开展了广泛而透明的工作,以了解和解决模型活动不一致的问题。”普萨特里表示,这起诉讼似乎针对的是OpenAI,而这个问题已被所有主要AI实验室都指出。(青云)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
他们连李子柒都开始污名了

他们连李子柒都开始污名了

人格志
2026-11-21 23:58:10
随着科莫2-0,拉齐奥3-0,意甲最新积分榜出炉

随着科莫2-0,拉齐奥3-0,意甲最新积分榜出炉

侧身凌空斩
2026-11-21 23:59:32
今夜,AI科技还在暴跌

今夜,AI科技还在暴跌

中国基金报
2026-11-21 01:24:04
王晶曾坦白陈百强自杀原因,真相瞠目结舌,原来我们都被骗了

王晶曾坦白陈百强自杀原因,真相瞠目结舌,原来我们都被骗了

琴琴有氧运动
2026-11-21 23:44:35
高市早苗在APEC会议期间就有关台湾问题表态,钧正平:若日方如表态所言恪守《中日联合声明》,就该拿出实实在在的诚意,公开收回错误言论

高市早苗在APEC会议期间就有关台湾问题表态,钧正平:若日方如表态所言恪守《中日联合声明》,就该拿出实实在在的诚意,公开收回错误言论

都市快报橙柿互动
2026-11-21 09:26:12
大爆冷!广东轰然出局!单节崩盘仅8分,全队就1人能打,真没人了

大爆冷!广东轰然出局!单节崩盘仅8分,全队就1人能打,真没人了

吴蛛旅行ing
2026-11-21 22:45:21
“A10后备厢装几箱啤酒就被压露底”,零跑汽车回应:系物品超过设计承重上限所致,已与用户沟通并获得理解,后续将优化用车指引

“A10后备厢装几箱啤酒就被压露底”,零跑汽车回应:系物品超过设计承重上限所致,已与用户沟通并获得理解,后续将优化用车指引

政知新媒体
2026-11-21 09:48:46
就在今天,东契奇带队联盟第一,又达成80年NBA历史第一纪录

就在今天,东契奇带队联盟第一,又达成80年NBA历史第一纪录

大西体育
2026-11-21 14:50:22
不出意外的话!2027年1月1日起,5大涨价潮可能杀到,快提前了解

不出意外的话!2027年1月1日起,5大涨价潮可能杀到,快提前了解

一曲一场談
2026-11-21 11:59:52
中国第二轮“严打”来了,这次查的更严,一旦查到谁都跑不了!

中国第二轮“严打”来了,这次查的更严,一旦查到谁都跑不了!

职场资深秘书
2026-11-21 12:48:52
上海无缘CBA杯16强创最大冷门!拉塞尔三战45投16中硬解能力拉胯

上海无缘CBA杯16强创最大冷门!拉塞尔三战45投16中硬解能力拉胯

狼叔评论
2026-11-21 23:36:07
皇马VS塞尔塔:法国双星坐镇中场,贝林+居莱尔领衔,姆皇冲锋

皇马VS塞尔塔:法国双星坐镇中场,贝林+居莱尔领衔,姆皇冲锋

零度眼看球
2026-11-21 07:07:04
曾作为赖昌星送出“礼物”并为海关关长生子的她,案发后赴美隐姓埋名,如今59岁、其29岁儿子却连婚都不敢结,这背后留下怎样的追问?

曾作为赖昌星送出“礼物”并为海关关长生子的她,案发后赴美隐姓埋名,如今59岁、其29岁儿子却连婚都不敢结,这背后留下怎样的追问?

人生录
2026-11-19 08:08:31
CBA最新消息!上海男篮或裁掉拉塞尔,浙江广厦留用威尔斯

CBA最新消息!上海男篮或裁掉拉塞尔,浙江广厦留用威尔斯

体坛瞎白话
2026-11-21 11:08:02
《GTA 6》主角能全裸吗?IGN实测给出答案

《GTA 6》主角能全裸吗?IGN实测给出答案

游民星空
2026-11-21 08:29:25
牛市的启动和终结

牛市的启动和终结

谭谈投研
2026-11-21 23:30:48
终于不准跌了?中央部委明确!明后两年,除了买房,你可能无选择

终于不准跌了?中央部委明确!明后两年,除了买房,你可能无选择

混沌录
2026-11-20 10:25:16
2019年张扣扣被执行死刑当天,记者采访王家仅剩的二儿子王富军,他说出心里话,让在场所有人瞬间沉默!

2019年张扣扣被执行死刑当天,记者采访王家仅剩的二儿子王富军,他说出心里话,让在场所有人瞬间沉默!

磊子讲史
2026-11-21 19:13:40
河北三兄弟,200块起家,干成了全球第一

河北三兄弟,200块起家,干成了全球第一

蒋东文
2026-11-20 22:15:05
这种茶已被列为2A类致癌物,喝茶的人注意了

这种茶已被列为2A类致癌物,喝茶的人注意了

乔志峰
2026-11-19 14:57:43
2026-11-22 00:32:49
环球网资讯 incentive-icons
环球网资讯
环球网,了解世界,融入世界
1463888文章数 2741367关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

教育
手机
旅游
健康
数码

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

旅游要闻

广西南宁:冬日繁花似锦

医生眼里"很伤腰"的椅子,很多人天天坐

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

无障碍浏览 进入关怀版