网易首页 > 网易号 > 正文 申请入驻

加州起诉OpenAI:指控其AI智能体至少...

0
分享至

来源:市场资讯

(来源:环球网资讯)

来源:环球网

【环球网科技综合报道】11月17日消息,据《卫报》报道称,加利福尼亚州对OpenAI提起诉讼,指控该公司在开发人工智能技术时忽视安全与公众利益。诉讼源于今年7月曝光的一起事件——OpenAI的一款自主AI代理失控,对开源人工智能平台Hugging Face发起了网络攻击。


加州总检察长罗布·邦塔(Rob Bonta)表示,这起“臭名昭著”的攻击只是目前已知的80起“失控”事件之一,表明OpenAI未能采取足够的安全措施来保护社会。

“虽然有关Hugging Face攻击的描述让人联想到失控的人工智能系统造成的科幻幻想,但我要明确,这起攻击是OpenAI内部文化的必然结果,这种文化优先考虑增长和快速模型开发,而不是安全和问责制。”邦塔在声明中说。

据悉,该诉讼已提交至旧金山州高等法院,诉状指控OpenAI违反加州不正当竞争法,并构成州法律定义的公共妨害。邦塔请求法院责令该公司改变商业行为,并支付民事罚款。

今年7月,OpenAI披露,其一款可代表用户执行数字操作的半自主AI代理在测试中失控,访问开放网络并入侵了Hugging Face网站。该公司当时称,这是一起前所未有的网络安全事件,涉及最先进的网络安全技术。此后OpenAI又曝出多起安全事件,Anthropic和谷歌等其他AI公司也相继披露其恶意代理的活动记录。

加州此次起诉并非孤立行动。邦塔于9月就Hugging Face事件对OpenAI展开正式调查,随后发出传票,要求该公司配合调查其他网络安全事件及其模型风险。与此同时,美国联邦贸易委员会(FTC)正在对OpenAI、Anthropic等AI实验室进行全行业调查,以查明相关技术对消费者数字安全构成的潜在威胁。

“这些风险不再是假设性的。如果没有足够的保障措施和控制措施,这种本已不可接受的风险的范围和频率只会增加。”邦塔警告称,AI代理有可能入侵电网、医疗机构和金融机构。

OpenAI发言人德鲁·普萨特里(Drew Pusateri)回应称,公司一直致力于为AI模型建立安全保障机制,并主动识别和披露“偏差”事件,已发现的大多数案例严重程度较低,影响有限甚至没有影响。

“自Hugging Face事件以来,我们已开展了广泛而透明的工作,以了解和解决模型活动不一致的问题。”普萨特里表示,这起诉讼似乎针对的是OpenAI,而这个问题已被所有主要AI实验室都指出。(青云)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
这是中国最不要脸的一个群体,无耻之极,世所罕见!

这是中国最不要脸的一个群体,无耻之极,世所罕见!

晓楖科普
2026-11-11 13:09:39
霍啟山未婚妻娜然起底 173cm俄蒙混血名模曾出演周杰倫MV女主

霍啟山未婚妻娜然起底 173cm俄蒙混血名模曾出演周杰倫MV女主

粤睇先生
2026-11-14 20:43:59
发现一个规律:要是长期不祭祖的家庭,过个十年八年,会有变化

发现一个规律:要是长期不祭祖的家庭,过个十年八年,会有变化

云居历史
2026-11-17 03:47:34
于月仙车祸去世5年,丈夫张学松披露关键细节:同车4人只她没回来,骆驼整个砸在车顶

于月仙车祸去世5年,丈夫张学松披露关键细节:同车4人只她没回来,骆驼整个砸在车顶

唠叨说历史
2026-11-16 15:37:18
万众期盼2026年退休人员养老金,究竟涨不涨?居民养老金有好消息

万众期盼2026年退休人员养老金,究竟涨不涨?居民养老金有好消息

社保小达人
2026-11-17 10:08:38
天呐!全球资本抄底中国房地产,不出意外,现在一线城市房价全线下跌!

天呐!全球资本抄底中国房地产,不出意外,现在一线城市房价全线下跌!

新国学文化
2026-11-17 11:27:15
11月16日俄乌最新:有明确证据,纵火令来自俄军情机构?

11月16日俄乌最新:有明确证据,纵火令来自俄军情机构?

西楼饮月
2026-11-16 21:43:00
厉娜的瓜太炸裂了!2018年,她和经纪人在外面放贷,厉娜出了780万,经纪人出了1030万,一共1810万借给陈某,利息高达36%!

厉娜的瓜太炸裂了!2018年,她和经纪人在外面放贷,厉娜出了780万,经纪人出了1030万,一共1810万借给陈某,利息高达36%!

静若梨花
2026-11-16 22:23:40
将黄乐送给黄仁勋的正是其丈夫本人

将黄乐送给黄仁勋的正是其丈夫本人

辇毂
2026-11-12 21:53:52
乌克兰即将迎来重要人物

乌克兰即将迎来重要人物

容得益
2026-11-17 14:09:33
俄外交部发言人回应“英国前首相约翰逊访俄时被强迫喝伏特加” :是他自己要喝的,还不停要求再续杯

俄外交部发言人回应“英国前首相约翰逊访俄时被强迫喝伏特加” :是他自己要喝的,还不停要求再续杯

每日经济新闻
2026-11-17 00:27:39
陆毅说:“如果我女儿的男朋友很上进,但家境一般,我会棒打鸳鸯。因为我觉得门当户对很重要,而且婚姻要得到双方父母的祝福,才会幸福”

陆毅说:“如果我女儿的男朋友很上进,但家境一般,我会棒打鸳鸯。因为我觉得门当户对很重要,而且婚姻要得到双方父母的祝福,才会幸福”

背包旅行
2026-11-16 09:55:48
考不上北大就穿在身上,北大399元羽绒服火出圈,卖断货“一衣难求”

考不上北大就穿在身上,北大399元羽绒服火出圈,卖断货“一衣难求”

小鱼儿会飞了
2026-11-17 07:27:16
意媒:克雷莫内塞球衣赞助收入5450万欧,超过米兰、国米

意媒:克雷莫内塞球衣赞助收入5450万欧,超过米兰、国米

懂球帝
2026-11-17 04:37:00
1964 年,阿尔巴尼亚作为国礼送来万株油橄榄苗,全国 12 个试点试种失败,唯独根本不在试点名单中的陇南,50年后干出百亿产值的林业经济

1964 年,阿尔巴尼亚作为国礼送来万株油橄榄苗,全国 12 个试点试种失败,唯独根本不在试点名单中的陇南,50年后干出百亿产值的林业经济

磊子讲史
2026-11-16 17:05:52
安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

回京历史梦
2026-11-05 00:00:04
中方两小时“送客令”:高市早苗不收回那句话,日本连装糊涂的资格都没有

中方两小时“送客令”:高市早苗不收回那句话,日本连装糊涂的资格都没有

浯江孤舟
2026-08-31 10:07:56
又一场泡沫崩溃即将到来?

又一场泡沫崩溃即将到来?

边际财经实验室
2026-11-17 08:47:20
股债金币同步大跌,金融风暴真的要来了?

股债金币同步大跌,金融风暴真的要来了?

枫冷慕诗
2026-11-17 11:42:19
玲花:我这辈子最正确的决定,就是当年穷得叮当响,也没踢掉曾毅

玲花:我这辈子最正确的决定,就是当年穷得叮当响,也没踢掉曾毅

飘飘然的娱乐汇
2026-11-17 13:05:04
2026-11-17 15:23:00
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5512325文章数 10020关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

顾军被公诉 通报批其大肆收钱敛财、搞权色交易

头条要闻

顾军被公诉 通报批其大肆收钱敛财、搞权色交易

体育要闻

从上链接到上领奖台 34岁方博绝非等闲之辈

娱乐要闻

后会友期大瓜:3位女演员被迫换车厢

财经要闻

财政部:中加双方同意探索扩大双边贸易

汽车要闻

多面新方盒捷途环游者EV开启预售 9.99万元起

态度原创

本地
教育
艺术
房产
手机

本地新闻

乌兰察布:以前种土豆,现在种Token

教育要闻

draft你只当成“草稿”,高考却用它考“被征召”

艺术要闻

缅怀 | 当代著名油画家尹国良逝世,享年95岁

房产要闻

5381亩之后,三亚绿谷,等一个500强!

手机要闻

华为麒麟9050显示技术揭秘!普通视频也能变全彩:画质、防窥双升级

无障碍浏览 进入关怀版