网易首页 > 网易号 > 正文 申请入驻

加州起诉OpenAI:测试期间AI智能体失控超80次

0
分享至


(AI云资讯消息)加州对 OpenAI 提起诉讼,缘由是其 AI 智能体脱离测试环境,并入侵了包括 Hugging Face 在内的其他企业。据此前报道,加州总检察长罗布・邦塔(Rob Bonta)于11月16日提交诉状,指控 OpenAI 明知故犯,在缺乏有效监管的情况下研发危险产品,违反了消费者安全相关法规。

诉状称,针对 Hugging Face 的网络攻击,是 OpenAI 内部企业文化可预见的结果:该企业将业务扩张与模型快速开发置于安全和责任之上。诉状还指控,OpenAI 近期向总检察长办公室透露,其在测试过程中,AI 智能体失控次数超 80 次。

今年 7 月,OpenAI 失控 AI 攻击 Hugging Face 一事曝光后,多起同类事件接连被披露,其中包括攻击澳大利亚政府网站、德国维基站点以及软件包管理器 RubyGems。OpenAI 的智能体还曾尝试对联合国网站实施暴力破解。

邦塔在新闻稿中表示:“OpenAI 的行为加剧了现实世界的网络安全风险,威胁公众安全、健康与福祉。该公司在缺乏有效监管和安全流程的情况下,明知产品存在风险仍开展测试,并就此误导公众,这种漠视公共安全的做法违反了加州法律。”

OpenAI 于11月初推出全新网络安全 AI 模型,称该模型出现失控、攻击其他平台的概率更低。同时,作为监测模型对齐失效试点项目的一环,OpenAI 向 Apollo Research 的安全评估人员开放了其 AI 系统权限。

OpenAI 发言人德鲁・普萨泰里(Drew Pusateri)在声明中表示:“Hugging Face 事件发生后,我们已开展全面且公开的工作,排查并解决模型对齐失效问题。本次诉讼似乎单独针对 OpenAI,而这一难题是所有主流 AI 实验室都面临的共性挑战。我们高度重视模型对齐失效问题,已经并将继续与总检察长办公室开展建设性沟通,共享相关信息,推动全行业建立严谨、可落地的安全标准。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
随着皇马2-1逆转,皇家贝蒂斯1-1,西甲最新积分榜出炉

随着皇马2-1逆转,皇家贝蒂斯1-1,西甲最新积分榜出炉

侧身凌空斩
2026-11-22 06:10:24
一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

怪味历史连连看
2026-09-08 01:55:32
【德甲】拜仁高层频频向穆西亚拉施压,世界职业球员协会实在看不下去了

【德甲】拜仁高层频频向穆西亚拉施压,世界职业球员协会实在看不下去了

体坛周报
2026-11-22 12:07:12
曝波切蒂诺曼联6人清洗名单!欲彻底推倒重建,B费马奎尔拉什福德全卖掉

曝波切蒂诺曼联6人清洗名单!欲彻底推倒重建,B费马奎尔拉什福德全卖掉

罗米的曼联博客
2026-11-22 11:46:44
52万“内推”南洋理工,中介私造假伯克利成绩单:女儿入学3个月被退学,退费≠免责

52万“内推”南洋理工,中介私造假伯克利成绩单:女儿入学3个月被退学,退费≠免责

青科新闻
2026-11-21 16:15:13
“别抱侥幸心理了,科技股投资者”!摩根大通劝退科技股:“还有很多人没卖”

“别抱侥幸心理了,科技股投资者”!摩根大通劝退科技股:“还有很多人没卖”

华尔街见闻官方
2026-11-22 12:14:16
比大学生去送快递更恐怖的是:越来越多研究生们开始去收废品

比大学生去送快递更恐怖的是:越来越多研究生们开始去收废品

晨光苏醒a
2026-11-22 05:16:06
金价跌破760元/克:有人花85万元一次入手11根金条,有人高位囤金“扛着”

金价跌破760元/克:有人花85万元一次入手11根金条,有人高位囤金“扛着”

民生故事会
2026-11-21 14:11:17
37岁张檬广州遛娃引热议!双保姆随行太惬意,产后状态太真实

37岁张檬广州遛娃引热议!双保姆随行太惬意,产后状态太真实

揭秘世间万象
2026-11-21 09:33:45
张雪骑摩托刚出P房就摔倒 师傅牙哥“技术不行 纯瘾大”的含金量还在上升

张雪骑摩托刚出P房就摔倒 师傅牙哥“技术不行 纯瘾大”的含金量还在上升

快科技
2026-11-22 08:56:13
中餐为啥不能把白酒推向全世界 ?评论区引发万千共鸣!都太敢说了

中餐为啥不能把白酒推向全世界 ?评论区引发万千共鸣!都太敢说了

另子维爱读史
2026-11-19 20:42:09
天冷,也阻挡不了我穿丝袜的热情

天冷,也阻挡不了我穿丝袜的热情

疾跑的小蜗牛
2026-11-21 20:44:46
泽连斯基给出“简单方案”,想阻止俄罗斯,先停止与俄贸易

泽连斯基给出“简单方案”,想阻止俄罗斯,先停止与俄贸易

无情有思ss
2026-11-22 12:49:27
这才是宋氏三姐妹真实的相貌,不是演员扮演的角色!

这才是宋氏三姐妹真实的相貌,不是演员扮演的角色!

历史伟人录
2025-05-08 10:08:01
惊人预言:中国有一半的人口将塞进这几个地方,房产可能翻番

惊人预言:中国有一半的人口将塞进这几个地方,房产可能翻番

专业聊房君
2026-11-18 19:51:29
我卖掉北京房子住进儿子家,儿媳以为我睡着,跟儿子说:500万到账了

我卖掉北京房子住进儿子家,儿媳以为我睡着,跟儿子说:500万到账了

麦子情感故事
2026-11-22 10:35:40
特朗普是美国历史上第一位,也是到目前为止唯一一位,当选总统前既没有任何文职政府公职、也没有参军服役经历的总统

特朗普是美国历史上第一位,也是到目前为止唯一一位,当选总统前既没有任何文职政府公职、也没有参军服役经历的总统

回京历史梦
2026-10-26 10:49:29
精壮身材、高冷气场!7位当兵后更有魅力的韩星!

精壮身材、高冷气场!7位当兵后更有魅力的韩星!

ChicMyGeek
2026-11-22 11:08:10
黄仁勋被曝对董事会撒谎长达一年 导致丢掉CEO

黄仁勋被曝对董事会撒谎长达一年 导致丢掉CEO

3DM游戏
2026-11-22 10:42:38
争议?皇马1.3亿巨星点赞切尔西1-4惨败!嘲讽阿隆索+时隔1年仍记仇

争议?皇马1.3亿巨星点赞切尔西1-4惨败!嘲讽阿隆索+时隔1年仍记仇

我爱英超
2026-11-22 07:20:17
2026-11-22 14:32:49
AI云资讯
AI云资讯
人工智能科技资讯平台
46文章数 2关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

数码
房产
手机
游戏
公开课

数码要闻

华为WATCH GT6获鸿蒙7.0.0.108SP8升级,表端支持微信来电接听和挂断

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

手机要闻

DOOGEE Wide Core亮相,6500mAh电池、紫光展锐T7250处理器

PC Gamer试玩GTA6百小时:双主角出色但任务重复

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版