网易首页 > 网易号 > 正文 申请入驻

加州起诉OpenAI,涉80起人工智能模型失控事件

0
分享至


加州起诉OpenAI,涉80起人工智能模型失控事件 资料配图

参考消息网11月17日报道 据英国《金融时报》网站11月16日报道,美国加利福尼亚州对开放人工智能研究中心(OpenAI)提起诉讼。此前,该公司承认发生了80起人工智能(AI)模型失控事件。加州指控OpenAI内部管理存在疏漏,且一味追逐利润,“将所有人置于风险之中”。

这起诉讼涉及数十起事件。在这些事件中,OpenAI的模型突破了本应安全的训练环境,接入互联网,并入侵第三方平台。

其中包括今年夏天曝光的两起重大黑客攻击事件,受害者分别是澳大利亚医疗服务机构和开源AI模型平台“抱抱脸”公司。

加州总检察长罗布·邦塔16日在新闻发布会上说:“事实很简单,这些问题完全是OpenAI内部文化造成的可预见后果。这家公司把增长置于安全和问责之上。有人可能会说,它把利润看得比人更重要。”

加州指控这家总部位于旧金山的AI公司违反了该州的《反不正当竞争法》。起诉书称,OpenAI“明知产品存在危险,却在缺乏适当监督和安全程序的情况下进行测试,并就此误导公众”。

邦塔还表示,加州要求法院制止OpenAI的“违法行为,确保今后任何开发或测试活动都能安全进行,并让该公司为违法行为付出代价”。

针对16日的诉讼,OpenAI回应称,公司“已开展广泛而透明的工作,以了解并应对模型行为偏离预期目标的问题”。(编译/许燕红)

责任编辑:李曦_NN2587

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
谢霆锋现身西湖边试吃西湖醋鱼,网友喊话:“别停,再来第二筷”

谢霆锋现身西湖边试吃西湖醋鱼,网友喊话:“别停,再来第二筷”

韩小娱
2026-11-17 10:28:00
朋友来了有好酒,豺狼来了有啥?很明显,小日子的待遇就是这样的

朋友来了有好酒,豺狼来了有啥?很明显,小日子的待遇就是这样的

蜜桔娱乐
2026-11-18 22:19:08
国足和U19主教练在新闻发布会,异口同声批评中超

国足和U19主教练在新闻发布会,异口同声批评中超

真理是我亲戚
2026-11-18 13:02:47
AI演员一句“戴了一天很舒服”,被罚6.8万元

AI演员一句“戴了一天很舒服”,被罚6.8万元

凤凰网财经
2026-11-17 00:22:30
北京一男子掏空积蓄,凑500万入股中国人寿,20年后分红吓人

北京一男子掏空积蓄,凑500万入股中国人寿,20年后分红吓人

一刀故事
2025-05-14 13:32:29
曼晚:卡里克赋闲不到一周,斯旺西有意邀其执教

曼晚:卡里克赋闲不到一周,斯旺西有意邀其执教

懂球帝
2026-11-18 16:36:06
“霍邱老人拆墙让路”调查:“女儿是记者”等网上传言不实

“霍邱老人拆墙让路”调查:“女儿是记者”等网上传言不实

极目新闻
2026-11-18 19:24:20
受贿数额特别巨大,中国农业发展银行原党委委员、副行长徐一丁被提起公诉

受贿数额特别巨大,中国农业发展银行原党委委员、副行长徐一丁被提起公诉

每日经济新闻
2026-11-18 18:43:23
菲总统小马科斯站着不动迎接各国代表,直到中国部长来后,全变了

菲总统小马科斯站着不动迎接各国代表,直到中国部长来后,全变了

消失的电波
2026-11-17 20:45:22
玄学提醒:这6个地方尽量少去,别拿自己的运气开玩笑

玄学提醒:这6个地方尽量少去,别拿自己的运气开玩笑

糖逗在娱乐
2026-11-18 03:56:31
又一癌症疫苗迎来重大突破,股价暴涨

又一癌症疫苗迎来重大突破,股价暴涨

东方豪侠
2026-11-18 08:50:06
《GTA6》首个地区正式上线!全球首发 见证历史

《GTA6》首个地区正式上线!全球首发 见证历史

游民星空
2026-11-18 19:11:14
美国谴责乌克兰对俄罗斯的远程打击,称打击“给俄罗斯民众带来痛苦”

美国谴责乌克兰对俄罗斯的远程打击,称打击“给俄罗斯民众带来痛苦”

山河路口
2026-11-18 12:47:12
山东六旬老人坠入化粪池身亡,家属:这并不是普通意外

山东六旬老人坠入化粪池身亡,家属:这并不是普通意外

极目新闻
2026-11-18 21:39:22
皇马官宣续约!6年长约加核心定位,4球6助攻的居勒尔为啥带不动土耳其

皇马官宣续约!6年长约加核心定位,4球6助攻的居勒尔为啥带不动土耳其

夏侯看英超
2026-11-19 00:13:53
足坛被高估的球星盘点

足坛被高估的球星盘点

失我者永失qq
2026-11-18 23:39:09
中国新规落地,每一架飞机都要单独申请批准,全程都要接受管理…

中国新规落地,每一架飞机都要单独申请批准,全程都要接受管理…

福建睿平
2026-05-25 08:01:59
全球化退潮,APEC如何寻找新定位?

全球化退潮,APEC如何寻找新定位?

凤凰WEEKLY
2026-11-18 14:59:22
网传2026年越来越多的人开始反向消费…

网传2026年越来越多的人开始反向消费…

慧翔百科
2026-11-12 08:28:44
曾收到5000份男友申请,“全球最抢手女友”在美国被铐走

曾收到5000份男友申请,“全球最抢手女友”在美国被铐走

启迪你的思维
2026-11-18 17:58:04
2026-11-19 00:51:00
参考消息 incentive-icons
参考消息
参考消息官方网易号
215476文章数 731803关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

“感谢中方特殊安排” 特朗普又带着高规格代表团来了

头条要闻

“感谢中方特殊安排” 特朗普又带着高规格代表团来了

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

亲子
数码
教育
本地
公开课

亲子要闻

当婴配市场进入存量博弈,有机赛道如何破局突围?

数码要闻

铭凡5L台式机T5 Max-388上市:48GB + 1TB,到手价9699元

教育要闻

禁毒模拟法庭丨以案释法筑防线,青春无毒护成长

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版