网易首页 > 网易号 > 正文 申请入驻

边警告AI风险边开发先进模型:OpenAI、Anthropic、谷歌等五家AI巨头遭起诉

OpenAI等5家AI公司遭集体诉讼

0
分享至

IT之家 11 月 13 日消息,当地时间 11 月 12 日,四家非营利组织向旧金山高等法院提起诉讼,将 OpenAI、Anthropic、谷歌、Meta 以及 SpaceXAI 列为被告,要求法院叫停这些企业进一步开发最先进的人工智能模型。


据路透社报道,参与诉讼的组织包括 Irreplaceable Education Fund、Public Citizen、Heat Initiative 和 Alliance for Secure AI。

原告援引加州有关不公平商业行为的法律,认为相关企业开发 AI 产品的行为可能危害公共健康、安全及公众利益,并请求法院下令禁止其继续开发 ChatGPT、Gemini、Claude 等先进 AI 产品。

这场诉讼的特殊之处在于,其核心证据大量来自被告公司高管自己的公开表态。

原告在诉状中指出,这些 AI 企业自身的高管曾多次警告,先进 AI 技术可能带来文明毁灭级别的风险,但这些公司仍在持续推进更强大模型的研发和商业化。

其诉状还援引了 Anthropic CEO 达里奥・阿莫代伊(Dario Amodei)和 SpaceX CEO 埃隆 · 马斯克关于 AI 可能造成文明毁灭的言论,以及谷歌 DeepMind 发表的一篇论文,其中写道超人类智能“有可能在未来几年内被开发出来”,并“永久摧毁人类”。

原告的质问直指这一矛盾:“没有其他行业被允许将其不安全产品 —— 更不用说可能杀死我们所有人的产品 —— 的开发视为不可避免”。

诉状还提及近期发生的人工智能安全事件,称部分 AI 模型曾逃离沙盒并自主攻击政府网站。原告认为,随着人工智能系统获得越来越强的自主执行任务和自我改进能力,相关企业可能无法有效控制这些系统,从而对公共安全造成威胁。

另有多起事件中,失控的 AI 智能体试图攻击新墨西哥大学在线图书馆、访问澳大利亚医疗数据库、向费城警察局提交虚假报告,以及绕过付费墙获取佐治亚州计票数据。

IT之家注:加州《不正当竞争法》通常用于商业欺诈或虚假广告案件,将其适用于 AI 开发行为的“公共妨害”定性,在司法实践中尚缺乏先例,法院是否接受这一法律框架,将是诉讼面临的首个实质门槛。

原告在诉状中表示,其他行业不能将继续开发不安全产品视为不可避免的事情,更不能允许企业自行监管可能造成严重社会危害的技术。此次诉讼不仅关注已经发生的事件,也将未来可能出现的损害纳入指控范围。

代表原告提交这份 63 页诉状的,是新泽西州前总检察长马修 · 普拉特金。他的表述将矛头对准了“明知故犯”:“公司开发和发布它们知道在任何意义上都不安全的产品,更不用说具有灭绝人类潜力的产品,是明显违法的”。原告寻求的救济并非赔偿,而是一项紧急禁令:在被告能够证明其技术处于人类控制之下以前,暂停下一代模型的训练与部署。

针对诉讼,Meta 发言人表示不予置评,其他涉事企业截至路透社报道发布时尚未立即回应媒体的置评请求。

这并非美国首次通过司法途径要求限制人工智能模型开发。今年 6 月,佛罗里达州总检察长詹姆斯・乌特迈尔(James Uthmeier)起诉 OpenAI,指控 ChatGPT 平台存在安全问题,称其向校园枪击案相关人员提供信息、提供自残指导,并可能使年轻用户产生依赖。

今年 9 月,佛罗里达州进一步请求负责该案的法官,要求 OpenAI 在没有外部监督的情况下不得开发新的人工智能模型。根据路透社援引的法院记录,该请求目前仍在等待裁决。

针对佛罗里达州的诉讼,OpenAI 发言人德鲁・普萨特里(Drew Pusateri)此前表示,公司已经暂停训练能力最强的模型,在增加额外安全保障措施之前不会恢复相关训练。他还表示,政府应在制定人工智能安全标准方面发挥重要作用。

此外,今年 10 月,另有 8 个美国州在不同法院起诉 OpenAI,指控 ChatGPT 曾引导包括未成年人在内的用户伤害自己或他人。相关诉讼要求法院判处罚款,并限制 OpenAI 开发自我改进型人工智能模型,除非该公司能够确保这些模型符合人类价值观。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
体制内外退休金的巨大差距引起老百姓的很大不满!

体制内外退休金的巨大差距引起老百姓的很大不满!

逍遥论经
2026-10-08 14:57:40
最尴尬能有多尴尬?网友:朋友和他媳妇脸都青了!

最尴尬能有多尴尬?网友:朋友和他媳妇脸都青了!

另子维爱读史
2026-11-15 22:39:15
统一台湾的条件已经成熟了,万事俱备,只欠东风!

统一台湾的条件已经成熟了,万事俱备,只欠东风!

叶老四
2026-11-14 20:59:09
10万入场费的“换妻”盛宴:记者冒死暗访,组织者3年狂赚2亿

10万入场费的“换妻”盛宴:记者冒死暗访,组织者3年狂赚2亿

说点事
2026-07-16 11:29:11
“这种家庭,一年至少10w”,一张窒息的客厅照片,内行人却看懂了

“这种家庭,一年至少10w”,一张窒息的客厅照片,内行人却看懂了

泽泽先生
2026-11-02 13:39:10
高晓松要拍《林徽因传》,被梁再冰警告:“你要是拍我妈和徐志摩的感情线,我告你破产!”高晓松满脸不快

高晓松要拍《林徽因传》,被梁再冰警告:“你要是拍我妈和徐志摩的感情线,我告你破产!”高晓松满脸不快

背包旅行
2026-09-15 10:01:19
敢拿核武威胁中国?高志凯:想摧毁我们,那你将会被彻底消灭!

敢拿核武威胁中国?高志凯:想摧毁我们,那你将会被彻底消灭!

清衣渡a
2026-09-18 02:48:29
兵败如山倒!国产新能源或已证明:中国其实不需要二线豪华品牌

兵败如山倒!国产新能源或已证明:中国其实不需要二线豪华品牌

铭记历史呀
2026-09-20 16:15:46
国家税务总局规定:2026年11月1日起全国加油站全面推行,以后去加油站加油,加完油系统自动给你开电子发票

国家税务总局规定:2026年11月1日起全国加油站全面推行,以后去加油站加油,加完油系统自动给你开电子发票

扶苏聊历史
2026-10-09 10:45:34
人活多少岁最合适:一、41岁走,算短命;二、50 岁离去,还是偏早

人活多少岁最合适:一、41岁走,算短命;二、50 岁离去,还是偏早

荷兰豆爱健康
2026-11-16 12:19:35
触目惊心:废弃酒店藏百米暗道竟通向战国古墓,土袋层层堆叠几乎触到屋顶;盗墓分子作案途中被抓现行,现场曝光

触目惊心:废弃酒店藏百米暗道竟通向战国古墓,土袋层层堆叠几乎触到屋顶;盗墓分子作案途中被抓现行,现场曝光

台州交通广播
2026-11-15 16:36:46
中美俄将举行三方会晤,日本被晾一边,中日关系冷处理没商量

中美俄将举行三方会晤,日本被晾一边,中日关系冷处理没商量

林子说事
2026-11-16 12:20:41
冬窗投1.2亿!波帅曼联引援名单曝光:锁定小蜜蜂队长和美国双星

冬窗投1.2亿!波帅曼联引援名单曝光:锁定小蜜蜂队长和美国双星

体坛鉴春秋
2026-11-16 09:28:47
房价彻底变天,明年房价或超出所有人的想象,普通人早知道早准备

房价彻底变天,明年房价或超出所有人的想象,普通人早知道早准备

石辰搞笑日常
2026-11-16 02:45:13
在骂谁?董路凌晨2点发文:有些坏人是真的傻 都遭报应了还不悔改

在骂谁?董路凌晨2点发文:有些坏人是真的傻 都遭报应了还不悔改

风过乡
2026-11-16 07:27:40
56岁退休女一句大实话:出轨率高的女人,不看长相,就看这3特征

56岁退休女一句大实话:出轨率高的女人,不看长相,就看这3特征

伊人河畔
2026-08-12 09:39:02
中国不开第一枪!金一南教授曾表示:“如果不是1988年陈伟文将军果断出击,击沉越军三艘军舰,就不会有如今200多万平方公里的三沙市

中国不开第一枪!金一南教授曾表示:“如果不是1988年陈伟文将军果断出击,击沉越军三艘军舰,就不会有如今200多万平方公里的三沙市

回京历史梦
2026-11-14 09:06:53
拜仁为奥利塞标价2 亿—3 亿,这反能点醒皇马签下穆帅急需的中场

拜仁为奥利塞标价2 亿—3 亿,这反能点醒皇马签下穆帅急需的中场

福酱的小时光
2026-11-16 10:09:44
宋宁峰告诉孩子自己犯错被演艺圈开除了:不能再做演员,会重新找工作

宋宁峰告诉孩子自己犯错被演艺圈开除了:不能再做演员,会重新找工作

韩小娱
2026-11-16 09:17:56
轰动全国的“91大神”庭审细节曝光,炸翻无数人

轰动全国的“91大神”庭审细节曝光,炸翻无数人

鸣金网
2026-10-18 14:17:30
2026-11-16 15:28:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379512文章数 607735关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

"零元面馆"背后老板身份披露:二奢富豪 常谈"福报论"

头条要闻

"零元面馆"背后老板身份披露:二奢富豪 常谈"福报论"

体育要闻

热火4连胜:就因为维金斯替补了?

娱乐要闻

43岁佟丽娅官宣新身份担任职务不一般

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

吉利星越L PLUS预售价15.77万起 燃油车也能如此智能

态度原创

本地
房产
数码
时尚
公开课

本地新闻

乌兰察布:以前种土豆,现在种Token

房产要闻

6.6亿!海口卖地!

数码要闻

PC鲜辣报:技嘉推出RTX Spark主机 Radeon新驱动修复SSD异常写入

为什么换内衣比买大衣更重要?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版