网易首页 > 网易号 > 正文 申请入驻

80多起事故、上百万用户:加州把OpenAI告了,AI的锅谁来背

0
分享至



11月16日,一纸诉状把OpenAI告上了法庭。

原告是加州总检察长罗布·邦塔。

罪名听起来有点重:AI智能体失控,造成80多起网络安全事故,还入侵了政府医疗系统和OpenAI自己的内部数据库。

最出名的是今年7月那次。

两个实验模型突破测试环境,自己接上公开互联网,闯进了开源平台Hugging Face的内部系统。

加州给出的定性是:公共妨害,违反州《不正当竞争法》。

这家公司到底有没有责任,得等美国法院判。

但咱们先别急着看热闹。

有个问题,其实国内做AI的人迟早要回答:

模型闯了祸,这口锅谁来背?

法律不找模型,找你公司

AI不是法律主体。它不会自己赔钱。

在中国,担责的是开发、部署、使用AI的人和公司。



《民法典》第一千一百九十四条写得很直白:网络服务提供者利用网络侵害他人民事权益,应当承担侵权责任。

第一千一百九十七条又补一刀:知道或者应当知道用户利用你的服务侵害别人权益,却没采取必要措施,承担连带责任。

翻译成大白话:你的模型出了事,法律第一个找的是你这家公司。

别拿"黑盒"当挡箭牌

很多老板说:AI是黑盒,输出不可控,出事了不能怪我。

这个说法,在民事上站不住。

民法典的标准是"知道或者应当知道"。

以你的技术能力,本可以预见到风险、装防护、设测试隔离、上监控日志。

你没做,这就是你的责任。

从训练第一天,义务就开始了

更早的线,在训数据阶段。

《生成式人工智能服务管理暂行办法》第七条说:训练数据要来源合法,不能侵害知识产权,涉及个人信息要取得同意。

《暂行办法》第十四条:发现违法内容,要及时停止生成、停止传输、消除,向主管部门报告。

第十九条:要配合监管,说明训练数据的来源、规模、类型、标注规则。

说白了,不是等上线、等出事才谈合规。

别以为只跟大厂有关

可能有人想,这责任是不是只压在OpenAI那种大厂头上,我做个行业应用、小agent,跟我没关系。

还真不是。

你开发一个智能客服agent,接进客户的订单系统。某天它被诱导,错取消订单,泄露了客户信息。这口锅谁来背?

民法典第一千一百九十四条说的"网络服务提供者",边界没那么窄。你提供的软件能自主行动、能对外产生后果,你的角色就可能被认定在这条线上。

还有具身智能。机器人进车间、进医院、进社区,一个动作造成损害,责任落在设计算法的你、生产硬件的你,还是采购部署的甲方?

我见过不止一个客户,机器人出了事故才翻合同找责任约定,发现当初根本没写。

这就是为什么,责任一定要前置。

再补一句出海的话。你的智能体服务海外用户,或者训练、推理放到境外,除了国内规则,还要看目标地的法律。加州的案子就是提醒,AI监管早已不是一国之事。



给AI公司的3个提醒

第一,安全留痕。测试环境要隔离,上线要监控,日志要留。

第二,数据合规前置。训练数据的来源、授权,进组之前就查清楚。

第三,责任写进合同。你是采购方还是提供方,谁担责、怎么赔、怎么报告,白纸黑字写明白。

技术交给团队,法律的事,早点找专业人士问清楚。

别等事故来了,才想起还有法律这回事。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
62:33!特朗普也没想到,15名民主党临阵倒戈、2名共和党反水

62:33!特朗普也没想到,15名民主党临阵倒戈、2名共和党反水

墨子翟的日记y
2026-11-22 09:40:17
恭喜!2027翻身运势最多的三个生肖:钱越赚越顺,路越走越宽!

恭喜!2027翻身运势最多的三个生肖:钱越赚越顺,路越走越宽!

毅谈生肖
2026-11-22 11:13:36
六旬男子约按摩女发生关系,十分满意付了2000元,谁知女子扭头就把他告了

六旬男子约按摩女发生关系,十分满意付了2000元,谁知女子扭头就把他告了

江山挥笔
2026-11-18 14:13:58
18岁男孩高考后去上海跑外卖,干了一个月跑了338单,一算工资倒欠站点114元

18岁男孩高考后去上海跑外卖,干了一个月跑了338单,一算工资倒欠站点114元

一丝不苟的法律人
2026-11-22 13:20:47
复婚已真相大白!李亚鹏:本以为债务解决已够幸运,今幸福又升级

复婚已真相大白!李亚鹏:本以为债务解决已够幸运,今幸福又升级

叨唠
2026-11-22 05:15:07
皇马以稳字当头,正计划1.5亿预算持续补强

皇马以稳字当头,正计划1.5亿预算持续补强

足球推文C
2026-11-22 19:46:25
385米!胡塞打出超高战绩

385米!胡塞打出超高战绩

星火聊天下
2026-11-21 14:23:43
多所高校宣布,工资发放彻底变了

多所高校宣布,工资发放彻底变了

中国新闻周刊
2026-11-22 12:18:03
有父母托举的生活是什么样的?网友:10年才熬到别人的起点,恨!

有父母托举的生活是什么样的?网友:10年才熬到别人的起点,恨!

枫红染山径
2026-11-22 11:35:37
金店店主:“一觉睡醒天塌了”!金价跌到7开头,当年抢黄金的大妈们如今怎么样了?

金店店主:“一觉睡醒天塌了”!金价跌到7开头,当年抢黄金的大妈们如今怎么样了?

笨鸟摘文
2026-11-22 12:02:09
孙中山遗体,为什么从开始的永久保存供人瞻仰,转变成混凝土封固

孙中山遗体,为什么从开始的永久保存供人瞻仰,转变成混凝土封固

故史闲谈局
2026-11-22 00:56:45
2004年,43岁的高市早苗第一次结婚,嫁给了52岁、离过婚还带着三个孩子的山本拓。

2004年,43岁的高市早苗第一次结婚,嫁给了52岁、离过婚还带着三个孩子的山本拓。

回京历史梦
2026-11-21 09:30:09
春节返乡潮要变天?专家预言:2027年前后打工潮降温,原因很现实

春节返乡潮要变天?专家预言:2027年前后打工潮降温,原因很现实

江启
2026-11-21 12:47:21
“长不大的巨婴,及时分手”!四川女生因糖葫芦被男友吃了一个暴怒,扔掉肯德基躺人行道打滚,男生满脸通红苦劝

“长不大的巨婴,及时分手”!四川女生因糖葫芦被男友吃了一个暴怒,扔掉肯德基躺人行道打滚,男生满脸通红苦劝

王老师你还好吗
2026-11-21 13:25:53
丹麦驱逐俄罗斯外交官!特朗普发图“我的朋友”,俄罗斯人“有福了”

丹麦驱逐俄罗斯外交官!特朗普发图“我的朋友”,俄罗斯人“有福了”

鹰眼Defence
2026-11-22 16:50:11
抗战期间有个不成文的规矩:每次打完仗,搜日本军用地图比枪炮还重要

抗战期间有个不成文的规矩:每次打完仗,搜日本军用地图比枪炮还重要

言过于诚
2026-11-21 20:57:59
突发!黄仁勋离开英伟达后,台积电“操作”惊呆所有人

突发!黄仁勋离开英伟达后,台积电“操作”惊呆所有人

大厂财经社
2026-11-22 11:23:39
U17世界杯:摩洛哥VS国足,比赛时间敲定,浮嶋敏能否带队拿到1分

U17世界杯:摩洛哥VS国足,比赛时间敲定,浮嶋敏能否带队拿到1分

体育大学僧
2026-11-22 11:57:53
大幂幂不是白叫的

大幂幂不是白叫的

草莓解说体育
2026-10-24 07:40:22
四川交通运输集团原董事长被双开

四川交通运输集团原董事长被双开

地产微资讯
2026-11-22 17:53:33
2026-11-22 20:52:49
峰言锋语 incentive-icons
峰言锋语
公司、投资、合同法律文章
675文章数 57关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

教育
家居
亲子
旅游
军事航空

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

旅游要闻

喀什旅游的游客因清廷中唯一的维吾尔族妃子的故事而奔赴这里参观

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版