网易首页 > 网易号 > 正文 申请入驻

生成式AI被滥用如何治理?学者建议用好现有规则发展中规范

0
分享至

从AI盗播仿冒名人带货,再到频繁出现的AI版权纠纷,伴随AI技术的应用,生成式人工智能问题日益凸显,也给执法司法带来挑战。12月18日,南方都市报社、南都数字经济治理研究中心主办的“第九届啄木鸟数据治理论坛”在京举办,中国法学会副会长,中国人民大学一级教授王利明以《生成式人工智能的侵权及应对》为题作主旨发言。

王利明表示,当前对人工智能侵权,专门立法为时尚早,应秉持“在发展中规范”的思路,以《民法典》《个人信息保护法》为基础,充分解释、用好现有规则,再通过案例积累、司法解释制定,有效应对人工智能引发的侵权问题。

谈及深度伪造技术的规范,王利明建议,依据《民法典》第1019条,禁止利用深度伪造技术侵害他人权益,关键在于充分解释该条款,应对人工智能领域的深度伪造侵权问题。

针对人工智能侵权专门立法为时尚早,建议用好现有规则

当前,人工智能时代已然来临,人工智能将深刻改变我们的生产方式、生活方式和社会治理模式,“人工智能+”也成为当前乃至今后经济增长的重要增长点。王利明表示,与此同时,生成式人工智能也可能引发侵权问题。因此,应对好生成式人工智能的侵权,是“时代之问”,必须给出回应。

王利明介绍,针对人工智能侵权问题,比较法上有两种核心模式:一是以欧盟为代表的“强监管模式”,该模式注重对个人信息、隐私的保护,设置了多项合规义务,违反义务易引发侵权责任;二是以美国为代表的“轻监管重利用”模式,模型开发者、服务提供者的合规义务相对较轻,个人信息、隐私侵害主要通过侵权法处理。

此前,不少学者建议我国尽快针对人工智能侵权进行专门立法。王利明对此表示,当前专门立法为时尚早,核心原因有两点:其一,人工智能侵权的潜在风险总体可控,主要损害隐私、个人信息、知识产权等权利,未直接对个人生命财产安全造成现实重大侵害;其二,人工智能技术发展日新月异,其带来的新情况、新问题、新挑战仍需时间观察、认识与总结,过早立法可能因滞后性妨碍技术发展。

王利明主张“在发展中规范”的思路,他认为,当前《民法典》《个人信息保护法》已对相关权利保护有明确规定,可以这些现有法律为基础,充分解释、用好现有规则,再通过案例积累、司法解释制定,有效应对人工智能引发的侵权问题。

人工智能侵权过错判断应以“违反注意义务”为核心

人工智能侵权的核心法律问题,首先是归责原则的选择,应适用“无过错责任”还是“过错责任”?

王利明认为,人工智能侵权应适用“过错责任”。无过错责任可能严重阻碍人工智能发展,若一旦发生侵权,模型开发者、设计方、服务提供者就需承担责任,会使其承受过大风险。此外,无过错责任主要适用于产品责任等领域,而人工智能提供的是服务而非产品,服务瑕疵不会像产品瑕疵那样对受害人人身、财产造成现实重大损害,无需将严苛的产品责任归责原则适用于人工智能侵权领域。适用过错责任既能为人工智能的开发、设计、制造、服务提供创新空间,鼓励技术发展,也能兼顾受害人权益保护,是较为妥当的选择。

王利明还提出,人工智能侵权的过错判断标准,应以“违反注意义务”为核心,同时遵循场景化原则,结合具体场景权衡风险防控成本与合理义务,避免“一刀切”。比如,利用人工智能收集他人碎片化信息,若为用户提供个性化推荐且无不当用途,未必构成侵权;但针对特定个人收集碎片化信息并打包出售,则可能构成侵权。此外,过错认定还需考虑现有技术水平,人工智能存在技术无法克服的困境,如生成信息出现“幻觉”,可借鉴民法典侵权责任编中的发展风险抗辩、医疗侵权中的现有技术无法诊治的抗辩,综合考量风险程度与防范风险的成本。例如,要求模型服务提供者删除每条虚假生成信息,可能带来巨大成本,该方式的适用性值得研究,相较之下,针对相关关键词进行合理过滤,更具实操性。

同时,王利明还表示,需明确区分人工智能服务提供者与用户的过错。生成式人工智能运行具有交互性,生成结果既依赖语料来源,也依赖用户输入指令,若用户通过输入虚假信息诱导大模型做出错误判断并造成损害,主要过错在用户,不能直接认定服务提供者存在过错。

“为促进人工智能发展,建议类推适用《民法典》第1195条的避风港规则,即服务提供者收到用户关于侵权内容的整改通知后,未在合理期间采取过滤、优化模型等合理措施的,再承担相应侵权责任,而非一旦发生侵权就直接追责。”王利明称。

禁止利用深度伪造技术侵害他人权益

人工智能常以海量已公开个人信息作为语料,对已公开个人信息的利用是否要取得信息主体同意亦引发争议。

对此,王利明建议,适用《民法典》第1036条,区分已公开与未公开个人信息,仅当已公开个人信息的利用造成信息主体重大利益侵害时,信息主体有权拒绝。例如,收集已公开信息用于模型训练且进行匿名化处理,无需逐一取得同意;但将已公开个人信息打包出售,可能构成重大利益侵害,需承担责任。

王利明还提到,对于已公开数据作品的处理,应区分输入与输出两个阶段:输入阶段,对大模型开发者获取已公开作品数据用于训练,应秉持开放态度,可考虑纳入著作权法合理使用范畴,无需要求每篇作品都取得作者同意,避免影响语料来源;输出阶段,需严格把关生成结果,模型处理者应采取技术措施,确保输出结果多样化、模糊化,避免与他人享有著作权的作品内容雷同,否则可能构成侵权。

此外,深度伪造技术的规范也尤为重要。王利明认为,深度伪造本身是中性概念,但易被用于以假乱真、栽赃陷害、无中生有,均会严重侵害他人权益。建议依据《民法典》第1019条,禁止利用深度伪造技术侵害他人权益,关键在于充分解释该条款,应对人工智能领域的深度伪造侵权问题。

“生成式人工智能发展伴随着风险与挑战,我们需秉持‘在发展中规范,在规范中发展’的监管理念,面对新领域、新技术、新挑战,坚持审慎、包容、开放的态度,保障人工智能在安全、可靠、可控的前提下有序发展,营造鼓励创新的良好营商环境。”王利明称。

采写:南都N视频记者刘嫚 发自北京

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
男子花22万约女网友,开好房等了30多个小时,转了203笔钱,连面都没见着,报警后崩溃了

男子花22万约女网友,开好房等了30多个小时,转了203笔钱,连面都没见着,报警后崩溃了

一丝不苟的法律人
2026-11-13 13:25:29
陆毅女儿贝儿进娱乐圈了,18岁签约百沐娱乐,以歌手身份高调出道

陆毅女儿贝儿进娱乐圈了,18岁签约百沐娱乐,以歌手身份高调出道

观鱼听雨
2026-11-18 17:42:38
CBA俱乐部杯赛:广东不敌山东,辽宁险胜宁波,北京轻取江苏!

CBA俱乐部杯赛:广东不敌山东,辽宁险胜宁波,北京轻取江苏!

中国篮坛快讯
2026-11-19 00:04:17
他就是马斯克的父亲,与继女生下两个孩子,80岁现身上海悠闲搓麻

他就是马斯克的父亲,与继女生下两个孩子,80岁现身上海悠闲搓麻

落雪听梅a
2026-11-17 00:26:43
八人登陆无人圆满:曼联的阿根廷魔咒

八人登陆无人圆满:曼联的阿根廷魔咒

斯坦福桥看更人
2026-11-18 23:09:41
“孝子,如同用自己的命填老人的命”!多名网友分享照护遭遇,子女兼顾工作长期透支,不幸猝死

“孝子,如同用自己的命填老人的命”!多名网友分享照护遭遇,子女兼顾工作长期透支,不幸猝死

火山詩话
2026-11-17 06:20:28
徐国华任广西壮族自治区副主席

徐国华任广西壮族自治区副主席

中国青年报
2026-11-18 19:28:12
我感觉其实不用再猜了,万斯大概率就是下一届美国总统。真要是他入主白宫,首当其冲的就是中国

我感觉其实不用再猜了,万斯大概率就是下一届美国总统。真要是他入主白宫,首当其冲的就是中国

扶苏聊历史
2026-10-26 17:56:12
一路走好,斯琴高娃去世,享年93岁,和大家想的不是一个人

一路走好,斯琴高娃去世,享年93岁,和大家想的不是一个人

马浵在解说
2026-11-18 12:05:56
曾饱受伤病困扰的他,如今在灰熊一鸣惊人

曾饱受伤病困扰的他,如今在灰熊一鸣惊人

臻体育
2026-11-19 00:14:39
不到20岁!大连英博杨铭锐10天拿2个冠军 北京国安邓捷夫在名帅指导下 打出来

不到20岁!大连英博杨铭锐10天拿2个冠军 北京国安邓捷夫在名帅指导下 打出来

80后体育大蜀黍
2026-11-18 22:12:59
比普京特朗普先到深圳的,是两架军用大飞机,信号不一般

比普京特朗普先到深圳的,是两架军用大飞机,信号不一般

赵探长TALK
2026-11-17 11:02:02
2009 年,宁波 25 岁学霸留美博士朱海洋,在校园餐厅当着七个人的面,把 22 岁北京学妹斩首,作案后不逃不躲,伸手等警察铐住自己

2009 年,宁波 25 岁学霸留美博士朱海洋,在校园餐厅当着七个人的面,把 22 岁北京学妹斩首,作案后不逃不躲,伸手等警察铐住自己

唠叨说历史
2026-11-12 18:20:19
陆毅女儿出道,星二代们,夺走了普通人的机会

陆毅女儿出道,星二代们,夺走了普通人的机会

光影新天地
2026-11-18 23:36:16
为什么有人比美国还急着给黄仁勋扣帽子?

为什么有人比美国还急着给黄仁勋扣帽子?

小眼睛小世界
2026-11-18 04:25:33
曾被开价一亿包养的日本前人气AV女优滨崎真绪在香港被人下药入住ICU?经纪人失职理亏拿港警当挡箭牌,网友痛批“该炒”!

曾被开价一亿包养的日本前人气AV女优滨崎真绪在香港被人下药入住ICU?经纪人失职理亏拿港警当挡箭牌,网友痛批“该炒”!

澳门月刊
2026-11-02 09:31:58
克里米亚大桥约6000吨主拱垮塌,多久能恢复通行?

克里米亚大桥约6000吨主拱垮塌,多久能恢复通行?

小怪吃美食
2026-11-18 05:36:39
小心!欧洲被打服了,中东也不闹了,美国的目标只剩下东亚

小心!欧洲被打服了,中东也不闹了,美国的目标只剩下东亚

西府赵王爷
2025-03-22 15:47:18
A股三大指数快速拉升翻红

A股三大指数快速拉升翻红

证券时报
2026-11-18 13:46:04
黄仁勋又下了步臭棋,前脚声明要回归英伟达,后脚就被董事会拒绝

黄仁勋又下了步臭棋,前脚声明要回归英伟达,后脚就被董事会拒绝

光电科技君
2026-11-18 11:31:59
2026-11-19 00:27:00
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
644260文章数 3591431关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

时尚
家居
亲子
游戏
公开课

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

宝宝气人但是聪明的4个行为

PC Gamer试玩GTA6百小时:双主角出色但任务重复

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版