“真假‘奥特曼’”——从首例AIGC服务提供者侵权案看合规

【珠海律师、珠海法律咨询、珠海律师事务所、京师律所、京师珠海律所】

近两年，在市场低迷的整体环境中，多数行业处于寒冬。然而，而无论是数据统计的客观现实，还是我们个人的主观感受，都可以得出肯定的答案——这一次，人工智能的冬天不会到来！大语言模型、ChatGPT等为代表的大型模型技术不断涌现，人工智能技术正迎来重大转折点。这些技术不仅标志着人工智能技术的深化，更预示着其将成为一种强大的横向技术，引领下一次产业革命的浪潮。人工智能正逐步渗透到各个垂直领域，改变着客户体验、业务模式，以及我们社会的政治、经济格局。这种变革不仅日益明显，而且正在重塑我们的未来。

所谓春江水暖鸭先知，新兴行业的出现更带来了法律服务行业的新变革和法律服务专业的新方向。本文中，我将以AIGC服务提供者侵权第一案【（2024）粤0192民初113号案】为例，讨论AIGC平台合规的重要性。

一、案情简介

圆谷制作株式会社系奥特曼系列的著作权人，其于2019年与原告通过签署《授权证明》的方式，将奥特曼系列形象的著作权独占授权给原告，并授予原告维权的权利。被告经营Tab（化名）网站，具有AI对话以及AI生成绘画功能。原告发现，当要求Tab生成奥特曼相关图片时，其生成的奥特曼形象与原告奥特曼形象构成实质性相似。Tab的AI绘画功能系会员专属功能，用户付费购买会员服务后，可以获赠一定额度的“算力”，AI绘画每次生成图片会消耗“算力”，当该用户“算力”消耗完毕后，用户需另行充值。据此，原告向广州互联网法院提起对被告的著作权侵权纠纷（原网络侵权责任纠纷，后变更案由）的起诉。

原告主张被告侵犯案涉奥特曼作品的复制权、改编权及信息网络传播权，要求法院依法判令被告立即停止生成侵权奥特曼图片，并将案涉奥特曼物料从训练数据集中删除；同时，其通过销售会员充值及“算力”购买等增值服务赚取非法收益，给原告造成严重损害，遂要求法院依法判令被告赔偿原告经济损失及为制止侵权而支出的合理费用30万元。

二、争议焦点归纳及判决结果

1. 被告是否侵犯了原告的复制权、改编权和信息网络传播权？

法院认为，案涉奥特曼作品享有较高的知名度，且在各大视频网站均可进行访问、查阅及下载，在被告无相反证据的情况下，被告存在接触性案涉奥特曼作品的可能性。在此前提下，Tab网站生成图片部分或完全复制了“奥特曼”这一美术形象的独创性表达，侵犯了原告对案涉奥特曼作品的复制权。

案涉生成图片部分保留了案涉作品的独创性表达并在此基础上形成了新的特征，构成对案涉作品的改编，故认定被告侵犯了原告对案涉奥特曼作品的改编权。

关于是否侵犯信息网络传播权，法院认为该具体著作权权利认定的问题不影响侵权行为成立与否的认定，同时考虑到本案是生成式人工智能发展背景下生成物侵权的新情况，且同一被诉侵权行为已经纳入复制权、改编权的控制范畴，因此不再予以重复评价。

2. 如果构成侵权，被告应当承担何种民事责任？

在这一部分的分析当中，法院主要根据《生成式人工智能服务管理暂行办法》（以下简称“《暂行办法》”）的有关规定逐项分析原告主张被告应当承担的责任形式是否能够得到支持。

（1）关于停止侵害问题

①被告属于生成式人工智能服务提供者。

《暂行办法》第二十二条第二款规定：“生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。”按照被告的陈述，其系通过可编程接口的方式接入第三方服务商的系统，进而向用户提供生成式人工智能服务。

因此，被告属于生成式人工智能服务提供者。被告主张的AI绘画服务系由第三方服务商提供，其不承担责任的抗辩，法院不予支持。

②被告应当停止侵害，有关措施的防范程度应进一步加强。

《暂行办法》第十四条第一款规定：“提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。”因此，被告作为AIGC服务提供者在发现违法内容时，应承担停止生成的责任。本案中，被告虽然已经采取了关键词过滤等措施，停止生成相关图片，并达到了一定效果。但在庭审中发现，当输入与“奥特曼”相关的其他关键词时，仍可以生成实质性相似图片。故法院认为，被告应进一步采取技术防范措施，有关措施的防范程度应达到：用户正常使用与奥特曼相关的提示词，不能生成与案涉奥特曼作品实质性相似的图片。

③被告并未实际进行模型训练行为，关于原告将案涉奥特曼物料从AIGC大模型训练数据集中删除的诉请，法院不予支持。

本案中，被告系通过使用第三方提供接口的方式接入的大模型产品，被告本身并未实际参与大模型训练的行为，故其无法实现将“奥特曼”物料从数据集中删除这一要求。但是，使用第三方接口的企业不能以第三方提供服务为由消除侵权责任。AIGC企业在与第三方合作时除了做好尽调，也应当关注双方的合同协议，尤其是知识产权条款。接入第三方接口的仍然需要有自己的技术措施对内容进行把控，避免出现违法和侵权事宜。

（2）关于应否赔偿损失问题

法院认为，赔偿损失的责任承担需要考虑被告的过错问题。考虑到AIGC具有一定工具属性，其产品和技术本身具有中立性，但该工具的使用却既可以用于合法目的，也可以用于非法目的。因此，服务提供者在提供AIGC服务时应尽到合理注意义务。本案中，被告未尽合理注意义务，主观上存在过错，具体如下：

·欠缺投诉举报机制（《暂行办法》第十五条）；

·欠缺潜在风险提示（《暂行办法》第四条第三款、第五款）：法院针对该项义务特别指出，与一般网络服务存在显著区别的是，用户在使用AIGC服务时，对他人特别是著作权人的潜在侵权风险缺乏明确认知，因此服务提供者有义务进行提示，这其中就包括用户不能利用其服务侵犯他人著作权；

·欠缺显著标识（《暂行办法》第十七条）：AIGC服务提供者对于生成物可能导致公众混淆或误认的，有义务对其提供的生成物进行显著标识。标识义务不仅是对公众知情权的尊重，也是对权利人的一种保护性义务。

（3）关于确定赔偿数额问题

根据现有证据无法确定原告因案涉侵权行为遭受的实际损失或被告的违法所得，且综合考虑“案涉奥特曼作品具有较高的市场知名度”“被告在应诉后，积极采取技术性措施，防范继续生成相关图片，且实现了一定的效果”“被告仅面向用户生成案涉图片，影响范围有限”等原因，故相对于原告提出的30万元索赔，法院最终酌定，被告需要向原告赔偿经济损失为10000元（包含取证费等合理开支）。

三、AIGC服务提供者的合规义务

笔者根据不同主体之间权利义务的不同，梳理了AIGC全生命周期的数据合规责任，详见下表：

四、案件启示

1. AIGC服务提供者进行了合规内容，就能避免侵权吗？

笔者认为，作为首例AIGC服务提供者侵权案件的本案，和我国首例AI文生图著作权侵权案【（2023）京0419民初11279号民事判决书】，都共同凸显了AIGC服务在知识产权保护方面的潜在风险；相较而言，本案的裁判分析，更突出了AIGC服务中合规的重要性。

本案中，被告虽在收到被诉通知后采取了一定措施，但仍未能适用“避风港原则”，被法院判定具有侵权的主观过错，最为核心的一点就是被告未尽到合规义务。这提醒了AIGC服务提供者，应当严格遵守《暂行办法》所规定的各项义务，并在提供服务时尽到合理的注意义务。尽管合规措施不能完全消除侵权的风险，但它们可以帮助企业降低风险，并在发生侵权事件时更好地保护自己。换言之，依据一般侵权责任的构成要件而言，提高合规性可以在过错认定方面进行有效抗辩，进而减少侵权风险的认定。为了实现这一目标，AIGC服务提供者可以参考行业的最佳实践，如采取数据审查、数据删除、关键词过滤、服务协议风险提示等措施，以降低知识产权侵权、违法或不良内容等风险。

2. AIGC平台是否可以向第三方公司进行追责？

使用第三方接口的企业虽然不能以第三方提供服务为由消除侵权责任，但是可在承担侵权责任后，依据与第三方服务商的协议等向第三方主张违约责任。这就提示了AIGC企业，在与第三方合作时除了做好尽调，还应当关注双方的合同协议，尤其涉及数据相关的权利义务和知识产权的条款，要结合双方的业务模式进行重点关注，切勿通过制式模板概括式确定。另外，接入第三方接口的AIGC企业，仍然需要有自己的技术措施对内容进行把控，避免出现违法和侵权事宜。

3. 大模型数据删除的可操作性？

从合规角度而言，如果AIGC大模型产品的训练数据中包含可能侵权的数据，一旦发生侵权纠纷，删除侵权数据确实是AIGC大模型的必要举措。但从大模型技术角度而言，如果一个大模型已经接受了侵权数据，重新训练它去“忘记”或“删除”这部分侵权数据，却是一个复杂的问题。因为大模型通常会将训练数据中的模式内化到其参数之中，而其本身的非线性等特征使得它们很难精确地“忘记”某些特定点位的数据。目前的技术办法通常包含重新训练、干扰学习、反向传播删除、知识蒸馏、差分隐私等，但这些方法并不能完全保证删除侵权数据的效果。其中，重新训练是最为直接的方式，即更新整个训练数据集重新进行模型训练，但这一方式成本较高，也可能会导致模型性能下降。

4. AIGC的发展与合规之间的平衡。

合规是平衡的艺术。对于新型业态和技术，司法审判也会坚持利益平衡的原则。结合本案，广州互联网法院强调，“人工智能是引领未来的战略性技术，是新一轮科技革命和产业变革的核心驱动力，被认为是发展新质生产力的主要阵地。我国人工智能技术快速发展、数据和算力资源日益丰富、应用场景不断拓展，为开展人工智能场景创新奠定了坚实基础。考虑到生成式人工智能产业正处于发展的初期，需要同时兼顾权利保障和产业发展，不宜过度加重服务提供者的义务。在技术的飞速发展过程中，服务提供者应当主动积极履行合理的、可负担的注意义务，从而为促进形成安全与发展相济、平衡与包容相成、创新与保护相容的中国式人工智能治理体系提供助益。”

笔者认为，人工智能的应用预示着产业结构化的新变革。从AIGC相关政策上不难看出，我国鼓励并支持人工智能技术的发展，积极推动人工智能的应用。而在应用的初期，如若过度强调合规，则会限制新技术的发展效率；如若过度重视发展，则会在各个行业都衍生出人工智能相关侵权等法律风险。因此，合规的根本意义就是平衡和尺度，其与合法之间具有灰度空间。人工智能的时代已经来临，随之而来的机遇和挑战也在逐步显现，知识产权侵权的风险只是该领域在法律风险中已凸显的冰山一角，海平面之下的新型合规业务，是我们更加广阔的视野。

作者简介

郭贺依律师

北京市京师（上海）律师事务所数据合规与交易研究中心主任， EXIN DPO&DPO-PIPL 双认证律师，数据安全师，高级企业合规师，大数据工程师（高级），京师（全国）青工委业务培训中心副秘书长，京师（上海）青工委副主任。专注服务于数据合规、个人信息与隐私保护、数据出境、共享、交易等业务领域。