生成式人工智能刑事规制应遵循三项原则

潘莉

当前，生成式人工智能技术正引发生产生活方式的深刻变革。2022年美国发布的ChatGPT通过数据训练实现类人化内容生成，2025年杭州深度求索公司发布的DeepSeek则凭借算法创新与训练范式突破，构建了生成式AI发展新范式，其与传统人工智能的核心差异在于不局限于现有数据，具备自生成模式，可模仿甚至超越人类想象，创造出新的内容，且呈现爆发式增长。新技术在催生新业态的同时，也对人工智能领域的著作权刑事保护提出全新挑战，有必要从犯罪风险类型、司法实践困境和刑事保护原则等方面进行阐释。

从刑事风险维度观察，其可能涉及的犯罪风险主要包括四类：

一是工具型犯罪，即利用生成式人工智能作为行为工具实施犯罪。此类犯罪的本质未因技术手段更新而改变，责任主体明确为使用者。如2025年某法院审理的人工智能侵犯著作权案，被告人通过操控人工智能工具复制美术作品并制成拼图销售而非法获利，被法院定罪判刑，体现了“工具属性不改变犯罪本质”的司法逻辑。

二是对象型犯罪，以生成式人工智能技术本身的权属为侵害对象。如某法院审理的人工智能领域侵犯商业秘密案，行为人违反保密义务窃取人工智能芯片核心代码并用于融资，此类行为直接指向技术成果的权属保护，适用传统商业秘密犯罪规制路径。

三是数据型犯罪，存在于生成式人工智能的数据采集环节。生成式人工智能的研发以数据输入和训练作为重要条件。模型训练依赖海量数据输入，如果未经著作权人许可，通过网络爬虫等破坏技术保护措施的手段获取受著作权法保护的内容，或者不当收集公民个人信息、商业秘密等，可能触犯侵犯著作权罪、侵犯公民个人信息罪、侵犯商业秘密罪等罪名，核心争议在于数据获取的合法性边界。

四是自主型犯罪风险，产生于人工智能内容生成的脱离编程控制的自主行为。与传统人类创作相比，人工智能自主生成物具有显著特征：创作过程具有自主性，能独立完成从构思到表达的全过程；创作结果具有不确定性，相同输入可能有不同输出；创作效率高，短时间内能生成大量内容；创作内容多样，可模仿多种风格和形式。此类犯罪形态对传统刑事司法构成根本性挑战。

前三种类型风险属于现在进行时，可通过传统刑法理论解决。第四种自主型犯罪风险虽然属于将来进行时，但生成式人工智能的发展必然极大程度引发社会生产力的重大变革，进而引发生产关系的重大改变，将对刑事司法实践提出四大挑战：

一是责任主体认定困境。人工智能生成物涉及开发者、数据提供者、使用者、平台运营者等多元主体，传统“自然人、单位”犯罪主体框架难以覆盖，责任归属面临重构压力。

二是对作品的独创性与实质性相似认定标准是否需要修正。刑法保护的“独创性”需体现人类智力的直接创造性，而对人工智能生成物的“独创性”判断缺乏明确标准。自主生成物和被侵权作品是否构成实质性相似缺乏判定依据，刑事打击门槛难以把握。

三是侵权链条复杂化。从数据获取、模型训练到内容传播，环节多、技术性强，主观恶意认定难度大，精准追责面临技术壁垒。

四是刑事政策平衡难题。过度刑事干预可能抑制技术创新，纵容侵权则损害原创权益，需在“保护”与“激励”间找到动态平衡点。

面对这些全新挑战，法律工作者必须保持高度的法治理性。刑法应有所为有所不为。知识产权本质上属于民事权利，司法保护主要依赖民事法律手段。知识产权的私权性质决定了其刑事保护较一般刑事案件更具有特殊性，针对上述挑战，知识产权刑事保护在查明技术事实、与前置法(著作权法)保持一致前提下，需恪守三项原则：研发风险与承担责任相匹配原则、技术特征与法律价值相平衡原则、适度介入与必要打击相兼顾原则。

一是研发风险与承担责任相匹配原则。承认技术中立性与风险伴生性，对研发者基于当前技术水平无法预见的风险后果，不得适用刑事规制，否则将违背主客观相统一原则，阻碍技术进步。严格区分“研发行为”与“应用行为”、“技术提供”与“工具使用”。区分人工智能自主生成物是否适用于医疗诊断、公共安全等特殊领域和非特殊领域。对模型训练中的必要数据使用瑕疵，与专门开发“盗版人工智能”的恶意行为应差异化评价。

二是技术特征与法律价值相平衡原则。从技术特征看，人工智能价值链涵盖数据收集、模型训练、内容生成、应用部署等复杂环节，涉及多元主体，需要关注传统法律主体与行为责任的对应关系。人工智能法律责任的界定需结合算法逻辑、数据来源、自主学习机制等技术特征，平衡创新激励与风险防控。

三是适度介入与必要打击相兼顾原则。刑法介入需保持谦抑性。对保护对象限定聚焦人类原创智力成果，对人工智能“输出”内容，仅在体现“人类实质性智力投入”且符合独创性标准时方可纳入保护；对风格模仿、思想借鉴类生成物，通过民事途径调整。对行为危害性门槛需限定于产业化、规模化、恶意明显的侵权行为(如人工智能批量生成盗版作品、开发侵权专用软件、平台明知侵权仍传播获利等)，普通侵权行为排除刑事适用。

生成式人工智能的发展是时代必然，刑事司法需在坚守上述三项原则的基础上保持开放性。其核心在于，既不纵容以技术为幌子的恶意侵权乃至犯罪，也不为创新设置不必要的刑事障碍。唯有如此，才能实现著作权保护与技术创新的良性互动，最终守护原创者的合法权益与社会创新活力。

(来源：检察日报，作者单位：上海市人民检察院第三分院)