人工智能犯罪与我国对策研究

原文刊载于《中国科学院院刊》2025年第3期"专题：人工智能与公共安全”，本文为精简改编版

高建新 孙锦平 蔡瑜坤* 王崇鹏 杨燕燕 王凯悦

北京市公安局

人工智能技术正重塑生产生活方式，并催生了社会危害和犯罪风险的迭代升级。自2015年起，已出现相关人员利用人工智能技术实施犯罪的案件，且呈现逐年增长的趋势，治理难度与日俱增。应高度重视人工智能可能带来的威胁风险，并理顺发展与安全、治罪与治理之间的关系，探索人工智能犯罪治理有效措施。

1

人工智能犯罪概述

1

人工智能犯罪类型

结合人工智能技术发展及公共安全领域治理实践，人工智能犯罪主要分为三个类别，包括利用人工智能技术进行的犯罪行为、针对人工智能系统进行的犯罪行为、人工智能独立实施的犯罪。对近年国内外出现的人工智能相关犯罪进行统计分析，大多属于利用人工智能技术进行的犯罪行为，主要涉及以下四类案件。

诈骗勒索类。通过大模型、深度伪造技术制作虚假信息进行诈骗或勒索，是人工智能犯罪最典型的类型之一。最高人民检察院发布的检察机关依法惩治电信网络诈骗及其关联犯罪典型案例显示，2023年人工智能相关诈骗共涉及1437名受害者，涉及金额3586万余元。

网络攻击类。利用人工智能技术辅助网络攻击，降低了实施难度，提高了攻击的成功率。据研究机构Gartner日前发布的《2024年第二季度新兴风险排行榜》调查显示，人工智能增强的网络攻击已成为全球企业、组织等数字化发展中的最大新兴风险。

侵犯公民个人信息类。人工智能模型训练需要大量的样本作为训练数据，催生了“人脸”等生物特征信息非法获取及使用的黑色产业链。2024年，韩国出现多起利用深度伪造技术将女生头像和身体部位使用人工智能技术合成进行淫秽影像传播的案件，被称为“新N号房”事件，据报道，涉案人数可能达22万人。

编造传播虚假信息类。使用 “AI换脸”“AI换音”等内容的虚假新闻信息，易对大众认知及社会秩序产生干扰。公安部公布的2024年10起打击整治网络谣言犯罪典型案例中，有4起涉及违法人员使用人工智能技术生产的虚假内容进行造谣。

2

人工智能犯罪态势

一是案件数量快速增长。奇安信集团《2024人工智能安全报告》指出，2023年，基于人工智能技术进行的深度伪造欺诈增长3000%，基于人工智能技术生成的钓鱼邮件增长1000%。二是辐射范围不断扩大。根据公安机关执法办案分析，1071个主案别中的犯罪行为可能涉及人工智能的有214个，占比19.98%；2840个细分类案件性质中犯罪行为可能涉及人工智能的有596个，占比20.98%。且由传统犯罪领域逐渐向政治、军事等领域蔓延。三是犯罪手法加速升级。人工智能作为新一轮技术革命的代表，其模型算法不断加快迭代升级，催生犯罪手段更加智能化、隐蔽化。四是技术门槛持续降低。人工智能技术可自动化实现复杂犯罪活动，借助AI技术可使不具备高技术背景的人也可简单快速的实施犯罪。

3

人工智能犯罪特点

一是伪装程度高。利用人工智能技术生成内容实施的犯罪活动真实性更强，受害人难以识别出犯罪行为。二是智能化程度高。犯罪分子只需将要求告知人工智能模型，人工智能即可智能地开展犯罪活动，大大降低犯罪实施的难度，减少犯罪成本。三是行为过程的不确定性风险更大。人工智能算法具有多样性、复杂性和“黑箱”等特性导致一些犯罪行为难以被及时发现或追踪。四是具备自主决策能力。智能决策机制可能会突破一些人类预先设定的基本原则，开展超出人类意志的有害行为。

2

我国人工智能犯罪治理现状及挑战

我国在人工智能犯罪治理方面，形成了多主体、多领域协同共治良好局面，取得显著成效。但随着人工智能发展进入快车道，技术的演进衍生出复杂多变的新型风险，防范化解面临挑战。

一是人工智能安全法律法规体系有待完善。我国在人工智能立法上存在立法层级低、立法规定落后、体系衔接不畅等问题。当前，我国人工智能安全相关规制条款分散在不同层级的法律法规中，缺乏统一的监管法律，难以形成治理合力，且缺乏具体操作标准，导致在实际应用中难以执行和监管。

二是人工智能监管措施尚未健全。生成式人工智能提高了视频和语音生成内容的合理性和逼真度，降低了虚假信息的生成成本，现有的监管措施难以适用这种新的安全防范要求，存在明显的滞后性。

三是人工智能犯罪治理的国际合作面临挑战。目前，全球尚无人工智能技术使用的统一标准规范，未达成统一的关于人工智能治理的国际条约。欧盟倾向于以人为本的监管模式，而美国则倾向于自主自治；中国主张数据主权原则，美国采取利益攸关方准则，两国跨境数据流动政策的核心关注、政策基调和战略诉求依然存在根本差异。

3

我国应对人工智能犯罪挑战的对策建议

随着人工智能技术高速发展，我国安全监管刚刚起步，面对人工智能犯罪挑战，可从顶层设计、技术治理、加强监管、人才培养、宣传教育与合作交流等方面综合发力，构建全方位人工智能犯罪治理体系。

一是强化人工智能安全顶层设计，完善相关法律规制。通过建立高级别领导指挥体系，在省部级政府机关成立人工智能安全领导小组和专家组，为领导决策提供专业支撑。制定专门性法律，早期以技术创新为主，在技术成熟期和大规模应用时，实行更严格的监管，完善人工智能的开发者、提供商、使用者等相关方的责任追究机制。健全人工智能相关配套政策与技术规范，系统制定和完善与人工智能犯罪治理相关的国家和行业标准，提高生成模型透明度。

二是加强人工智能安全技术创新，提升技术应对能力。利用人工智能技术提升犯罪预防和侦查效率，建立人工智能犯罪发现和处置系统，开展常态化监测预警。同时，提升人工智能系统与应用自身安全，构建准确、稳健、安全、隐私、公平和可解释的人工智能算法，加强对软硬件设施的安全防护，及时发现和解决潜在的安全威胁。

三是加强人工智能系统安全管理，建立分级监管机制。根据生成式人工智能服务的风险高低与适用领域进行分类分级监管，建立一套全面覆盖技术、伦理和社会安全的人工智能风险评估体系，构建人工智能风险防控和应急响应机制。加强人工智能安全相关信息的收集和分析工作，及时向相关企事业单位通报预警信息，制定相应的应急预案并定期组织演练。

四是加强人工智能安全人才培养，提升犯罪打击能力。打击人工智能犯罪需要培养一批“善侦查、专技术、懂法律”的交叉复合型高素质人才，应当优先在公共安全相关高校设置专门人工智能安全相关专业，持续跟进人工智能及其安全前沿趋势，建立并培养人工智能犯罪打击专门力量，定期开展人工智能犯罪专题研究。

五是加强人工智能安全宣传教育，提升公众认知能力。加大人工智能安全教育与宣传力度，聚焦数据安全、网络谣言等热点问题，通过线上线下相结合的方式宣传人工智能安全法律法规、政策文件、国家标准等内容，借鉴全民反诈宣传模式，依托知识科普和短视频平台等，提升公众对人工智能安全观和相关法律法规的认识。

六是加强人工智能犯罪国际合作，提升跨境处置能力。大力推动国际执法合作，发挥高层互访的引领作用，定期与外国执法部门和有关国际组织就人工智能安全、打击跨国犯罪、追逃追赃等议题深入磋商，共享研究成果和治理经验，共同研究制定国际规则和标准，建立人工智能犯罪专属数据库，实时共享犯罪信息，对跨境人工智能犯罪形成有力震慑。

作者简介

高建新北京市公安局副局长。主要研究领域：人工智能安全、网络安全等。

蔡瑜坤北京市公安局网络安全保卫总队副总队长。主要研究领域：人工智能安全、网络安全等。

文章来源

高建新, 孙锦平, 蔡瑜坤, 等 . 人工智能犯罪与我国对策研究 . 中国科学院院刊, 2025, 40(3): 408-418.

DOI:10.16418/j.issn.1000-3045.20241025004.

本刊发表的所有文章，除另有说明外，文责自负，不代表本刊观点。

2025年第2期

2025年第3期

2025年第4期