“科技与狠活”渗入造谣诈骗——近期AI滥用典型案例扫描与警示

来源：互联网联合辟谣平台

春节期间，一条“春运绿皮车严重超员”的视频在网络发酵，最终被证实系AI拼接历史画面炮制而成。事实上，这起事件并非孤例，在AI技术加速普及的当下，利用AI造谣、敲诈、诈骗的案例正呈现多发态势。从伪造病历敲诈商家，到生成虚假火灾视频博取流量，再到AI拟声冒充亲属诈骗老人——AI正在被异化为新型“违法工具”，其低成本、高迷惑性的特点，对社会治理和公众安全构成严峻挑战。

今年2月，上海杨浦区一烤肉店负责人唐先生报警，称顾客杨某以“吃坏肚子”为由索赔2000元，并出示医院就诊记录。唐先生转账后察觉异常，怀疑被敲诈遂报案。经核实，杨某的相关病历及发票均系伪造，据其到案后供述，其利用AI软件篡改他人就诊记录，伪造姓名、日期及金额，他还利用伪造的材料向市场监督管理局、12315等渠道进行多次投诉举报，并以此逼迫商家赔付。目前，杨某因涉嫌敲诈勒索罪已被依法采取刑事强制措施。

从敲诈勒索到造谣传谣，AI滥用的场景正在快速蔓延。2月16日除夕当晚，一条“四川绵阳三台县发生火灾”的视频在抖音传播。经当地公安调查，李某刷手机看到外地房子着火的视频后，截取截图通过AI生成虚假火灾画面，并将位置篡改为“三台县·水观音”发布。由于发布时间正值除夕当日，部分网友信以为真，纷纷转发导致谣言扩散。目前，李某因故意虚构事实扰乱公共秩序已被公安机关行政处罚。

更为恶劣的是，AI技术还被用于针对弱势群体的精准诈骗。最高法2月26日发布的典型案例中，披露了一起AI拟声诈骗案。诈骗分子针对独居老人，利用AI拟声换音技术冒充其孙子，通过电话实施诈骗。因老年人转款不便，吴某涛配合诈骗分子上门收取赃款，从3名老人处骗取现金共计6万元。人民法院对吴某涛依法判处刑罚，从司法层面斩断电诈赃款变现“最后一公里”。

透视这些案例，可以发现AI滥用正呈现出一系列值得警惕的传播特征与风险隐患。

首先是造谣成本低。过去，造谣需要实地拍摄、复杂剪辑；敲诈需要真实证据；诈骗需要面对面。如今，AI一键生成、批量炮制、深度伪造，让违法成本大幅降低。去年，江西公安机关查处的一起MCN机构造谣案中，当事人通过AI工具日均发布4000到7000条信息，日收入超过1万元。

其次是情绪煽动性强。AI通过抓取网络热词和视觉符号，精准狙击公众在特定时期的集体记忆与潜在担忧。除夕夜的虚假火灾视频、春运期间的“绿皮车超员”谣言，均选择在公众情绪敏感期发酵，极易激发公众焦虑情绪，实现跨圈层病毒式传播。

再次是识别难度显著增加。AI生成的画面在光影、细节上日益逼真，加之混剪真实素材，其欺骗性远超以往的谣言呈现形态。办案民警指出，这类犯罪“迷惑性强、隐蔽性高”，普通网友仅凭肉眼很难辨别真伪。

这些传播特征相互叠加，共同放大了AI滥用的社会危害。当低成本的造假工具遇上高传播性的社交平台，再辅以真假难辨的技术伪装，AI滥用的风险便从单纯的个案蔓延为系统性挑战。

从内容层面看，复合型谣言真假难辨。AI混剪历史画面与生成内容，真假交织，增加核实门槛，对公众信息甄别能力提出挑战。在“绿皮车超员”谣言中，AI将历史资料画面与生成内容拼接，普通网友难以辨别真伪。

从应用场景看，技术滥用形式多样。从伪造病历、生成虚假视频，到AI拟声诈骗、盗用明星形象，AI滥用已渗透到敲诈勒索、造谣传谣、电信诈骗等多个领域。演员王劲松2月26日发文称，其形象被AI盗用生成视频，“声音、口型完全看不出来真假”，连家人都难以分辨。这种深度伪造技术对个人肖像权、名誉权的潜在威胁不容小觑。

从侵害对象看，针对重点人群精准作案。独居老人成为AI拟声诈骗的重点目标；春节返乡群体成为春运谣言的情绪靶点；餐饮商家成为AI伪造病历敲诈的受害者。这种精准化作案模式，让防范难度进一步加大，也让社会信任感受到侵蚀。

从上海餐厅的AI假病历，到绵阳除夕的AI假火灾，再到针对老年人的“AI假孙子”——这些近期密集曝出的案例，勾勒出一幅幅令人忧心的图景：AI技术正在被异化为新型“违法工具”。当“眼见为实”被颠覆，当“亲属来电”也可能造假，公众的安全感受到挑战，社会治理面临全新课题。

国家对AI技术滥用的“零容忍”：中央网信办在全国范围内开展“清朗·整治AI技术滥用”专项行动，在春节期间开展“清朗·2026年营造喜庆祥和春节网络环境”专项行动，明确将“利用AI生成传播‘数字泔水’等垃圾信息”列为整治重点。公安机关对多起AI滥用案件快速查处，最高法发布典型案例释放“诈骗必受惩”的强烈信号。

然而，技术迭代永不停歇，治理手段必须跑在违规作恶前面。对于平台而言，不能仅满足于事后下架，更需建立事前防范——给AI生成内容打上不可篡改的水印，对高迷惑性内容强化算法审核。对于公众而言，在这个“有图未必有真相”的时代，需要建立新的信息接收习惯：多一分警惕、多一次质疑、多一步核实。

AI是工具，向善还是作恶，取决于使用它的人。当技术被用于敲诈勒索、造谣诈骗、侵犯权益，它就不再是进步的阶梯，而是违法的加速器。让AI回归“辅助人类”的本位，需要法律利剑高悬、平台守土有责、公众擦亮双眼——三者合力，方能织密防护网，让“数字泔水”无处泼洒。