AI造谣“移花接木”乱象：技术如何沦为谣言制造机？

当你在手机上刷到"德阳液化气罐车爆炸致多人伤亡"的新闻时，是否会立刻转发给亲友提醒？这个看似专业的报道，竟是AI虚构的"完美谣言"——有具体时间地点、专业术语描述、甚至配了"现场视频"。公安部最新公布的10起网络谣言典型案例揭示：AI技术正被恶意利用，造谣门槛降至前所未有的低点。

打开百度APP畅享高清图片

image

德阳案件拆解：AI如何降低造谣门槛

image

8月11日，网民"忽如一夜春风来文章"在今日头条发布《气罐车起火爆炸》一文，声称"2025年8月10日德阳市旌阳区发生液化气罐车爆炸"。文章细节令人毛骨悚然：消防通道被占导致救援延误10分钟、爆炸产生巨大火球波及村民。配图显示货车燃烧、群众撤离的"现场"，阅读量迅速破万。

警方调查发现惊人真相：文字由AI生成，视频截取自山西真实爆炸事件。造谣者李某通过三个步骤炮制"完美谣言"：用AI虚构专业术语增强可信度；嫁接异地视频形成"证据链"；选择算法推荐机制强的资讯平台投放。德阳网安支队王周木指出，这种"技术+心理"组合拳，让普通网民难辨真伪。

从网络恐慌到现实冲击：谣言的社会危害链

德阳谣言引发连锁反应：当地村民被警方反复走访核实，交通消防部门启动应急响应，公共资源被严重浪费。类似案例在公安部通报中屡见不鲜——云南玉溪"入城收费"谣言导致政策信任危机，某地地震谣言引发超市抢购潮。数据显示，2024年网络谣言引发的线下出警量同比上升37%。

中国人民大学丁晓东教授分析，AI谣言具有"破圈"特性：算法推荐使其突破原有受众圈层，而逼真内容又加速了从线上传播到线下行动的转化。当一条谣言同时触动公众安全焦虑与政策敏感神经时，其破坏力呈几何级数增长。

平台审核失灵：AI内容为何成为漏网之鱼

德阳谣言发酵8小时后才被拦截，暴露平台审核三大漏洞：现有系统无法识别AI生成内容的数字水印；未建立"未来时间点+热点事件"的关联预警；对消防、医疗等敏感领域缺乏延迟发布机制。相比之下，某平台因未及时删除地震谣言被网信办约谈，凸显监管滞后代价。

技术专家指出，AI造谣已形成"素材库+生成工具+传播策略"的黑色产业链。造谣者利用平台审核的"时间差"，在黄金4小时内完成传播裂变，待人工审核介入时，社会影响已难以挽回。

治理破局：技术双刃剑的平衡之道

应对AI谣言需多方协同：技术上推行内容强制标识制度，研发深度伪造检测工具；平台需对重大事件设置AI内容二次审核，敏感领域实施延迟发布；法律层面依据《治安管理处罚法》第25条严惩造谣者，德阳案件当事人李某已被依法查处。

北京航空航天大学赵精武副教授建议，算法推荐应增加辟谣信息权重。当用户搜索相关关键词时，平台需优先展示权威部门辟谣，用真实信息对冲虚假内容。

结语：在技术狂欢中守住真相底线

面对AI造谣的"降维打击"，每个网民都应成为真相的守门人：核查信息中的时间地点是否自洽，警惕"专业分析+模糊信源"的组合，通过中国互联网联合辟谣平台验证可疑内容。正如网警的警示：当AI能一键生成谎言时，我们更要亲手点亮真相的火把。