河南
近年来，随着人工智能技术迅猛发展，一些不法分子为博取流量、吸引关注，利用AI工具编造虚假信息，严重破坏网络生态，扰乱社会秩序，误导公众认知。为进一步提升全民识谣辨谣能力，6月3日，山西网安部门集中曝光5起近期查处的利用AI技术制造传播网络谣言的典型案例。
【案例一】为博流量虚构“工厂爆炸”场景，企业员工被依法查处
近日，大同网安部门在工作中发现，有网民在某平台发布视频称：“山西大同一车间内发生爆炸，现场只有一名工人受伤，伤者面部烧伤面积100%”，引发网民关注。经查，涉事企业并未发生任何安全事故，相关内容系该企业员工赵某某通过AI工具生成的虚假文案和虚假视频。在互联网平台发布后，引发网民关注，造成不良影响。目前，公安机关已依法对赵某某作出行政处罚。
【案例二】利用AI仿冒名人直播带货，扰乱秩序被依法查处
近日，大同网安部门在工作中发现，辖区居民邢某非法使用中国国民党主席郑丽文形象的AI数字人直播带货，引发网民质疑，严重干扰正常网络秩序。经查，邢某从事直播带货，恰逢郑丽文访问大陆热度很高，遂萌生利用名人热度增加流量的想法。随后在未经授权的情况下，利用AI工具生成AI数字人形象及带货方案，之后在媒体平台直播带货，引发社会关注，造成恶劣影响。目前，公安机关已依法对邢某作出行政处罚。
【案例三】AI生成“高速车祸”谣言，编造“2死6重伤”被依法查处
近日，长治网安部门在工作中发现，网民赵某在某网络平台发布题为“长治人速看！长晋高速大客车侧翻致2死6重伤，道路结冰预警生效，这些行车规则必须记牢！”的贴文，配发多张所谓“事故现场图”，引发网民转发。经查，长晋高速未发生此类交通事故，文中所述内容纯属虚构。赵某承认其为吸引粉丝关注，利用AI工具生成重大事故不实信息并发布。目前，公安机关已依法对赵某作出行政处罚。
【案例四】利用AI伪造“演唱会现场火灾”，为博流量被依法查处
近日，晋城网安部门在工作中发现，某平台网民发布一段视频内容，视频显示为某体育场内疑似发生火灾，并配文称“太原红灯笼体育场突发火情”。该视频迅速引发网民关注与转发，造成不良社会影响。经查，网民张某某在未核实事件真实性、无任何事实依据的情况下，利用AI工具擅自编造“太原红灯笼体育场突发火情”的虚假信息。目前，公安机关已依法对张某某作出行政处罚。
【案例五】AI生成虚假文章，发布“五台县车祸”谣言被依法查处
近日，忻州网安部门在工作中发现，某平台网民发布文章《4月29日突发惨烈车祸：大货车侧翻致3死，现场画面曝光》。文中明确提及“山西忻州五台县”，并附有AI生成的事故图片，引发网民广泛关注。经查，五台县近期未发生此类交通事故。发布者田某某交代，其在某App看到类似标题后，复制链接至AI写作平台生成文章并直接发布。目前，公安机关已依法对田某某作出行政处罚。
公安机关提醒，当前，利用AI生成虚假图文、音视频已成为网络谣言传播的新趋势。此类信息仿真度高、传播速度快、误导性强，极易引发社会恐慌。山西公安机关将持续加大对此类违法行为的打击力度，依法查处造谣、传谣、蹭流量、恶意引流等行为，坚决维护清朗网络空间。
(总台记者 岳旭辉 胡晓冬)
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
