广西
今年4月，广西玉林市容县公安局网安大队工作人员，在网上发现了一条利用AI技术生成的冒用人民警察公职人员形象，为某娱乐场所做广告的短视频。
容县公安局网络安全保卫大队大队长 戴智斌：这条视频我们第一眼就发现它有AI的特征，比如人物的神态、口型，都跟日常采访不一样。我们经过溯源，迅速将发布者黄某传唤到容县公安局执法办案中心。
经查，黄某在容县经营一家娱乐场所，他利用AI技术制作了这条虚假采访视频，并将其发布至某社交平台及本地生活群组引流。
容县公安局网络安全保卫大队大队长 戴智斌：人民警察制式服装、警务形象是法定专属标识，黄某的行为违反了《中华人民共和国治安管理处罚法》《中华人民共和国人民警察法》《中华人民共和国网络安全法》属于利用网络编造、传播虚假信息，扰乱社会公共秩序，造成不良影响。
目前，属地公安机关已对黄某作出行政处罚。警方提示，网络空间不是法外之地，切勿为博取流量触碰法律红线。
AI生成虚假视频
扰乱公共秩序行政拘留七日
像这样利用AI工具生成虚假视频的情况并非个例。近日，上海市公安局轨交分局民警在工作中发现，有人发布视频称上海地铁头顶墙皮掉落，经核查该视频也是AI生成。
6月13日，上海市公安局轨交分局民警发现，一条名为“上海地铁突发惊魂一幕！头顶墙皮轰然掉落，早高峰谁还敢安心走？”的视频在网上大量传播。
视频中称，该事件发生于6月12日。后经核实，6月12日早高峰，上海地铁18号线江浦路地铁站的确曾有少量墙皮脱落，但这条视频中的惊悚画面，明显与事实严重不符。公安机关迅速查到该视频的发布者——居住在湖北黄石的孙某。
上海市公安局轨交分局治安支队副支队长 陆志豪：违法行为人为博取流量、吸引粉丝，遂将相关的新闻喂到AI后进行视频生成，最终生成一个夸大视频，在自己的微信视频号中予以发布，最终造成恶劣影响。
最终，公安机关认为，孙某利用AI工具生成虚假视频，通过互联网散布，误导公众认知，实施了故意虚构事实，扰乱公共秩序的违法行为。根据《中华人民共和国治安管理处罚法》相关规定，今年6月15日，上海市公安局轨交分局给予孙某行政拘留七日的行政处罚。
赶紧关注我们的官方账号吧~
清朗网络空间，我们共同守护！
扫码进入举报不良信息页面
来源丨央视新闻、公安部网安局
编辑｜李文彬
柳州市互联网信息办公室出品
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
