灾难岂容当“流量剧本”？AI造谣遭严打 这些法律红线碰不得

来源：央视新闻客户端

每当有灾情出现的时候，每一秒都是生命竞速，每一条信息都牵动人心，但有人却把灾难当“流量剧本”，用AI工具伪造废墟画面、合成夸张灾情、编造虚假案情，让人难辨真伪，浪费公共资源，更会透支社会信任。

近日，重庆市公安机关就依法处置了一起网民利用AI技术编造散布虚假灾情的案件。

拆穿利用AI编造散播涉及灾情谣言的套路

今年11月，重庆市铜梁区公安局网安支队民警在网络巡查中发现，辖区网民何某在互联网平台上发布了一段标注“铜梁遭遇暴雨灾情”的视频，视频中宣称当地“又涨水了”“多个乡镇被水淹”等信息，引发网友关注热议。

经公安机关核查后确认，该视频为虚假信息，与当地实际情况严重不符。

违法嫌疑人 何某：他们之前发的涨洪水了的视频，我就转载下来，剪辑一下，发到社交媒体里面去。

重庆市铜梁区公安局网络安全保卫支队民警 梁哲好：经网上取证，违法嫌疑人何某在社交媒体上搜索洪水、暴雨、台风等相关视频，再利用AI软件一键生成，AI软件自动抓取了不同地方、不同时期的灾情视频，合成了一个新视频，实际上当地并没有发生相关灾情。

经查，违法嫌疑人何某为提升自身社交媒体账号知名度、博取流量，多次利用AI技术编造嫁接灾情内容并在网上发布。

今年9月，台风“桦加沙”登陆我国期间，何某就曾发布过重庆遭受台风影响的虚假视频，已被警方批评教育过。

日前，重庆铜梁区公安局已依法对何某作出行政处罚，并开展法治宣传教育。何某已主动删除全部不实信息。

利用AI编造灾情 涉案人员被查处

借助AI技术编造灾情的案例并非孤例。事实上，在近年来警方查处的多起造谣案件当中，我们越来越多看到有AI技术参与的影子，这些虚假信息在网络中广泛传播，造成不良影响。有造谣者也因此承担了法律责任。

山西省互联网应急指挥和举报中心发布消息，有网民发布“大同半夜3点发生地震了，人们都出来避难”的视频内容。后经向山西省地震局核实，近期大同凌晨3点钟并未发生过地震。网络传言为不实信息。

今年6月，一段关于“山西悬空寺部分建筑物坍塌”的视频在网络上传播，引发公众关注和担忧。后经当地警方调查发现，这是一条由三名外地网民利用AI技术编造的虚假视频，目的同样是为了吸引流量，博人眼球。

根据相关法律法规，当地警方对其中情节严重的两人作出行政处罚，对另一人进行批评教育。

用AI编造虚假灾情违反我国多项法律法规

网民滥用AI工具编造虚假灾情、扰乱公共秩序等行为，违反了我国多项法律法规，已成为网信、公安等部门近年来的重点整治对象。

中国人民大学纪检监察学院教授 林鸿潮：我们国家关于应对这个突发事件，有一个基本的法律就是《中华人民共和国突发事件应对法》，它现行的第97条就有规定说：编造并且传播有关突发事件的虚假信息，或者明知是虚假的突发事件信息仍进行传播的，是要进行处罚，要责令改正，同时处以警告，如果是公职人员实施这个行为的，还要作出处分。

专家介绍，根据《中华人民共和国治安管理处罚法》的相关规定，散布谣言，谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的，可处五日以上十日以下拘留，并处五百元以下罚款。如果公民散布谣言的情节严重，触及《中华人民共和国刑法》的相关规定，还将被追究刑事责任。

AI造谣技术门槛低

专家呼吁平台加强审核

专家表示，技术的进步使得造谣的门槛降低，相关AI工具平台应加强内容审核，防范虚构内容以假乱真。

记者在网上搜索发现，目前市面上不乏一些可免费使用的“AI写作神器”“一键制作视频自动生成器”等工具软件，经实测，只需输入简单文字指令，涉及汛情、火灾等内容的仿真文案和视频就瞬间生成。对此专家表示，AI生成内容的高度逼真性，正在模糊真实与虚构的边界。

中国人民大学纪检监察学院教授 林鸿潮：突发事件的虚假信息，尤其是大的灾害事故，那跟一般的虚假信息还不一样。它这个公共性对社会心理的这种震动等等，那么它会引起社会的强烈关注，所以影响应该说是非常恶劣的，如果说任其传播的话，后果是严重的。

专家介绍，根据国家互联网信息办公室今年3月印发，并于9月1日实施的《人工智能生成合成内容标识办法》，要求人工智能服务提供者应当对文本、图片、音频、视频等生成合成内容，在适当位置提供“显式标识”，以此区分真实内容。同时服务提供者也要为防范打击相关违法犯罪活动提供支持和帮助。

中国人民大学纪检监察学院教授 林鸿潮：AI工具平台一个是要审核，另外一个制作需要工具，AI工具里要进行一个技术设置，对能生成什么东西、不能生成什么样的东西要有负面的清单，那可能就要有一个阻止的机制，或者说要给予提醒，来进行警告，这个工具的提供方是有这方面的责任的。

应急管理部发布涉灾谣言陷阱识别方法

防灾减灾救灾，关乎人民群众生命财产安全。针对网络谣言翻新伎俩，近期，应急管理部发布谣言陷阱的识别方法，呼吁网民提高对网上虚假信息的辨别能力，同时多关注官方信源，避免情绪化转发未核实内容。

近日，应急管理部发布了如何辨别典型涉灾谣言的提示信息，其中特别提到，短视频中的“AI灾情”因强烈视觉冲击力，正成为谣言的重灾区，此外还提到了所谓“群聊里的‘内部灾情’”、自媒体“标题党”夸大灾情、借灾编造谣言煽动情绪、伪造政府部门“紧急通知”等几类典型谣言陷阱。

应急管理部提示，在辨别谣言方面，公众应关注官方发布的权威信息，注意信息发布时间与事件发生时间是否匹配，注意提及地点出现的场景是否与当地自然环境相符，对夸张内容保持警惕。

应急管理部新闻宣传司网络处处长 张婷：针对灾害事故网络谣言，我们建立了应急管理系统、网络辟谣联动机制，防止灾害事故谣言传播扩散。也希望广大网民提高对虚假信息的辨别能力，尤其要警惕掩盖掉时间、地点等关键要素的“标题党”，警惕视觉冲击力过强、违反常理的所谓现场画面，警惕编造情节、以假乱真的AI灾情。

应急管理部提示，针对涉灾谣言，公众应做到：不轻信网上虚假信息，不转发情绪化未核实内容，保持理性不恐慌，同时不挤占救援通道。不造谣、不信谣、不传谣，共同营造清朗网络空间。