AI造谣“零成本”，怎么破？

AI时代，炮制一则谣言有多快？

上海警方近日接报一起涉企谣言案件中，犯罪嫌疑人借助AI工具，5分钟即可制造百余篇文章。为赚取平台流量收益，他们用5台电脑、3台虚拟服务器，控制4000个自媒体账号发布各类不实稿件，截至案发时已非法获利8万余元。

“AI工具降低了造谣门槛，甚至少数造谣者在警方上门时还不以为然。”上海市公安局网安总队民警王波说，越来越多涉企谣言案件中出现了AI技术的影子。

企业安心经营，离不开清朗有序的网络环境。今年以来，上海公安机关持续开展打击整治专项行动，截至目前已侦办相关案件50起，依法查处69人，累计清理涉企网络谣言信息4600余条，270余个违规账号被采取禁言、封停措施。

70万条AI谣言从客厅发出

今年3月，小米、蔚来、沃尔沃等多家车企陆续向警方反映，发现网络上有大量关于汽车销量下滑等内容的文章，疑似有“强大的幕后黑手”。

嘉定警方成立专案组，梳理大量网络信息后发现，归属于4家MCN机构的4000余个自媒体账号，围绕汽车、财经等话题不断发稿，反复翻炒热搜话题，添加夸大、歪曲、影射的内容，共计发布70万篇稿件，博得8000万阅读量。

然而警方线下抓捕时却发现，这些庞杂的谣言稿件背后，只有嫌疑人梁某、郭某两人，警方从梁某家客厅起获5台电脑。

他们为何如此“高产”？据供述，梁某、郭某购买了4000多个自媒体账号，利用AI将热搜话题内容加工成图文并茂的帖文，不加任何甄别地随机匹配给不同账号进行发布，目的是为了赚取平台点击流量奖励。只需动动手指，从不审核内容，轻轻松松非法获利8万余元。

在警方发布的涉企谣言案例中，此案例为比较少见的刑事案件。“AI工具看似省力，可造谣终须付出代价，情节严重会构成犯罪。”王波提醒说，每个人都应为自己在网络上发布的信息负责，警方对于通过AI工具洗稿批量生成“伪原创”文章造谣中伤企业的新型违法犯罪行为，坚决予以严厉打击。

不要删除“AI技术生成”字样

王波介绍，利用AI工具造谣，除了黑公关敲诈勒索、黑灰产赚取平台奖励等情形，还有部分网民是临时起意或法律意识淡薄导致的。

日前，青浦分局网安支队民警在工作中发现一则点赞上千、评论破百的短视频，显示某平台外卖员将洒落在地的面条重新装盒配送。评论区有人批评这名外卖员，也有人“抖机灵”评论道：“我也干过”“这事谁没干过”。

警方循线找到发布这条视频的网民刘某某时，他还若无其事地认为随手发了条视频，没什么大不了的。青浦分局网安支队民警徐祯意介绍，刘某某并非视频原创者，他从网络下载这条视频后，故意删除了文案中的“AI技术生成”语句再发布，由此导致其他网友误会这是真实事件。目前，刘某某已被青浦警方依法处以行政拘留，高某某、武某某被依法处以行政处罚。

黄浦公安分局破获一起利用AI编造不实谣言为医院引流案件。采访对象供图

随手一转即可引发波澜，利用AI工具造谣应当怎样监管？发布人要对信息负责，平台也有监管义务，譬如可以使用AI预警模型反制此类谣言，同时完善举报查处不实信息的流程机制，为企业和个人及时挽损。

公安机关也在不断完善“安全篱笆”。目前有多种渠道向公安机关咨询或举报涉企谣言，包括“上海网警”微信公众号、网警咨询热线021-22024110、“守沪e站”涉企谣言线索举报邮箱shez@gaj.shanghai.gov.cn、随申办企业云App公安警企在线服务专栏，以及“守沪e站”网络安全服务站点现场报案。

“万变不离其宗，请广大市民坚持不造谣、不信谣、不传谣。”王波说。