照谣镜 用AI伪造“新闻”牟利日产19万篇，一批造谣者被抓

自4月23日开始，中央网信办在全国范围内开展为期两个月的“清朗·整治‘自媒体’无底线博流量”专项行动。重点整治“自媒体”造热点蹭热点，制造以假乱真、虚实混杂的“信息陷阱”等突出问题。近日，西安警方就破获了一起网络谣言案。

（图源：央视新闻）

2023年12月21日，某短视频平台上，一条短视频引发了很多西安市民的关注。视频里，流经当地的一条河流潭峪河上，冒出一阵阵白色的热气。有市民担心是不是市政的热水管道出现了泄漏。

当地多个部门很快介入调查，原是一条热力管道在河道上，冬天的时候管道过热，在河面上产生了水蒸气，管道没有破裂，也没有出现热水外泄的情况。

当地官方很快辟了谣。然而令人奇怪的是，此后网络平台上仍然有一些自媒体账号在不断散播西安市鄠邑区管道破裂的消息，而且帖文里还言之凿凿相关部门正在对事故原因展开深入调查。

警方调查发现，有的帖文配图，是2011年5月商丘网当时发布的管道破裂的一张图片。

（图源：央视新闻）

然而，就是这样一个拼凑的不实帖文，在很多自媒体账号上被大量转发，并引起了很多网友的恐慌。一些很多同质不同类型的不同描述的一些帖文，总阅读量已经达到20多万了。

雷同的谣言背后竟是AI“洗稿”

官方辟谣后谣言还在大肆传播，到底是怎么回事？原来，在这些散布不实消息的自媒体账号背后，竟然隐藏一条依靠AI人工智能洗稿并且未经审核、肆意发布的黑色产业链。

根据警方的调查，最早发布不实消息的，有一个名叫“可爱的牛牛往上冲”的自媒体账号。而这个账号的实际操作人，是四川绵阳的王某。于是，办案民警赶到绵阳，对王某进行了传唤。

警方调查发现，王某加入了一个微信群。微信群里面像王某这种类型的群众还比较多。他们微信群的群主，每天定时会推送一些文章到群成员自媒体账号的草稿箱里面。

（图源：央视新闻）

据王某交代，微信群里的成员收到这些文章后，还需要在草稿箱里点击发送，这样就可以把文章发布到各自的自媒体账号上，而发布者会根据阅读量和转发量来获取收益。用户获取收益之后，会把一半的收益分给群主，也就是供稿人。

警方很快查明，王某所在的微信群群主是柳某，而据柳某交代，跟他一起发布文章的还有他的同学唐某，而且他们发布的文章也都不是自己写的，而是来自一款叫“翠绿笔墨”的写稿软件。

每天生成19万篇文章牟利分成

上述涉案的“翠绿笔墨”软件，一天就能生成19万篇文章，7天能达到上百万篇。它是如何运作的？又是怎么流向网络的呢？

（图源：央视新闻）

据警方了解，这款名为“翠绿笔墨”的软件，是一个名叫黄某的男子开发的。用户需要从一家专门售卖新闻稿件的网络平台上，购买大量的真实新闻稿件，形成稿池。接下来，注册用户就可以根据各自的需求，自动生成一篇篇的文稿。

张羽林介绍，这个软件生成文章的特点就是它会从大量的从平台购买的社会热点新闻里，根据用户的需求抓取热点比较高的文章，然后用AI软件把这些文章进行拼凑、前后段落颠倒、同义词替换，产生一篇同质的反映同一件事情的不同类型的文章。为规避监管，不引发风险，这款软件在抓取社会热点文章时，还专门设计了关键词筛选的功能，会规避一些涉政、涉案件、涉暴恐的文章。

民警介绍，从2023年10月黄某开发“翠绿笔墨”软件之后，在三个月时间内，获利24000多元。虽然他个人获利不多，但这款软件每天产生的文章大概在19万篇左右，他们提取了7天这个软件里面保存的文章，大概在100多万（篇），涉及时事新闻、社会热点、社会生活方面。使用该软件的169个用户，将这些拼凑的文章发布到6000多个自媒体账号上。

（图源：央视新闻）

新型谣言 “有视频也未必有真相”

“有视频也未必有真相”。早在去年6月2日，浙江就破获了首例利用AI炮制虚假信息的案件。

这则“绍兴上虞工业园区发生重大火灾”的视频就是通过AI技术深度合成，看上去煞有其事的播报事件，实际上子虚乌有，视频实为网上其他火灾画面剪辑拼接而成。

去年5月中旬以来，该团伙为吸粉引流、牟取利益，利用AI合成技术自动生成虚假视频，通过平台返利形式非法获利4万余元。截至案发，已经编造虚假视频1.8万余个，有20个视频造成恶劣影响。

通过AI合成技术，不法分子大大降低了虚假视频的制作门槛，有的仅需1分钟就可以制作完成；而当这种技术应用在虚假文章生产上，则成了违法违规的重灾区。

（图源：央视新闻）

去年6月，一则“绵阳大学生涉嫌卖淫800多次，赚120余万元，警方成功抓获”的配图文章引发网民围观，后经警方证实，为AI软件自动生成虚假文章。

今年3月，山东警方破获一起特大造谣引流网络水军案，某传媒公司利用群控软件和人工智能技术，大肆爬取境内外短视频内容，篡改编造敏感社会事件，在网络平台发布虚假信息，通过其运营的自媒体账号达4万多个，虚假帖文信息80多万篇。

近日，公安部网安局还公布了一批涉谣言典型案例，其中一起由安徽合肥警方破获的案件引发关注。

今年1月25日，安徽合肥市新站区佳海工业园一栋仓库发生火灾。合肥消防当天发布火警通报：本次火灾过火面积约470平方米，无人员伤亡，火灾原因正在调查中。

但当天，在某网络平台上出现一则关于这起火灾的消息，其中“巨大人员伤亡”的描述令网友们十分揪心。

合肥警方调查发现，发布这则网络谣言的博主网名叫“会飞的鱼”，所在地为四川省成都市，而且帖子中出现的地区并非火灾的实际发生地。

原来，“会飞的鱼”看到合肥的这起火灾报道，于是截取了相关媒体的报道图片，并复制了报道中的部分文字，然后把这些内容放到AI软件中生成文章，通过自己的账号发布在网络平台。

（图源：央视新闻）

警方发现，林某某在发帖时还故意使用了一些极其夸张的词语描述。为了突显火灾的严重程度，他在帖文中写道：“此次火灾中，许多人失去了家园和工作，造成了巨大的人员伤亡和财产损失。”他还配了几张浓烟滚滚的火灾现场图片，并用标红字体写到“是否有伤亡，情况不明”。而林某某这么做的本意是想把发帖当作副业，赚取稿费。

据了解，上述利用AI造谣者，均受到了应有的法律制裁。

极目新闻综合央视新闻、澎湃新闻、光明网、潮新闻、安徽警方

（来源：极目新闻）