AI技术被滥用的风险，从制造海量网络垃圾到造假、诈骗

近日，上海警方通报打击 “涉企网络谣言”成果。截至目前，警方已侦办涉企网络谣言案件50起，依法查处69人，累计清理涉企网络谣言信息4600余条，270余个违规账号被采取禁言、封停措施。

在通报中，举了四个典型案例，其中三个和AI有关，两个是AI制作虚拟视频，这大部分人都可以理解，典型案例三则不同。

两个人为博人眼球、获取流量，使用AI写稿，发布针对多家车企的谣言，累计发布不实文章70余万篇次，非法获利8万余元。

注意此案的特点：

① AI批量生成虚假文案；

② 海量账号发布；

③ 收入来源主要是平台的流量费。

70余万篇，非法获利8万余元，平均每篇收入不到0.13元。这收入很可能都来自平台的流量收入。

AI被用于海量制造垃圾，去斩获每篇文章“微不足道”的流量收入，但聚沙成塔，积累起来也成为某些人获得不低的“收入”的捷径。

现在在中文互联网上，AI制造的垃圾比例极高，且比例还在不断提高。每隔一两个月，我都会把我母亲的手机清理一下，每次都会有至少新增几十个微信群、公众号、服务号、视频号，其中的内容绝大多数都是水文（一个人可以管理几百个账号，每个账号每天更新，核心内容均为AI生成），在AI生成内容基础上嵌入了平台的广告以及账号吸引关注、转发的“便捷按钮”，就是一篇能赚钱的水文。

当然不是说只有微信有这问题，只是因为，我没给母亲的手机上装更多的APP。其他自媒体平台、短视频平台上，类似的AI稿件也不少。很多自媒体文章，一看就是AI写的，洋洋洒洒几千字，言之无物，没有特色。甚至有点正规媒体，也在用Ai写稿。

AI滥用问题已经成为了社会公害。央视《法治在线》刚刚报道了AI拟声，听你1秒钟说话，就可以模仿你和其他人对话。

此外，大量的短视频、漫剧都由AI生成，在短视频中，“AI演员”已经能够以假乱真。

更甚者，有你一张照片和一段声音，骗子就可以模仿你和他人视频聊天，面部表情已相当逼真（目前身体需基本处于静止状态）。近两年，电信运营商、手机厂商、即时通讯APP、移动支付APP等都陆续推出识别“AI换脸”的功能，但“道”和“魔”的战斗一直没有停止。