北京
“魔改”《三国演义》《西游记》的账号，这次被集中收拾了。中央网信办“清朗·整治AI应用乱象”专项行动第二阶段交出一份成绩单：累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。
这组数字背后，是AI技术被滥用的一连串离谱操作。从颠覆经典人设的“魔改”视频，到AI生成的虚假灾害画面，再到假冒公众人物的“换脸”内容，整治范围覆盖了AI内容生成的主要乱象。
“魔改”经典，博流量没底线
通报点名了一批典型案例。微博账号“天**小”、抖音账号“歪**国”、快手账号“小*菌”、微信账号“咸*i”等，滥用AI技术“魔改”《三国演义》《西游记》等经典名著。怎么改的？颠覆重要人物人设，虚构低质猎奇剧情，纯粹为了博取流量。
这种玩法不是新鲜事，但AI让“魔改”成本断崖式下降。以前靠剪辑，现在一段提示词就能生成“张飞开直播”“唐僧跳街舞”的离谱画面。经典IP被玩坏，平台流量倒是赚到了，代价是内容生态被污染。
虚假灾害画面，连老年人都不放过
更恶劣的是利用AI编造不实信息。快手账号“云**视”、小红书账号“有*头”、抖音账号“7**员”、微信账号“长**帆”等，用AI生成合成虚假灾害现场、救援画面，编造不实社会热点，还发布封建迷信内容。
通报特别提到，这些账号打造AI数字人进行虚假宣传带货，专门误导老年人，制造恐慌情绪。灾害画面配上AI数字人“现场播报”，老年人很难分辨真假，一不小心就信了，甚至可能因此被骗钱。
“换脸”假冒公众人物，营销牟利
AI“换脸”“换声”技术也被盯上了。抖音账号“特**力”、快手账号“石*”、小红书账号“潮**件”、微信账号“M**勒”等，利用这些技术假冒仿冒公众人物形象，生成合成低俗舞蹈、拥抱接吻等图片视频，借机营销牟利。
这类内容对公众人物的肖像权、名誉权是直接侵害，对普通用户来说，也容易成为诈骗的“素材库”。你看到的“明星推荐”，背后可能是个AI生成的假人。
“毒动画”伤害未成年人，零容忍
最让人愤怒的一类，是侵害未成年人的内容。小红书账号“小**娃”、微信账号“豆*a”、抖音账号“半**历”、快手账号“若**雪”等，发布AI生成合成未成年人怀孕、打架等与其年龄特点不符的内容，批量制作传播“毒动画”、儿童“虐向”“邪典”视频。
这些内容伤害、恶搞未成年人形象，直接影响未成年人身心健康。对这类内容，整治力度只会越来越重。
整治不是一阵风，后续还有动作
这次专项行动覆盖了微博、抖音、快手、小红书、微信等多个主流平台，违规账号被依法依约处置。但AI生成内容的风险还在快速演变，新的乱象随时可能出现。
网信部门明确表示，下一步将继续监测AI生成内容新风险，完善治理措施。说白了，这次查处不是终点，而是持续治理的一部分。AI创新要鼓励，但打着创新的旗号搞“魔改”经典、制造恐慌、伤害未成年人，这条路走不通。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
