微信清理一批AI魔改低俗化改编等内容！南都曾揭露背后乱象

10月9日，南都N视频记者从“微信珊瑚安全”获悉，平台进一步加大对“AI魔改”视频的治理力度，9月累计清理涉相关不良内容2247条。违规内容涉及AI魔改《三国演义》《水浒传》等经典影视作品、AI魔改未成年人熟知的动画形象等。南都N视频持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。

AI恶搞动画形象。

据“微信珊瑚安全”发布的公告，为治理部分账号滥用AI工具，对经典影视剧、动画片等内容进行颠覆性篡改、“魔性”解构与低俗化改编的问题，平台进一步加大对“AI魔改”视频的治理力度。平台9月累计清理涉相关不良内容2247条。

下架内容案例包括，AI魔改《三国演义》《水浒传》等经典影视作品，扭曲原著精神、颠覆角色设定、恶意解构主流共识；AI魔改历史名人、英模故事，歪曲历史、亵渎英雄、误导青少年价值观，伤害民族感情；AI魔改未成年人熟知的动画形象，恶意邪典化、恐怖化的改编内容。

微信方面表示，将继续落实“AI魔改”视频长效治理工作，进一步提升治理能力，对违规内容和账号进行从严处置，同时也呼吁创作者加强自律，共同守护清朗网络生态。

南都此前报道，7月20日，“网信中国”曾发文指出，中央网信办部署启动“清朗·未成年人网络保护”专项行动，重点整治“编造毒动画，利用AI技术恶搞经典动画形象，刻意放大暴力恐怖元素”等突出问题。

南都N视频曾持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。

南都此前报道。

4月上旬，南都记者实测发现，在AI创作平台ViiTor AI上，只需上传3秒原声，几分钟便能克隆音色并任意改词；电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，出现在音色库公开素材中，使用人数早已过万；而二手交易平台上AI声音克隆服务每50字收费不到1元。大量商家声称AI克隆音色相似度超98%，但面对侵权质疑时直言“问就是有侵权”。

调查报道发出后，多地监管部门将“AI技术滥用”列为整治的重点领域。4月16日，南都记者再次进入ViiTor AI平台发现，“音色克隆”功能中已无法直接上传音视频文件，“请上传3-5秒音频或视频”的选项被删除；而公共素材库中已无法搜索到“哪吒”等相关音色。

采写：南都N视频记者 彭雨欣