多平台清理AI魔改视频超万条！南都持续曝光魔性侵权乱象

4月30日，南都N视频记者从国家广播电视总局获悉，“AI魔改”视频专项治理工作取得实效，4月，部分重点网络视听平台共清理违规视频11000余条、处置违规账号10余个。南都N视频持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。调查发出后，多地监管部门也将“AI技术滥用”列为整治的重点领域。

“AI魔改”视频截图。

据国家广播电视总局，为进一步巩固治理成果，自2月1日起，“AI魔改”视频治理工作通过常态化、制度化长效机制持续开展。

广电总局督导各主要网络视听平台进一步深化落实主体责任，加强日常排查，重点清理基于四大名著、历史题材、革命题材、英模人物等经典影视作品进行“AI魔改”的违规视频，并同步清理各类邪典动画。据统计，部分重点网络视听平台公布了4月的处置情况，共清理违规视频11000余条、处置违规账号10余个。

南都此前报道，为整治“AI魔改”视频传播乱象，国家广播电视总局自1月1日起，在全国范围内开展为期一个月的专项治理。部分网络账号滥用AI工具，对经典影视、动画片等内容进行颠覆性篡改、魔性解构与低俗化改编，这些内容严重背离经典作品精神内核，扰乱网络传播秩序，助长侵权行为，危害行业发展，干扰未成年人形成正确文化认知和现实感知。

南都N视频持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。

南都此前报道。

4月上旬，南都记者实测发现，在AI创作平台ViiTor AI上，只需上传3秒原声，几分钟便能克隆音色并任意改词；电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，出现在音色库公开素材中，使用人数早已过万；而二手交易平台上AI声音克隆服务每50字收费不到1元。

调查报道发出后，多地监管部门将“AI技术滥用”列为整治的重点领域。4月16日，南都记者再次进入ViiTor AI平台发现，“音色克隆”功能中已无法直接上传音视频文件，“请上传3-5秒音频或视频”的选项被删除；而公共素材库中已无法搜索到“哪吒”等相关音色。

采写：南都N视频记者 林诗妍