一批AI换脸声音克隆视频被下架！南都持续曝光魔性侵权乱象

4月23日，南都N视频记者从抖音黑板报获悉，针对利用AI技术换脸、盗用肖像或声音等侵权行为，平台予以重点打击，对于AI技术“魔改”经典进行重点处置。南都N视频持续推出《AI魔性侵权乱象系列调查》，起底曝光声音克隆乱象后，涉事创作平台下架“哪吒”等音色素材，取消上传功能。多地监管部门也将“AI技术滥用”列为整治的重点领域。

抖音平台表示，截至目前，针对AI肖像恶搞、AI著作权侵权、AI仿冒蹭热、AI侵权带货等典型违规行为，平台通过开展多轮专项治理行动，已累计下架AI侵权视频超53.8万条，处罚违规账号4000多个。同时，平台已处置利用“AI霸总”形象误导、诱导中老年人互动的不当内容3万多条，账号1300多个。

其中，针对利用AI技术换脸、盗用肖像或声音，生成丑化、恶搞或仿冒蹭热内容，并制作传播误导性内容的侵权行为，平台予以重点打击。目前已累计下架AI仿冒蹭热视频超36万条，处置AI肖像、AI声音类侵权内容8.5万条，并对部分严重违规的账号予以禁止投稿、封禁账号权限等梯度处罚。

此外，平台对于AI技术“魔改”经典，进而传播不良内容进行重点处置。今年以来，平台已开展治理“AI魔改”视频专项工作。平台对通过“魔改”传统文艺作品，传播血腥暴力、色情低俗等违规内容从严处置，并对违规账号采取梯度处罚措施。对涉嫌违法的行为，平台也将及时上报有关部门，配合开展执法工作。

南都N视频持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。

4月上旬，南都记者实测发现，在AI创作平台ViiTor AI上，只需上传3秒原声，几分钟便能克隆音色并任意改词；电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，出现在音色库公开素材中，使用人数早已过万；而二手交易平台上AI声音克隆服务每50字收费不到1元。

南都此前报道。

调查报道发出一周后，4月16日，南都记者再次进入该平台发现，“音色克隆”功能中已无法直接上传音视频文件，“请上传3-5秒音频或视频”的选项被删除；而公共素材库中已无法搜索到“哪吒”等相关音色。

同日，ViiTor AI平台相关负责人回应南都记者表示，“平台公共音色库内容均为用户自主上传并发布的UGC内容。平台仅执行必要的合规筛选，不对音色内容进行主动推荐、编辑或干预。对确属侵权且证据明晰的举报内容，平台会在24小时内完成核验并采取下架、屏蔽等处置措施。”

采写：南都N视频记者 彭雨欣