网信办专项受理AI魔改举报！南都曾起底声音克隆侵权乱象

6月12日，“网信中国”发文指出，中央网信办举报中心自6月起开设“涉AI应用乱象举报专区”，受理范围包括利用AI“魔改”经典、生成“数字泔水”等14类问题。南都N视频持续推出《AI魔性侵权乱象系列调查》，聚焦声音克隆等乱象，在AI创作平台上，只需上传3秒原声便能克隆音色并任意“魔改”台词。

经典影视剧遭AI“魔改”视频截图。

为配合“清朗·整治AI应用乱象”专项行动，进一步规范AI服务和应用，中央网信办举报中心自6月起开设“涉AI应用乱象举报专区”，专项受理公众举报。

受理范围分为“AI应用服务违规类”以及“AI信息内容乱象类”，主要包括生成合成内容标识落实不到位、制作发布虚假不实和暴力低俗信息、利用AI“魔改”经典、生成“数字泔水”等14类问题。

南都N视频持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。

4月上旬，南都记者实测发现，在AI创作平台ViiTor AI上，只需上传3秒原声，几分钟便能克隆音色并任意改词；电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，出现在音色库公开素材中，使用人数早已过万；而二手交易平台上AI声音克隆服务每50字收费不到1元。大量商家声称AI克隆音色相似度超98%，但面对侵权质疑时直言“问就是有侵权”。

南都此前报道。

4月7日，知名配音演员季冠霖也通过南都发出倡议，呼吁平台建立侵权内容快速识别和下架机制，“技术应为文明赋能，而非成为侵权的温床”。

调查报道发出后，多地监管部门将“AI技术滥用”列为整治的重点领域。4月16日，南都记者再次进入ViiTor AI平台发现，“音色克隆”功能中已无法直接上传音视频文件，“请上传3-5秒音频或视频”的选项被删除；而公共素材库中已无法搜索到“哪吒”等相关音色。

同日，ViiTor AI平台相关负责人回应南都记者表示，“平台公共音色库内容均为用户自主上传的UGC内容。平台仅执行必要的合规筛选，不对音色内容进行主动推荐、编辑或干预。对确属侵权且证据明晰的举报内容，平台会核验并采取下架、屏蔽等措施。”

采写：南都N视频记者 林诗妍