上万个AI应用程序智能体等被处置！南都曾起底声音克隆乱象

7月6日，“网信中国”发文指出，“清朗·整治AI应用乱象”专项行动自4月启动以来，累计处置违规网站、应用程序、智能体等AI产品1.4万余款，下架违规AI商品1300余个。南都N视频持续推出《AI魔性侵权乱象系列调查》，聚焦声音克隆、虚拟伴侣乱象等，在AI创作平台上，只需上传3秒原声便能克隆音色并任意“魔改”台词。

南都此前报道。

中央网信办深入开展“清朗·整治AI应用乱象”专项行动第一阶段工作，聚焦未按规定履行大模型备案登记义务、AI平台安全和审核过滤能力不足、AI数据投毒、生成合成内容标识落实不到位等AI应用乱象。第一阶段累计处置违规网站、应用程序、智能体等AI产品1.4万余款，清理违法违规信息600余万条，处置账号2.6万余个，下架违规AI商品1300余个、违规开源数据集9个。

据介绍，各地网信部门认真履行属地管理责任，结合实际采取有效监督管理措施。如：北京网信办建立“平台自查+常态巡查+技术筛查+线索核查”联动工作机制。上海网信办针对平台类型细化工作要求，指导平台升级举报机制、主动发布治理公告。广东网信办建立属地多部门协调监管机制，综合运用技术巡查、人工复核、现场督导、约谈惩戒方式开展AI应用乱象全链条治理等。

南都N视频持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。

4月上旬，南都记者实测发现，在AI创作平台ViiTor AI上，只需上传3秒原声，几分钟便能克隆音色并任意改词；电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，出现在音色库公开素材中，使用人数早已过万；而二手交易平台上AI声音克隆服务每50字收费不到1元。大量商家声称AI克隆音色相似度超98%，但面对侵权质疑时直言“问就是有侵权”。

4月7日，知名配音演员季冠霖也通过南都发出倡议，呼吁平台建立侵权内容快速识别和下架机制，“技术应为文明赋能，而非成为侵权的温床”。

调查报道发出后，多地监管部门将“AI技术滥用”列为整治的重点领域。4月16日，南都记者再次进入ViiTor AI平台发现，“音色克隆”功能中已无法直接上传音视频文件，“请上传3-5秒音频或视频”的选项被删除；而公共素材库中已无法搜索到“哪吒”等相关音色。

采写：南都N视频记者 彭雨欣