小红书：已精准召回，封号、禁言

10月28日，南都N视频记者从小红书获悉，平台针对性推进治理借未成年人牟利、魔改经典动画的内容，精准召回儿童邪典、AI魔改、不良恶搞等“毒动画”内容，覆盖40余部经典儿童动画IP和早教动画。南都N视频持续推出《AI魔性侵权乱象调查》，起底滥用AI生成技术的侵权现象背后产业链。

据了解，小红书表示，平台结合AI特征识别能力、图像识别技术和经典动画剧目IP，精准召回儿童邪典、AI魔改、不良恶搞等“毒动画”内容，覆盖40余部经典儿童动画IP和早教动画。

小红书平台梳理日常被魔改的经典动画IP与不宜未成年人观看的作品剧集，结合账号历史违规频次，对不良动画内容和高危账号实施双线分层处置，日均处置笔记7000余篇，日均处置违规账号300个。此外，平台深挖批量制作、传播此类内容的团伙，对相关账号封号、禁言。

南都此前报道，7月20日，“网信中国”曾发文指出，中央网信办部署启动“清朗·未成年人网络保护”专项行动，重点整治“编造毒动画，利用AI技术恶搞经典动画形象，刻意放大暴力恐怖元素”等突出问题。

南都N视频持续推出《AI魔性侵权乱象调查》，起底滥用AI生成技术的侵权现象背后产业链。

4月上旬，南都记者实测发现，在AI创作平台ViiTor AI上，只需上传3秒原声，几分钟便能克隆音色并任意改词；电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，出现在音色库公开素材中，使用人数早已过万；而二手交易平台上AI声音克隆服务每50字收费不到1元。大量商家声称AI克隆音色相似度超98%，但面对侵权质疑时直言“问就是有侵权”。

调查报道发出后，多地监管部门将“AI技术滥用”列为整治的重点领域。面对AI魔性侵权乱象，4月2日，中国广电联合会演员委员会发布严正声明，坚决维护演员声音、形象等人格权益，呼吁加快完善法律法规，遏制技术滥用。声明指出，应强化平台监管责任，建立健全侵权内容的快速识别与下架机制。

来源：中国吉林网综合自 南方都市报

编辑：刘怡彤　　审校：熊一黎

主编：曲翱　　　监制：陈尤欣

点喜欢