利用AI技术恶搞动画形象将被整治！南都曾起底AI换脸乱象

7月20日，“网信中国”发文指出，中央网信办部署启动“清朗·未成年人网络保护”专项行动，重点整治“编造毒动画，利用AI技术恶搞经典动画形象，刻意放大暴力恐怖元素”等突出问题。南都N视频持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。

AI恶搞动画形象。

据了解，近日，中央网信办印发通知，在全国范围内部署启动为期4个月的“清朗·未成年人网络保护”专项行动。第一阶段重点整治编造毒动画，利用AI技术恶搞经典动画形象，刻意放大暴力恐怖元素；批量炮制猎奇、审丑的AI短剧，误导未成年人认知等突出问题。

第二阶段着力规范平台推荐行为、学习教育版块及未成年人模式建设：持续排查平台推荐不良行为、不良价值导向、不当使用未成年人形象以及侵犯未成年人隐私等信息的问题；督促平台对经典儿童动画等内容采取更严格的审核标准，严处借“启蒙早教”等标签发布不良导向内容的网络账号。

南都N视频持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。

面对AI魔性侵权乱象，4月2日，中国广电联合会演员委员会发布严正声明，坚决维护演员声音、形象等人格权益，呼吁加快完善法律法规，遏制技术滥用。声明指出，应强化平台监管责任，建立健全侵权内容的快速识别与下架机制。

“AI角色撞脸真人明星”现象持续引发网络关注。4月6日，南都记者获悉，近期，短剧《心**爱》某角色AI生成形象与某演员形象高度相似，出品方未提供相关素材合规使用证据，被平台下架处理。

南都记者调查发现，“AI明星换脸”在网络上有不同的消费套餐，价格在28元至138元不等，68元即可购买一套AI技术明星换脸淫秽视频，共500部左右。

此外，利用AI技术伪造视频推荐产品的乱象也多有发生。2025年5月，孙俪、邓超工作室发文，针对近期网络上大量利用AI技术伪造两人形象和声音进行虚假广告宣传的行为公开打假。南都记者搜索发现，有账号将克隆的明星声音“做一些鸡汤、人生哲理”视频引流变现。

采写：南都N视频记者 彭雨欣