“AI魔改”视频专项治理将启动！南都曾曝光换脸伪造乱象

12月31日，南都N视频记者从国家广播电视总局获悉，为整治“AI魔改”视频传播乱象，国家广播电视总局自2026年1月1日起，在全国范围内开展为期一个月的专项治理。重点清理基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“AI魔改”的视频。

《三国演义》和《西游记》的影视画面被“AI魔改”。

据介绍，专项治理重点清理视频范围包括严重违背原作精神内核和角色形象，颠覆基本认知，解构普遍共识；内容渲染血腥暴力、猎奇低俗，宣扬错误价值观，违背公序良俗；存在对中华文化挪用、篡改的突出问题，导致对真实历史时空、中华文明标识产生明显错位认知，冲击文化认同。专项治理同步清理将少年儿童所熟知、所喜爱的动画形象进行改编生成的各类邪典动画。

国家广播电视总局指出，部分网络账号滥用AI工具，对经典影视、动画片等内容进行颠覆性篡改、魔性解构与低俗化改编，这些内容严重背离经典作品精神内核，扰乱网络传播秩序，助长侵权行为，危害行业发展，干扰未成年人形成正确文化认知和现实感知。

南都此前报道，随着生成式AI在国内得到越来越广泛的应用，不少问题逐渐显现。例如，曾有男子利用AI技术“换脸”炮制出了自己与女星迪丽热巴亲吻的画面，随后引起热议。

南都记者调查发现，“AI明星换脸”在网络上有不同的消费套餐，价格在28元至138元不等，68元即可购买一套AI技术明星换脸淫秽视频，共500部左右。

此外，利用AI技术伪造视频推荐产品的乱象也多有发生。今年5月，孙俪、邓超工作室发文，针对近期网络上大量利用AI技术伪造两人形象和声音进行虚假广告宣传的行为公开打假。南都记者搜索发现，有账号将克隆的明星声音“做一些鸡汤、人生哲理”视频引流变现。

12月，演员温峥嵘在社交平台晒出唐山市公安局路北分局的受案回执，并配文“报警立案”。温峥嵘发布声明称，网络上频繁出现以盗播、AI换脸等方式，非法使用温峥嵘形象售卖假冒伪劣产品的不法行为。

四部门此前联合发布《人工智能生成合成内容标识办法》，明确要求对人工智能生成合成内容进行显式标识和隐式标识。有专业人士告诉南都记者，执法部门应提高执法能力、配备相应技术，以快速有效识别利用人工智能等新型手段欺骗消费者的行为。

采写：南都N视频记者 林诗妍 冯奕然