一批AI生成的短视频未规范标注被清理！南都曾调查起号乱象

3月23日，南都N视频记者从“网信中国”公众号获悉，当前，一些含有虚构演绎、摆拍营销、AI生成等内容的短视频未进行规范标注，严重误导公众认知，扰乱社会秩序，污染网络生态。近一个月以来，6家重点平台深入清理虚假摆拍等违规短视频3.7万余条。南都此前曾调查曝光不法分子利用AI深度伪造，快速起号后开始带货、卖课等乱象。

南都N视频此前报道。

据了解，中央网信办拟指导网站平台全面规范短视频内容标注，包括对短视频内容标注使用的标签进行规范，明确必须设置的标签种类；将内容标注设为短视频发布的必经环节，引导用户对发布的短视频内容进行标注；对存量短视频内容进行分批回溯和补充标注，推动实现应标尽标。

抖音、快手、腾讯、小红书、哔哩哔哩、微博等6家重点平台履行主体责任，近一个月以来，深入清理虚假摆拍等违规短视频3.7万余条，处置违规账号3400余个，补充标注短视频60余万条，并累计发布治理公告18期，曝光一大批典型案例。在此基础上，各重点平台先行先试，对短视频内容标注功能进行优化，将内容标注入口提至短视频发布一级页面，方便用户进行标注。

下一步，中央网信办将明确具体工作要求和工作进度安排，在全国范围内统一部署推进规范短视频内容标注工作，并同步开展巡查取证，严惩未按要求进行标注的账号和主体责任落实不力的网站平台，公开进行曝光。

南都N视频此前推出调查《网红造谣的幕后生意：以AI造假起号引流，涨粉后再转型转卖》。调查发现，为起号引流涨粉，不法分子利用AI深度伪造，误导公众认知，快速起号后，开始带货、卖课等。有的被明码标价放到账号交易网站上，形成“起号、转型、转卖”的灰色产业链。

《人工智能生成合成内容标识办法》于2025年9月1日起正式施行，要求对人工智能生成合成内容进行显式标识和隐式标识。

互联网治理领域研究学者谢永江曾向南都记者表示，网络虚假信息是长期以来的顽疾，即使在没有AI的时代，网上也有人为的各种虚假信息在传播，“AI只是让这种传播变得更加便捷”。他指出，平台方要肩负起审核责任，且掌握相应的鉴别技术，对AI生成的图片、视频进行标注。

采写：南都N视频记者 彭雨欣