中央网信办部署开展为期4个月“清朗·整治AI应用乱象”专项行动

4月30日，中央网信办印发通知，在全国范围内部署开展为期4个月的“清朗·整治AI应用乱象”专项行动。

本次专项行动分两个阶段开展。第一阶段为“清朗·AI应用服务典型违规问题”专项治理行动，重点整治未按规定履行大模型备案登记义务、安全审核能力不足、大模型训练语料安全、AI数据投毒、生成合成内容标识落实不到位等问题，强化AI技术源头治理。

第二阶段为“清朗·整治AI信息内容乱象”专项行动，聚焦利用AI技术生成“数字泔水”、制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等问题，坚决清理违法不良信息，依法处置处罚违规账号、MCN机构和网站平台。

第一阶段重点整治7类突出问题，包括未按规定履行大模型备案登记义务、AI平台安全和审核过滤能力不足、大模型训练语料安全问题、AI数据投毒问题、生成合成内容标识落实不到位、滥用AI技术开展违法违规活动以及开源模型安全管理不到位。

第二阶段同样聚焦7类突出问题，涵盖利用AI“魔改”经典生成“数字泔水”、制作发布虚假不实信息、假冒仿冒他人、制作发布暴力低俗等不良信息、侵害未成年人权益、利用AI“托管”从事网络水军活动以及AI产品服务和应用程序违规。

中央网信办有关负责人强调，各地网信部门要充分认识专项行动的重要意义，切实履行属地管理责任，督导网站平台对照整治重点深入自查自纠，全面排查问题漏洞，完善长效治理机制，有效提升技术防治能力，确保专项行动取得实效。