上海
近日，抖音发布《持续深入打击AI生成色情低俗内容》公告，披露平台针对利用人工智能技术生成色情低俗内容的治理进展。自2026年以来，抖音已累计处置相关违规内容4.2万条，并对1.4万个账号采取限制推荐、禁言、封禁等阶梯式处罚措施。
公告披露了多类典型违规案例，其中包括利用AI生成“单亲妈妈暧昧互动”“美女魅惑舞蹈”等低俗擦边内容的行为。尤为恶劣的是一起通过AI生成图片诱导用户下载色情低俗App的黑产团伙案件。
巡查发现，部分账号以“单亲妈妈陪读”等人设身份，发布由AI生成的性感擦边视频，并配以暗示性文案，诱导用户关注。经深入研判，平台确认其背后由黑产团伙统一操控。该团伙通过账号签名、群聊等方式，引导用户跳转至第三方平台下载非法色情App。抖音第一时间对违规内容进行清理，并对相关账号作无限期封禁处理，同时将线索上报公安机关。最终，该团伙4名犯罪嫌疑人被依法刑事拘留。
此外，抖音在治理中还发现部分账号将直播间封面设置为AI生成美女图片，并在头像中暗示用户查看其主页收藏，以此导向色情网站。平台已对相关账号无限期回收直播权限，并清理违规内容。今年以来，抖音还对8000余个持续发布AI生成暴露着装内容的账号予以处置。
抖音在公告中重申对各类色情低俗内容的“零容忍”态度，表示将持续升级技术手段，加强对AI生成不良内容的识别和处置能力。平台呼吁广大创作者和用户共同维护清朗网络空间，积极举报违规行为。用户可通过官方服务热线95152或举报邮箱提供线索。
原标题：《抖音持续整治AI生成色情低俗内容，已处置违规内容4.2万条》
栏目主编：何易
文字编辑：周洁瑜
本文作者：文汇报 芮锡培
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
