今日头条2025年累计处置低质AI生成内容超过260万条

新京报贝壳财经讯（记者罗亦丹）3 月 18 日，今日头条发布《今日头条2025年度平台治理白皮书》。数据显示，2025年全年，今日头条共向用户推送300余万条涉诈风险提醒，累计处置135余万条涉诈内容，处置网暴相关违规评论3.6亿条，为70万账号启用了一键防网暴功能。同时，今日头条相关负责人还讲解了对低质AI生成内容，以及网络黑灰产等的治理情况。

今日头条内容治理运营的负责人郑子龙介绍，AIGC技术普及带来内容生产便利，也催生低质 AI内容 、虚假谣言批量传播等问题。过去一年，平台通过敏捷监控聚类发文和用户负评等方式不断挖掘新的低质AI内容特征，持续迭代管控标准，并反哺模型训练增强对低质AI问题的识别与处置；在账号层面，对持续发布低质AI内容的作者进行打压甚至禁言处罚，同时通过发布治理公告，引导创作者自觉抵制低质AI内容，提升内容创作质量，共同维护健康的网络生态。针对低质AIGC内容，全年处置相关内容超260万条，对违规账号实施流量限制、禁言等处罚。

在网络谣言治理方面，平台搭建全链路处置体系，依托权威信源比对、大模型识别能力，实现1小时内存量谣言回扫清理，全年清理虚假内容700余万条，处置违规账号3.3万个。同时，平台展开创作者认知治理、低成本创作者治理等专项，清退2万多低质认证作者，严厉打击套路化低质内容和短时高密度发文行为，处置60多万投机账号。

今日头条安全运营负责人闫梦茹表示，安全是平台不可逾越的底线，2025年平台聚焦反诈、网暴、水军三大领域，以务实举措守护用户安全感。在反诈治理上，平台构建注册登录、行为特征、内容识别、团伙打击四维全链路体系，全年处置涉诈内容135万条、封禁涉诈账号18万个，推送风险提醒300余万次。

针对网络暴力与体育 “饭圈” 乱象，平台建立内容与账号双线治理机制，精准识别辱骂攻击、拉踩引战内容，分级处置违规账号，主动为用户开启防护功能，全年处置违规评论3.6亿余条，为70余万个账号启用一键防网暴。平台同时对网络水军坚持零容忍，对团伙化行为特征进行总结、实施阶梯式处罚，全年封禁账号13.9万个。

闫梦茹介绍，当平台监测到网络诈骗等相关风险时，会通过私信提醒方式警示用户，“若平台在对话框中提示‘该对话可能涉及交易转账、个人隐私等敏感信息，谨防诈骗、遵守国家法律法规’等内容，请用户务必高度关注相关风险，提高警惕。”

“生态治理同样也离不开公众的参与，提高用户对于生态治理的认知对构建一个健康、多元、清朗的平台生态非常重要。”郑子龙表示。

校对 穆祥桐