今日头条白皮书：2025年处置超260万条低质AI内容

“日本加工大豆榨油后卖给中国”“伊朗宣布石油全面改用人民币结算”“安世半导体宣布停产”……数字时代，信息来源纷繁复杂，这类虚假谣言往往被包装成“一本正经”的模样在网上广为流传，令人难以分辨。为了构建健康优质的内容生态，提升用户体验，今日头条在2025年将网络虚假谣言作为平台生态治理的重要内容。

在3月18日举行的平台治理开放日上，今日头条发布《今日头条2025年度平台治理白皮书》，并公布了2025年平台聚焦网络诈骗、网络暴力、水军行为、虚假谣言、低质AI内容等八大关键领域，采取的一系列治理行动及成效。

今日头条郑子龙、闫梦茹发言。图源主办方

AIGC技术的普及为内容生产带来极大便利，同时也催生了低质内容泛滥、谣言批量传播等问题。会上，今日头条内容治理运营负责人郑子龙首先介绍了针对“低质AIGC”的治理成果——2025年，平台累计处置相关内容超260万条，以及1.1万余个发布此类内容的账号。

郑子龙介绍，平台建立了内容与账号双重管控机制进行AIGC治理。在内容层面，通过敏捷监控、聚类发文及用户复评等方式，持续挖掘低质AI内容特征，迭代管控标准，并反哺模型训练进而提升识别能力；在账号层面，对持续发布低质内容的作者实施流量打压乃至禁言处罚，同时通过发布治理公告，引导、教育创作者自觉抵制低质AI内容，提升内容创作质量。

不实信息的传播不仅损害公众知情权，更危害着健康和谐的网络生态。郑子龙表示，在网络虚假谣言治理方面，平台搭建了全链路处置体系，依托权威信源比对、大模型识别能力，能实现1小时内存量谣言回扫清理，全年清理虚假内容700余万条，处置违规账号3.3万个。

收到作品审核结果通知、投诉侵权内容、举报不友善评论……这些都属于今日头条安全运营负责人闫梦茹所带领团队的工作范畴。据她介绍，反诈、网暴、水军三大领域是平台安全团队的打击重点。在反诈治理上，平台构建注册登录、行为特征、内容识别、团伙打击四维全链路体系，2025全年处置涉诈内容135万余条、封禁涉诈账号约18万个，推送风险提醒300余万次。

加大打击力度的同时，平台也在不断改进科普传播形式。“我们努力用更‘接地气’的动画短片、条漫，甚至是真人短剧形式，把复杂的诈骗套路讲清楚，让用户理解什么情形可能是骗局，提升防范意识。”闫梦茹说。

中国政法大学网络法学研究所所长李怀胜在会上提出，提高公众参与度是反诈的重要一环。“报告数据显示，一方面，平台向用户发送了300余万次高危风险提醒，另一方面，部分用户对反诈提示存在抵触情绪。这两组数据进一步说明，没有公众的主动参与，再严密的技术防线、再完善的法律制度都可能被突破。”

中国政法大学网络法学研究所所长李怀胜发言。图源主办方

近年来，网络暴力与体育“饭圈”乱象愈演愈烈。去年，中央网信办曾多次发文，开展相关行动整治拉踩引战、互撕谩骂等体育饭圈不良行为。闫梦茹介绍，为此，平台建立内起内容与账号双线治理机制，精准识别辱骂攻击、拉踩引战内容，分级处置违规账号，主动为用户开启防护功能。全年处置违规评论 3.6亿余条，为70余万个账号启用“一键防网暴”功能。

“网络水军一直是平台生态的顽疾。不法分子通过抹黑品牌、个人，发布不实信息，极大地损害创作者以及用户体验。”她提到，AIGC技术的发展使网络水军行为变得更难管控。平台对其团伙化行为特征进行总结、实施阶梯式处罚，全年封禁账号13.9万个，同时通过向公众揭露水军“套路”，实现合力共治。

采写：南都N视频记者 樊文扬