抖音上线“AI求真”功能 大模型助力识别网络谣言

网络谣言治理有了新解法。记者从抖音获悉，该平台近日上线“AI求真”功能，可为用户提供对误导性内容与谣言的事实展示及澄清。当网友浏览易产生误解的内容和搜索谣言相关信息时，可通过点击页面中的“求真卡”获知事件完整信息及辟谣内容。

随着信息技术的发展，内容创作越来越便利，但制造谣言也更容易。能否用AI治理谣言？记者了解到，抖音已尝试在谣言治理工作中引入大模型技术，力求实现对谣言“发现即管控”。

“以往，单例谣言的发现和处置时效需以‘天’为单位。”抖音不实信息治理负责人李博告诉记者，在过往的谣言治理链路中，发现谣言往往需要依靠权威媒体报道或机构发声，才能由人工将谣言信息点纳入谣言库，进一步以此为样本回查、下架和拦截新增的该谣言内容，因此当处置谣言时，该言论往往已经经过了较大规模的传播和发酵。

据介绍，大模型能够提取视频信息、分析主旨、联网搜索，由此对内容进行风险判断。基于此判断，大模型就能进一步对谣言内容进行自动处置。“目前，单例谣言的处置时效已缩短至以‘小时’为单位。”李博说。

记者测试发现，打开抖音搜索某类谣言时，页面顶端就会自动弹出“求真卡”，不仅明确显示该信息为谣言，还会显示包括事件溯源、澄清信息、权威报道、当事人发声等内容。

据介绍，大模型的搜索信源来自权威媒体报道、政务公开平台及历史谣言库样本。李博表示，当前大模型识别准确率可达到85%，目前仍在持续提升中。他同时坦言，谣言治理仍然面临诸多挑战。一方面，谣言的产生难以杜绝，主观编造、传播偏差等均会带来不实信息。另一方面，一些热点事件常处于动态发展中，谣言常反转；此外，传播方式的变化也使得信源本身受到污染。

来源：中央网信办举报中心

编辑：王露洋 刘晓璇

初审：张文琦

复审：佟剑博

终审：佟 飞