用AI治理AI，治理谣言平台不妨多些“魔法”| 新京报评论

▲随着AI技术的快速发展，谣言制造的门槛被显著降低了。图/IC photo

“快跑，周杰伦演唱会海沧隧道着火了！”“厦门海沧隧道严重事故，周杰伦演唱会！”不仅有配文，还有人群四散而逃的视频，看到这条蹭明星演唱会热度编造险情的网络谣言，你会信以为真吗？

近日，据公安部网安局消息，网民张某为博取关注，在社交平台发布不实帖文，目前，公安机关依法对张某处以行政拘留。

在当下信息爆炸的时代，社交平台已成为公众获取信息的重要渠道。然而，虚假信息的传播也成为一大难题。如张某般为博眼球、蹭流量，不惜故意发布虚假消息、造谣生事的人不时出现。

而且，随着AI技术的快速发展，谣言制造的门槛被显著降低了，AI换脸等技术手段让谣言更具迷惑性，更能“以假乱真”。当技术能轻易制造“有图有真相”的谎言，信息的真实性由此变得扑朔迷离。网络谣言治理，正成为全行业、全社会需要应对的挑战。

需看到，谣言已从之前的口口相传，到如今利用社交平台的转发、点赞、评论，短时间内实现裂变传播，覆盖了大量用户。而且，一些情绪化、猎奇性内容，很可能加剧谣言的扩散。

由此可以发现，网络谣言的产生其实并非只是谣言由线下搬到了线上，其屡禁不止的背后，是谣言本身充分利用了信息传播媒介的升级，愈发泛滥。

对此，处在治理最前线的平台方要拿出“方法论”，尤其需要秉持技术主义，充分发挥技术优势，加强对不实信息治理。

近期，抖音平台便尝试“以AI治理AI”，通过引入大模型技术，提升对谣言的识别、研判与处置能力。

一方面，平台利用大模型的语义理解与模式识别能力，对海量信息进行实时分析与风险评估，大幅提升了谣言识别的准确率和响应速度。这种“AI+内容治理”的新模式，不仅提高了平台的自我净化能力，也为构建可信的网络信息生态提供了技术支撑。

更重要的是，有了大模型技术的加持，平台对谣言的治理，就能“化被动为主动”。这不仅改变了依靠外部反馈发现谣言的治理路径，也将单例谣言的发现和处置时效从以“天”为单位缩短至以“小时”为单位，让“发现即管控”更为精准、高效。

其实，对谣言的治理本身也是社会治理的一部分，因此，让社会治理中“人人参与”“共建共治共享”的原则，转化为平台防范、治理谣言的具体办法，不失为平台“用AI治理AI”逻辑下的一种技术努力方向。

在这方面，抖音推出的“AI抖音求真”功能，为用户提供了“遇事不明、一键查证”的便捷工具。用户在浏览一些易产生误解的内容和搜索谣言相关信息时，均可通过“求真卡”获知事件完整信息及辟谣内容。

这种主动干预与信息引导机制，为用户打造了一道“认知防线”，有助于提升公众的谣言识别能力，有效降低了谣言传播的风险，也有利于形成“人人参与、共治共享”的良性互动。

我们乐见平台不断提升技术能力，主动承担内容治理责任，用AI手段应对AI带来的挑战。但也要清醒认识到，谣言治理是一项系统工程，仅靠平台一己之力恐难以根治。

“造谣一张嘴，辟谣跑断腿”，造谣成本低，而谣言的查证过程往往需要大量人力、时间与专业资源投入。

而且，就传播速度而言，辟谣信息常常滞后于谣言本身，难以实现“同步澄清”。再者，谣言往往迎合公众猎奇心理，利用“先入为主”的传播规律占据认知高地，即便事后辟谣，恐怕也难以完全消除其负面影响。

因此，治理网络谣言，就不能全依靠单一平台发力，还需构建更多元共治的治理体系。

比如，媒体发挥权威信息源作用，专业机构加强科普与事实核查，每一位受众都能有意识地提升媒介素养，增强对谣言的辨别能力，做到不信谣、不传谣。

如此，就可以形成平台、机构、公众协同发力的治理合力，从而真正构筑起抵御谣言的“防火墙”，让我们的网络空间更安全、更健康。

撰稿 / 流水（媒体人）

编辑 / 马小龙

校对 / 杨利