网易首页 > 网易号 > 正文 申请入驻

大模型升级后,23秒可识别查证一条网络谣言

0
分享至

“瑞安某中学5名学生怀孕”“张家界大峡谷玻璃桥坍塌”……5月25日,公安部网安局公布五起打击整治网络谣言典型案例,其中多起系通过AI工具生成虚假文案和视频。近年来,AI技术在文本生成、图片和视频创作等方面的应用越加广泛,但也为网络谣言的滋生和传播提供了便利。如何更高效精准地识别、处置谣言,成为平台治理的焦点。

近日,抖音宣布将AI大模型技术应用于谣言治理和辟谣运营工作一年以来,谣言被处置时的平均浏览量下降62%,谣言内容从发布到被处置的窗口期显著缩短。同时,抖音还发布“十大辟谣案例”,覆盖社会事件、健康养生、公共安全等谣言高发领域。

南都记者了解到,抖音在网络谣言治理上取得成效,得益于“以AI治AI”的思路,借助大模型能力提升,摆脱从前“事后被动辟谣”模式,构建起主动识别查验、自动化处置等全链路治理机制。抖音还推出了“AI求真”功能,在内容搜索、视频播放页面为用户提供事件真实信息,旨在激发其求真意识,形成谣言社会共治体系。

“AI求真”功能建立识谣辟谣的认知防线

“截至2024年末,80后死亡率突破5.2%,相当于每20个80后中就有1人已经去世。”“80后的死亡率已经超过70后。”2025年2月,一组“80后死亡率”相关数据在互联网疯传,引发了不少网友的担忧、焦虑甚至恐惧情绪。在被官方部门证实为谣言后,多名造谣者受到行政处罚、接受批评教育。

南都记者注意到,在AI技术迅速发展和信息高速流转的当下,网络谣言的生成和传播呈现低门槛、高逼真、批量化等特征。以上述事件为例,尽管官方部门介入及时迅速“打假”,但经过个人、自媒体账号大量引用转载、抓取发布,这样的谣言仍产生较广泛的负面影响,严重污染网络信息生态。

面对这一现状,加强网络空间治理成为当务之急。要保障公众科学认知,维护社会秩序和社会信任,需以真实的力量“打压”虚伪,而平台作为内容发布和传播的重要关卡,为公众提供真实准确的信息意义重大——抖音去年推出的“AI求真”功能便是如此。在用户搜索、浏览相关内容时,该平台通过卡片、条幅链接等形式呈现真伪鉴定结果及核心事实信息。

为体验这项功能,南都记者在实测中选取了一些可能存在误导或争议的话题进行搜索,发现相关视频下方会浮现“AI求真”提示条,点击后即可前往“求真卡”获知事件溯源、权威媒体报道、当事方回应等信息。

比如,在浏览与“湖北多地芽麦抢收”相关内容时,抖音相关视频内容下方会出现关联话题“AI求真·‘湖北多地抢收芽麦’核查”提示条,点击后即进入AI综合全网权威信息生成的回答页面,且多以文字+视频复合形式呈现。在“女子将1000万存进银行”相关视频下,也出现了“AI求真·‘女子千万存款消失’核查”提示条。


视频页面的“AI求真”提示条(左)和点击提示条后的页面(右)

搜索页面则更加直观地向用户提供真实信息。例如,在抖音上搜索“双黄蛋是激素蛋”词条,结果页会出现“关于‘大量激素蛋涌入市场,长期食用致癌’的事实核查”相关内容,“求真卡”上显著标明鉴定结果为“谣言”。值得注意的是,“求真卡”每一段内容的尾部,还会附注参考信息链接,其大多为官方机构、权威媒体的报道,点击可进一步查看。


内容搜索页面的“求真卡”(左)和参考报道链接(右)

在另一条“广东开放大学免考试缴费包过”搜索页面,“求真卡”尾注标明引用了“光明网”“环球网”等媒体报道,结果页信息系AI技术综合而成。

从上述功能设置可以看出,除了把虚假信息“排”出去,“引”进真实内容是平台更深层的目标。抖音通过增加链接入口、显著提示等方式帮助用户更便捷地获取事实、提升辨别能力,意在与公众共筑“认知防线”,降低谣言影响力。

23秒完成一则谣言的识别查证

AI时代下,网络谣言的新特征决定了以往响应滞后、覆盖有限的“人工审核+事后辟谣”被动模式已难以应对治理挑战。一方面,该模式下谣言从产生到被拦截之间存在较长的传播期,一些谣言内容已经造成了负面影响;另一方面,受早期模型精度限制,平台机审存在误判可能。

为了更主动、更快速应对上述挑战,2025年,抖音上线AI求真大模型,它像一个24小时巡逻的“网络治安官”,在谣言传播的萌芽阶段就能主动完成筛选识别,通过大模型搜索权威信源查证,并在复杂判断中引入人工复核,实现对虚假信息的早发现、早处理。在这一技术的助力下,2025年全年,抖音谣言内容曝光量下降90%。

该机制下,一条谣言具体是如何被发现的?以“女子向丈夫索要5元买早餐遭拒后轻生”为例,AI求真大模型首先提炼视频内容,包括“女子向丈夫索要5元”“女子想买早餐遭拒”“女子轻生”几大核心信息,识别出“公共性风险”信号后进入查证环节。

在RAG(Retrieval-Augmented Generation,检索增强生成技术)的加持下,AI求真大模型启动多轮搜索,挖掘权威信源——山东省互联网联合辟谣平台官方信息明确指出,经向省内各地和有关部门核实,该网传信息不实。大模型随即给出此内容为谣言的研判结果,总耗时23秒。随后,系统可对该谣言内容完成自动处置,并录入平台谣言库,实现新增内容实时拦截。

南都记者还在实测中发现,当前网络空间泥沙俱下,尤其社会热点的事实真空期长、存在反转,即便是所谓“权威信源”,也可能出现不同主体或不同时段报道结论不一致的情况,如何辨别?

为此,2026年,抖音AI求真大模型上线了DeepResearch和交叉验证等能力,一项具体功能是“权威信源分级”,在系统内部给所有信息来源划分“可信度等级”。比如,中央新闻单位、中央和国家机关等政务发布平台为最高优先级,而一些自媒体、论坛帖子的可信度较低。

过去,一个谣言点常延伸出同质化文案和高度相似的变体,占用大量审核人力和资源。以“峨眉山猴子攻击游客、被射杀”谣言为例,同一段核心内容被改编为“九寨沟猴子”“张家界猴子”“猥亵女游客”等多个版本传播。造谣者往往以AI生成视频或将无关图文“移花接木”讲故事,煽动情绪、收割流量。

这种“穿马甲”反复出现的同质谣言也能被AI求真大模型精准捕捉。如今,大模型的语义理解能力能够匹配出相似的谣言案例,由机器直接复用判定结果、自动处置,进一步实现从“人找谣言”到“模型主动出击”。

建立网络谣言社会共治体系

对内容平台而言,谣言治理的关键在于能够将治理节点提前,最大限度降低其影响力,这要求抖音从海量新增内容中精准筛选出“未知谣言”。

筛查潜在谣言的过程,既怕“挂一漏万”,也怕“宁枉勿纵”。南都记者了解到,从方向上看,具有公共价值、近期发生的具有误导性、且可以被证实的资讯内容往往成为重点关注范畴。为了降低误判率,抖音还在AI研判之前设置了两道过滤关卡,谣言领域大模型与谣言风险过滤模块。前者面向全平台从题材和体裁风险角度筛选容易产生谣言的内容,后者更多从公共性风险上进一步做判断。

值得一提的是,以往机器研判缺乏人的情感与情境理解能力,比如面对“没有一只鸭子能活着走出南京城”的说法,机器可能一板一眼地查资料认定此为“谣言”——因为南京有活着的鸭子。“谣言领域大模型”训练素材来源于抖音多年积累的人工研判经验,为模型注入“人文思想”,这类问题得到明显改善。

在处置环节,抖音方面介绍,针对事实清晰、依据明确的谣言,AI求真大模型会自动化处置并将其录入谣言库,往后搜索这一事件即能获知权威辟谣内容。对于疑似谣言内容,将采取降低推荐权重、挂载风险提示等方式进行管控。涉及公共安全、自然灾害、金融市场等高风险领域内容,则将启动人工协同复核。

在AI广泛赋能内容生产的当下,谣言也借助这一技术便利频繁滋生。抖音采用“以AI治AI”的思路,开辟了从“被动拦截”到“主动防控”的治理新路径。随着谣言治理技术“防火墙”越修越高,也应认识到,谣言从生成到传播,往往寄附于复杂的社会土壤之上,具有长期性、多变性,仅依靠平台的技术能力提升,难以达到建设清朗网络空间的目标。

建立社会共治体系,是谣言治理难题的真正解法,平台、新闻媒体、官方机构、广大网友都应参与其中。平台谣言识别和判断机制的运转基础在于全网提供的权威信息,因此新闻当事人、官方机构与新闻媒体的多方核实与及时澄清至关重要,这些主体提升信息发布时效性与精准性,能从源头减少谣言滋生空间。

随着AI打破“有图有真相”的固有观念,要在纷繁复杂的网络空间中寻找“真相”,对公众认知水平、网络素养亦提出了更高要求。网友应拒绝偏听盲信,勤于思考求证,不传播存疑的网络信息,共同维护网络空间秩序。

采写:南都N视频记者 樊文扬

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
吃降压药的最佳时间公布!医生忠告:吃错了时间,效果相差很大

吃降压药的最佳时间公布!医生忠告:吃错了时间,效果相差很大

荷兰豆爱健康
2026-11-18 15:46:31
中方贵宾席座无虚席,菲律宾急坏了!

中方贵宾席座无虚席,菲律宾急坏了!

叶老四
2026-11-18 08:14:37
税收4亿,工资26亿:财政没钱,凭什么编内待遇不能动?

税收4亿,工资26亿:财政没钱,凭什么编内待遇不能动?

江启
2026-11-18 09:13:16
吕迪格:皇马连续两年无冠太糟糕;穆里尼奥曾多次希望得到我

吕迪格:皇马连续两年无冠太糟糕;穆里尼奥曾多次希望得到我

懂球帝
2026-11-18 19:02:20
成交额创16个月新低!今天市场出现几个积极现象——道达投资手记

成交额创16个月新低!今天市场出现几个积极现象——道达投资手记

每日经济新闻
2026-11-18 17:48:12
特殊时期邓小平到江西劳动,保护他的拖拉机厂长罗朋,在邓公重新出山后去了哪里

特殊时期邓小平到江西劳动,保护他的拖拉机厂长罗朋,在邓公重新出山后去了哪里

磊子讲史
2026-11-11 15:53:38
周涛与前夫姚科未离婚之前的一张合影照,儒雅的姚科,终究留不住周涛

周涛与前夫姚科未离婚之前的一张合影照,儒雅的姚科,终究留不住周涛

南万说娱26
2026-08-22 08:56:48
支持率仅剩4.3%!自知提前出局后,郑丽文拟为两岸关系上一道锁

支持率仅剩4.3%!自知提前出局后,郑丽文拟为两岸关系上一道锁

青春染指红颜梦
2026-09-02 17:50:13
“杂牌军”再获惊喜!击败联赛前九的广州队,神奇教练激活CBA7弃将

“杂牌军”再获惊喜!击败联赛前九的广州队,神奇教练激活CBA7弃将

南海浪花
2026-11-18 18:11:25
自主芯片的制造工艺到底比台积电落后多少?中科院计算研究所副所长表示:目前落后数代,存在工艺壁垒

自主芯片的制造工艺到底比台积电落后多少?中科院计算研究所副所长表示:目前落后数代,存在工艺壁垒

逍遥漠
2026-11-18 08:25:40
上层作孽,害死好人

上层作孽,害死好人

我是历史其实挺有趣
2025-08-02 08:59:00
从新产品到新场景,首发经济不止于开店

从新产品到新场景,首发经济不止于开店

新华社
2026-11-17 16:17:14
森保一将卸任日本队主帅,8年执教日本取得77胜17平19负

森保一将卸任日本队主帅,8年执教日本取得77胜17平19负

懂球帝
2026-11-17 23:43:09
越放越值钱的6样东西,聪明人都囤了,看看你家有没有?

越放越值钱的6样东西,聪明人都囤了,看看你家有没有?

室内设计师有料儿
2026-09-24 22:09:22
为获得稀土技术,欧美从中国大肆收买稀土人才?中国如何应对?

为获得稀土技术,欧美从中国大肆收买稀土人才?中国如何应对?

阿胡
2025-06-30 10:52:57
周扒皮都要掉眼泪!网传月薪3000库管岗位,调休还要上班1小时,引发全网热议

周扒皮都要掉眼泪!网传月薪3000库管岗位,调休还要上班1小时,引发全网热议

火山詩话
2026-11-14 11:10:23
贾玲线下被偶遇,穿紧身衣服身材苗条,皮肤白皙状态像大学生

贾玲线下被偶遇,穿紧身衣服身材苗条,皮肤白皙状态像大学生

白宸侃片
2026-11-18 17:52:40
5300人,人均3个亿!Anthropic即将敲钟,泼天富贵要来了

5300人,人均3个亿!Anthropic即将敲钟,泼天富贵要来了

新智元
2026-11-18 16:00:31
患梅毒的人越来越多?医生再次强调:宁可打打牌,也别做这7事

患梅毒的人越来越多?医生再次强调:宁可打打牌,也别做这7事

健康科普365
2026-09-15 11:35:15
12岁那年我在后山放羊发现邻居大嫂的秘密,一夜后我变成了大人

12岁那年我在后山放羊发现邻居大嫂的秘密,一夜后我变成了大人

温情邮局
2025-05-16 11:57:12
2026-11-18 20:44:49
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
644215文章数 3591430关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

游客花1600元买的烤全羊剥不出1两肉 官方通报

头条要闻

游客花1600元买的烤全羊剥不出1两肉 官方通报

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

数码
教育
旅游
房产
公开课

数码要闻

三星LG显示加码AR微显示技术 索尼占七成OLEDoS供应

教育要闻

孩子厌学三个原因打通一点就愿上学

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

房产要闻

周大生出手!海棠湾又一大商业体来了

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版