北师大法学院教授梁迎修：AI在网络辟谣中展现强大应用潜力

2024年是中国全功能接入国际互联网30周年，也是中国网络法治建设起步30周年。南方都市报聚焦中国网络法治建设成效，结合网络法治发展方向等热点问题进行深入讨论，邀请网络法律专家，开展“网络经纬·e法同行”系列专家访谈报道。

第三期，一起关注网络谣言治理。

编造传播虚假信息“造热点”“蹭热点”“带节奏”， 炒作热点事件进行引流牟利……网上虚假信息和谣言，严重扰乱社会秩序和网络空间秩序，危害广大网民合法权益。

开展网络辟谣，治理谣言乱象，是网络生态治理的重要内容。北京师范大学法学院院长、教授梁迎修在接受南都专访时表示，近年来，国家高度重视网络谣言问题，多措并举，综合治理，不断取得成效。他指出，随着AI技术发展，AI生成虚假信息对网络谣言治理带来了新的挑战，但同时，AI技术在网络辟谣工作中展现了强大的应用潜力，为网络谣言治理提供了新思路和新工具。

我国已构建多部门协作的网络谣言治理体系

南都：目前，我国在网络谣言治理方面采取了哪些举措、取得哪些成效？

梁迎修：首先是在网络谣言治理方面建立了多层次的法律法规体系，为治理网络谣言提供了法律依据。《宪法》明确禁止诽谤和诬告陷害行为；《刑法》规定了编造、故意传播虚假信息罪、诽谤罪等罪名；《民法典》禁止以侮辱、诽谤等方式损害公民的名誉权，规定了网络服务提供者对于谣言的合理注意义务和管理义务；《治安管理处罚法》规定对散布谣言扰乱公共秩序行为可以施以行政处罚。《网络安全法》《互联网新闻信息服务管理规定》《网络信息内容生态治理规定》等网络领域专门法律又进一步细化了网络谣言治理的具体要求。

其次，我国针对网络谣言开展了一系列专项行动，依法打击造谣传谣行为，建立联合辟谣平台，持续开展辟谣宣传和普法教育，提高了公众识谣、辨谣、防谣能力。

总体而言，我国已构建了较为完善的多部门协作的网络谣言治理体系。通过对虚假信息的源头追踪和快速辟谣，网络谣言传播得到有效遏制；对于编造和传播重大谣言行为，有关部门能够及时采取法律措施予以处罚；公众的网络素养逐步提升，越来越多的人能够识别并抵制虚假信息。

AI技术为网络谣言治理提供新思路新工具

南都：人工智能技术的发展，给网络谣言发现、查证工作带来怎样的挑战？

梁迎修：第一，增加了网络谣言的欺骗性。AI生成的虚假信息具有高拟真性，包含新闻要素，甚至配有图像和视频，增加了谣言的迷惑性，使得公众难以辨别真伪。

第二，提高了网络谣言的核验难度。由于AI生成的虚假信息高度逼真且多变，传统的人工核验手段难以快速有效识别。AI生成的谣言查处面临举证难、信息源模糊等困难，需要投入更多时间成本进行核验。

第三，加快了网络谣言的传播速度。AI技术的普及降低了制造和传播虚假信息的成本，使得虚假信息的制造者更容易利用AI技术进行造谣、欺诈甚至操纵舆论。

此外，AI生成内容的匿名性和快速传播特性使得追踪和问责变得更加困难，这对网络谣言治理能力提出了更高要求。

南都：人工智能技术在网络辟谣中应用场景、功能优势有哪些？如何健全法治引领科技向善？

梁迎修：AI技术在网络辟谣工作中展现了强大的应用潜力，拥有谣言内容识别、谣言路径追踪、自动化辟谣、谣言预防教育等多方面应用场景，为网络谣言治理提供了新思路和新工具。

第一，在谣言内容识别方面，AI技术可以通过大数据和机器学习算法，对网络上的文本、图片、视频等多媒体内容进行快速分析，甚至可以识别文本关键词，鉴别其是否为伪造或篡改的内容。

第二，在谣言路径追踪方面，AI技术有助于对谣言的源头进行快速追溯，找出谣言的最初发布者或传播者。AI还可以追踪谣言在网络上的传播路径，分析谣言的传播速度和范围，这种预测能力有助于防止谣言进一步扩散。

第三，在自动化辟谣方面，AI技术可以根据谣言的具体内容和形式，自动生成辟谣文字、图片或视频等。还可以根据目标受众的认知偏好和背景信息，生成个性化的辟谣解释，增强辟谣的可接受性和有效性，使受众更容易理解和接受辟谣信息。

第四，在谣言预防教育方面，运用AI技术构建谣言预警系统，能够有效地对网络上的信息进行实时监测和分析，及时发现并预警潜在谣言，干预和制止谣言扩散。AI技术还可以通过生成、传播有关识别和防范谣言的教育内容，提高公众的媒介素养和谣言防范能力。

“科技向善”理念明确了科技发展的伦理导向和价值取向。法治是保障科技向善的重要途径。首先，通过立法将科技向善确立为一项法律原则，并以此原则为指引来设计与科技研发应用相关法律制度。其次，在法律实施过程中严格执行，有效防范科技滥用的风险。

出品：南都大数据研究院

采写：南都记者 唐静怡 袁炯贤