人民论坛锐评 | 严防谣言搭上AI快车

近日，公安部公布10起打击整治网络谣言典型案例，其中两例都与AI工具有关。AI谣言危害巨大，不仅易造成社会恐慌，甚至会给政策推行、抢险救灾等造成阻碍。

比如，王某使用某文字类AI工具，捏造涉“山西大同地震”相关谣言信息之后，又利用某视频生成类AI工具，生成与文本对应的视频，在某社交平台发布；并配文称“大同地震现场：一片废墟与惊魂”，误导大量网民关注和讨论，扰乱社会公共秩序。

再如，周某为“蹭热点”赚取流量收益，使用AI工具生成“四川滑坡事件中有一名男子笑的那么开心”帖文，并在网上发布。该信息系在互联网上搜索不相关图片、文章后编辑而成，造成不良社会影响。

与传统谣言相比，AI谣言呈现智能化、定制化、融合化的新特点，其可以做到分平台、分渠道、分时段的定制化生成和发布，实现短时间内成倍率传播。更要看到，AI谣言可以做到低成本“无中生有”，造谣者在手机上搜图配图，再加上人工智能生成的文字和视频，将多种形态的虚拟内容组合，一个“像模像样”的谣言，就能在互联网上迅速传播。

AI谣言为何会出现？有些是人为恶意编造传播，如别有用心之人为获取利益而故意编造。这类谣言模式甚至已催生产业链，个别机构通过AI分析社交平台热词，就关注度高的话题生成谣言，再通过算法定向推送，从而批量生成虚假新闻骗取流量。此外，绝不能忽视“AI幻觉”现象。“AI幻觉”是指生成式人工智能系统在无明确依据的情况下输出回答，语言表达看似合理，但内容实则虚假甚至违背常识，这种谣言可以理解为“无意谣言”，同样需要警惕。

由于AI谣言成本低、流量大，有的造谣者以为这是稳赚不赔的买卖。实际上法律早已划定了清晰的行为边界。如果有主体利用AI进行造谣，视情节严重程度，需要承担民事、行政或刑事责任。依据《中华人民共和国治安管理处罚法》第二十九条，故意散布谣言，谎报险情、疫情、灾情、警情或者以其他方法故意扰乱公共秩序的，处五日以上十日以下拘留，可以并处一千元以下罚款；情节较轻的，处五日以下拘留或者一千元以下罚款。《中华人民共和国刑法》第二百九十一条规定，编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或者其他媒体上传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制;造成严重后果的，处三年以上七年以下有期徒刑。

一段时间以来，各级网信、公安等部门履行各自职责，携手联动惩治造谣传谣行为，不断强化警示效应，共护清朗网络空间，成效有目共睹。

还要认识到，除了对“AI造谣”的事后惩罚，如何事前就将谣言扼杀在“摇篮”中，也是应该关注的重中之重。对于AI生成软件而言，开发者需致力于优化模型，通过人类反馈的强化学习等技术，尽可能减少AI“一本正经地胡说八道”，避免低质量数据造成“AI幻觉”。同时应在技术中内嵌安全护栏和警示机制，如对明显涉及造谣、侵权或违反公序良俗的生成指令，进行干预或拒绝执行。此外，应严格按照《人工智能生成合成内容标识办法》的要求，为所有生成内容添加显著的提示标识，实现内容可追溯。

网络内容平台是阻隔谣言传播的关键环节。首先，要不折不扣地落实审核与标识要求，建立强大的AI内容识别与鉴伪技术体系，快速精准识别人工智能生成内容，并进行显著标识提示。其次，健全监测管理机制，对热点事件和敏感话题下的信息保持高度警惕，一旦发现AI谣言，立即采取限流、标签提示、下架删除等措施。追溯谣言源头，对恶意传播谣言的账号，实施从禁言到永久封禁的阶梯式处罚；并及时公示处置结果，以儆效尤。再次，畅通用户举报和投诉渠道，发挥广大网民的监督力量。

整治AI谣言，是一项长期而复杂的系统工程。只有强化各方主体责任，加强源头治理，推动立法、执法、司法等形成强大合力，提高造谣者的违法成本，才能有效打击各类AI谣言，防止AI技术跑偏和滥用，才能让网络空间更加清朗有序，确保技术发展真正造福于社会。

来源 | 人民论坛网

责任编辑 | 王卓怡 曲统昱