让利用AI制造谣言者依法付出代价

来源：滚动播报

（来源：上观新闻）

我国网络安全领域的基础性法律《网络安全法》的修正草案在日前举行十四届全国人大常委会第十八次会议上提交审议，拟增加促进人工智能安全与发展内容，其中将“进一步完善相关处罚规定”。

时下，利用AI工具传播谣言，使得网上和手机上的谣言数量高速增长，特别值得引起我们注意。日前，某公众号运营者钟某为蹭“海啸预警”热点，利用AI生成“30万居民撤离上海”“数十万上海市民正排队登车”等耸人听闻的言论。无独有偶，福建厦门公安机关发现，网上有信息称：“2025年3月3日，厦门市某化工厂发生一起严重的闪爆事故，造成3人死亡、3人受伤……”公安机关调查发现，这也是发布者许某通过网上AI助手软件生成的谣言。

AI的迅速发展，正在逐渐改变我们的生活方式，提升工作效率，为解决许多问题开拓了新的途径。但是，AI也被用于制作发布谣言，为虚假信息的批量生产提供了“温床”，对部分群众造成困扰，也给社会治理带来了新的挑战。

传统谣言生产依赖造谣者人工操作，如今造谣者使用AI工具，只要输入特定的关键词或指令，便可快速生成内容逼真、欺骗性强的谣言，从而实现谣言的大规模、高效率生产。人工智能技术让网络谣言内容更为逼真，常配有伪造的图片、视频甚至所谓“官方回应”，极具迷惑性。AI不仅能高效生成虚假信息，还可以通过过滤、推荐机制，将虚假信息聚合形成“证据链”，给普通用户乃至专业人士造成误导。AI造谣门槛低、识别难、识别难、破坏大。

AI谣言为何传播力如此之强？因为AI谣言可以做到分平台、分渠道、分时段、分媒介的定制化生成和发布，并且成本低廉，可以短时间内成倍率传播。AI谣言还能彼此交叉、共振与放大，使得辟谣难度大大增加。以前造谣需要PS技术，现在只需要一句话就能生成。传统谣言像火，扑灭源头即可；AI谣言像病毒，会不断变异，增强了传播的速度。与传统网络谣言相比，AI谣言更加难以防治，甚至“进化”出更为“智能”的“反侦查”机制。在AI技术加持下，虚假信息的真伪更难辨别；甚至有人开始利用“社交机器人”，实现“一键式”自动发布和传播网络虚假信息。

这些发布信息的MCN机构之所以这样做，是为了通过人为制造大量热点事件实现引流并增加关注度，根据流量获取经济利益。在AI谣言的背后，隐藏着一项耸人听闻的“生意经”。据媒体报道，有的MCN机构每天发数千条谣言，收入达万元以上。有人为了流量，给自媒体账号炒作“吸粉”。此前上海一女童走失事件中，就有团伙利用AI工具，编造“女孩父亲系继父”等谣言，6天内制造发布268篇文章，多篇文章点击量超过100万次。还有人借此实施诈骗等违法犯罪行为，不久前，中国体育彩票发布辟谣声明，有平台声称可通过“AI大模型”预测中奖号码，诱导用户付费。一些机构通过AI分析社交平台热词，就remen 话题批量生成谣言，通过算法定向推送，最高峰一天能生成4000至7000篇假新闻。

清华大学新闻与传播学院新媒体研究中心发布的《揭秘AI谣言:传播路径与治理策略全解析》研究报告指出，各类AI谣言信息量占比中，经济与企业类谣言和公共安全类谣言占比最多、增速最快，其中餐饮外卖、快递配送等民生行业成为谣言重灾区。

我们要严禁用AI制造谣言,让利用AI工具制造谣言者付出代价。《生成式人工智能服务管理暂行办法》明确禁止发布利用AI生成虚假信息，违规者将面临平台封禁、罚款等处罚。《中华人民共和国刑法》则规定，编造虚假险情、疫情、灾情等信息，严重扰乱社会秩序的，最高可判7年有期徒刑。如今，制造“30万居民撤离上海”谣言的钟某和制造“厦门市某化工厂发生一起严重的闪爆事故”的许某已被警方拘留。等待他们的，将是无情的法律制裁。

原标题：《上观时评 | 让利用AI制造谣言者依法付出代价》

栏目主编：简工博 文字编辑：简工博 题图来源：上观题图

来源：作者：吴兴人