三人两个月炮制30万垃圾信息，AI造谣绝不能“零成本”

这年头，造谣的速度，插上AI的翅膀，已经快得超乎一般想象了。

还记得前不久社交媒体广为流传的“华山医院院长客死他乡”的“震惊新闻”？同事今天分享了谣言背后的故事，给我听得大开眼界：三个95后小伙，最小的还是2006年生的大学生，从今年2月开始起号，到案发的两个月时间内，纯靠AI发布了30万条紧跟热点的帖文信息，从而换取平台流量，谋取利益。这其中有相当数量均为AI胡编乱造的谣言，包括但不限于某女明星的遗产分配、华山医院“院长”客死他乡……甚至，被抓的时候，三个人自己都记不清楚自己编了啥话。

这个过程，基本已经完全脱离哪怕“ctrl c+ctrl v”这样简单的人工过程，转而依靠AI大模型生成内容，再在AI agent上代理分发，实现全自动制造垃圾信息，炮制和分发速度以秒计算。唯一需要他们付出人工劳动的，就是每天早上的“选题会”，主要就是搜罗各个平台的热搜，再交由AI，用模糊指令生成具体内容。

而这样的事情，早已不是个案。此前，也有调查揭露MCN中存在专门从事灰色“流量生意”的情况，原理都差不多，都是“AI赋能”，再借助廉价甚至免费的代理平台，实现超低成本的虚假信息发布，赚取流量。

我们需要认识到一个现实：如今，信息造假和传播需要的成本已经降低了太多，而虚假信息发布和传递的渠道则便利了太多。就像这个案例里，造谣者不需要任何“专业”知识和大规模团队，三个人，就能在两个月里发布30万条信息，在此前，这样的速度需要的人力物力远不止于这么点。

机器人可能还在蹒跚奔跑，但生成式AI是真正以很多人没预估到的深度参与进生活。而且，不知疲倦的AI在信息生产领域有着不可比拟的优势。据 Everypixel Journal 估算，截止到 2023年8月，AI生成的图像已超过过去150年人类拍摄的所有照片数量。随着各类大模型的飞速迭代，这一数量只会更惊人。

数量还在其次，更让我担心的，其实是生成式AI造谣所导致的信息污染问题。

当海量被胡编乱造炮制出来的内容进入公共信息流中，在平台和自媒体账号的推波助澜下，往往形成真假不分，甚至以假乱真的局面，严重干扰人们的正常认知。

这和人们的信息接受方式紧密相关。其实，很多自媒体账号“翻车”也不是一次两次了，今年初某女明星去世引起的舆论风波中，包括前述团伙在内的许多账号就炮制过该女星子女抚养权等谣言，虽然被平台进行了下架限流处理，但客观上这些不实信息已混杂成为公共信息的一部分，人为制造了某种虚假的“剧情反转”效果。

站在信息接受者的角度来看，当被编造出来的所谓“反转”越来越多，很难不让人产生“真相没有那么简单”的判断，甚至变成一种面对公共事件的下意识反应。次数多了，人们对社会现实和权威信息不再信任，反而更愿意轻信小道消息和自己的经验推测，美其名曰“让子弹飞一会儿”，社会共识也就更难以形成，舆论自然撕裂愈深，无数的对立、谩骂、攻讦，最终换来的只有“一地鸡毛”。

很显然，这是个公共信息“劣币驱逐良币”的过程。特别是在流量可通过平台变现的逻辑之下，真相变得并不重要，重要的是声量，往往越是极端化、情绪化的信息，越能吸引眼球、越有“市场”，与此相对应，理性的声音自然就更容易被淹没了。

更让人后怕的是，这种信息污染的方式，往往不是物理层面的相加，而是以化学融合的方式快速迭代复制。道理很简单，利用AI生成的内容，本身也会在信息流中被各种AI模型抓取，变成AI语料库的一部分，相当于编造了一轮又一轮，本质上是个信息不断“反刍”的过程，最后生成的内容已经与事实相差十万八千里，还会影响到AI本身的训练过程和未来信息源，让谣言的影响持久不散。

这类信息污染的渗透之深，或许比人们想象得要更为严重。其中固然有为谋利故意为之的，但也有很多专业人士、专业机构，在严肃的公共写作、学术论文写作中引用了AI编造的不实信息而不自知，甚至能骗过层层人工审核得以发表，所谓的“深度内容”，实际上已沦为“深度伪造”。

当AI造谣的运作模式变得更加熟练，成本越来越低，背后的产业链及利益链也就更为顺畅且牢固。显然，应对之法，已不能简单满足于传统的人工干预手段。事实上，包括上海在内，多地已经在探索数字水印、特征检测等多种针对性的技术手段，依靠AI技术用“魔法”打败“魔法”。

面对来势汹汹的AI谣言，掌握真实信息的政府部门和公共机构，需要比以往用更快的速度、更翔实的信息链对谣言进行澄清和回应。同时，社会正常的运作秩序需要保障，政府部门和公共机构的精力不可能也不应该全部浪费在应付这些“秒发”谣言上，炮制谣言者必须依法严惩，无论他们使用的是什么工具。要用法律武器让他们意识到扰乱公共信息秩序同样是违法犯罪，同样要付出沉重的代价，而不是一句轻飘飘的“都是AI自己生成的”就能掩盖罪责，AI造谣，绝对不能“零成本”。从这个角度来说，这起案件的查处对目前泛滥的AI信息生成极具警示意义。

我还觉得，在加强技术监管、落实平台责任之外，最终还是离不开每一个个体提升自己的媒介素养。当周遭信息环境已然发生深刻变革，能够检索出真实且有价值的信息，越来越成为个人的一项核心能力。很多时候这也并不复杂，哪怕只是多留个心眼检索一下信息出处、看到一些可疑信息不轻易跟风上头，都能少踩许多坑。

时代在变，面对造谣零成本的AI，身处其中的平台、公共管理方，乃至我们自己，其实也都需要改变。

来源 | 解放日报

作者 | 顾杰 林子璐