Facebook被呼吁对穆斯林美国人施暴的伊斯兰恐惧症AI垃圾内容淹没

“我们要来了。”

本月初，极右翼白人民族主义者杰克·兰带着一块呼吁"驱逐一亿"穆斯林的标语牌，来到密歇根州迪尔伯恩一场和平的宗教游行队伍前，他显然没打算交到朋友。

不出所料，这位密歇根州阿拉伯裔美国人社区的惯常挑衅者——曾因参与1月6日国会骚乱而在监狱服刑四年——与一小群愤怒的民众发生了冲突，导致三人被捕。

换句话说，他是来找架打的，而且如愿以偿。但对于兰和他那些极右翼支持者来说，这场冲突正是"伊斯兰化美国"的铁证，而迪尔伯恩庞大的阿拉伯社区成了显而易见的目标。

作为对这场争端的回应，兰宣布举办"迪尔伯恩基督教十字军游行"，使用了一张AI生成的海报，描绘基督教圣殿骑士拔剑冲向一群穆斯林的画面。（十字军东征是西欧基督教徒长达数百年的一系列宗教征服战争，期间对数千名穆斯林、犹太人和东正教基督徒进行了大规模屠杀。）

帖子愤怒地写道："要么十字军远征，要么被取代！"

在Facebook上，兰的"十字军游行"消息像野火一样蔓延，出现了大量为这场种族主义事业欢呼的帖子——在某些情况下，还包括针对穆斯林美国人的暴力行为。

“好吧，密歇根州，你们都别再当一群没用的软蛋了，对迪尔伯恩做点什么吧。”一个兰的支持者在Facebook帖子中写道。"别搞错了，这是一场对美国本土的攻击……就我个人而言，如果他们来我的城镇、踏上我的地盘，他们一定会装在该死的尸袋里离开。"

随着兰被驱逐的故事传开——他厚颜无耻地将其夸大为"石刑"，即一种死刑执行方式——故事被歪曲成一个无辜男子被愤怒的穆斯林杀害的虚构传说。这场和平游行被剥离了背景，被描绘成一场反基督教的暴力骚乱。

“他们用石头砸死了一个基督徒，此人出现在一场穆斯林反基督教抗议活动上，他们随后还试图向媒体隐瞒此事。”一位印第安纳州居民在Facebook评论中写道。（事实上，没有人被杀，兰的袭击者被迅速逮捕。）

巧合的是，这起怒火燃烧的事件与Sturgis摩托车集会时间重合——这是南达科他州数十万摩托车爱好者参加的一场爱国聚会。不久，兰最初的行动号召就被大量AI生成的帖子淹没，这些帖子呼吁Sturgis参会者骑车前往迪尔伯恩，终结所谓的穆斯林疯狂行径。

“显然距离密歇根州迪尔伯恩只有665英里，可以从Sturgis出发去那里与那些骑手汇合，参加反伊斯兰抗议活动。”Facebook上一则AI生成的帖子写道。

一段带有迪尔伯恩警察局长伊萨·沙欣AI生成影像的反穆斯林视频，积累了超过600条愤怒的评论，呼吁爱国者"夺回密歇根"和"干掉穆斯林"。

“我们已经受够了这些蟑螂，它们已侵入我们美丽的国家！！！”该视频下方的一条评论写道。"是时候把每一个穆斯林男人、女人和孩子都清除掉，把他们赶出我们的国家了！！！在他们把我们的国家变成第三世界的粪坑之前！！！"

不出所料，Sturgis-迪尔伯恩联合号召简直像猫薄荷一样吸引着Facebook上最种族主义的用户，他们毫不掩饰自己的伊斯兰恐惧症意图。

"迪尔伯恩还藏着多少渣滓？迪尔伯恩在窝藏恐怖分子和罪犯。"一个用户怒吼道。"迪尔伯恩的‘公民’全都是非法滞留。我们要来了。通过渗透入侵。到此为止。8月18日。"

"迪尔伯恩发生的事情太可怕了。我个人希望那些骑手来的时候全副武装。"另一个评论者写道，随后煽动暴力："他们没有一个在乎你……我认为这是值得消灭的。"

另一则AI生成的帖子展示了一群似乎是机器人的十字军手持枪械的画面，并附有前往迪尔伯恩集结的"武装号召"。

在被问及密歇根州呼吁暴力的具体帖子例子时，Facebook的母公司Meta将其关于仇恨行为的政策提供给我们参考，该政策称Meta"保护难民、移民、入境移民和寻求庇护者免受最严重的攻击……不过我们允许对移民政策进行评论和批评。"

Meta似乎删除了我们标记的部分帖子，但也保留了一些，包括声称一名男子被石头砸死的帖子和将穆斯林称为"蟑螂"的帖子。

这波病毒式传播的仇恨言论和暴力号召，让人联想到Facebook历史上类似的事件——当时出于政治动机的虚假信息，被该平台追求互动量的算法推波助澜，煽动反应性用户诉诸暴力。2021年1月6日的国会骚乱就是如此，这场极右翼起义是由Facebook上泛滥的虚假信息推动的（导致了前文提到的兰的被捕，不过他在特朗普第二任期内获得赦免）。而最极端的情况是2017年的罗兴亚种族灭绝，当时Facebook上泛滥的种族主义内容导致了缅甸对穆斯林的大规模种族暴力爆发。

鉴于所有这一切正发生在数字空间中，目前很难想象8月18日的实际集会将如何收场。无论如何，后果远远超出一场伊斯兰恐惧症集会的范围——因为这些刚刚被激进化的人，很可能将在未来几代人中继续散播他们的偏见。