美国用AI批量造假带风向，德国极右翼也跟着学，真假越来越难辨

卡塔琳娜·诺昆是政治学者和经济学者，长期研究虚假信息、阴谋叙事以及社交媒体平台上的政治影响。美国政府在社交媒体上发布人工智能生成的暴力视频，目标受众是年轻男性。卡塔琳娜·诺昆表示，左翼阵营如今也越来越多地使用人工智能。

记者问：自从美国对伊朗开战以来，白宫就在社交媒体上持续上演一场数字化的军事阅兵。一个视频里，画面显示一栋建筑遭到轰炸，中间还穿插了海绵宝宝喊“再来一次”。这类内容是想打动谁？

卡塔琳娜·诺昆说：这种机器化的视觉秀，尤其是对战争的审美化处理，明显是在面向年轻男性。有些帖子还借用了射击类电子游戏的视觉风格，目标人群则是那些伴随这类游戏长大的四十岁上下人群。在这种表达里，关于战争的复杂问题，比如炸弹会怎样影响平民，几乎被完全抹去了。

记者问：而吉卜力是一家动画工作室，它的作品通常诉诸女性主义、共同体和民主价值。

卡塔琳娜·诺昆说：用这种风格去呈现遣返，会打破受众原本的心理预期。因为人们通常已经习惯于把极右翼内容与另一种更加粗暴、更加直接的视觉语言联系在一起。

记者问：如今很多用户已经很难分辨事实与人工智能伪造内容。从8月开始，欧盟将要求对人工智能内容进行标识。这会有帮助吗？

卡塔琳娜·诺昆说：最基础的一点，也就是识别水印，很多人都还没有掌握。而且水印本身也很容易被去掉。在德国极右翼的政治外围环境中，我们还看到一些伪造的街头采访被大量传播。尤其是在巴登——符腾堡州和莱茵兰——普法尔茨州选举前，这类内容又一次广泛流传。

她表示，如果让一个18岁、金发、说话浅白的年轻女性来表达“把人赶出德国”的主张，这种诉求就会被包装得温和得多。但如果这段对话根本没有发生过，这名女性甚至根本不存在，那问题就非常严重。尤其是因为所谓“保护女性”，本来就是德国极右翼推动遣返议题时常用的一套论述。

记者问：这种形式似乎也和默茨关于城市景观的说法，以及“去问问女儿们”的思路很契合。

卡塔琳娜·诺昆说：这种“你应该想想自己的女儿”的框架本身就有问题。而人工智能伪造内容又把这个问题推高了一层，仿佛可以批量制造“假的姐妹”，再把她们当成传声筒来使用。

记者问：这主要是在吸引年轻用户吗？

卡塔琳娜·诺昆说：不只是。你会在这些帖子下面看到很多年长男性的留言，其中一些带有非常可疑、甚至明显性化的意味。他们显然把这些账号当成真的了。虚假信息是一个跨代际的问题。

记者问：在这里，人工智能角色的性化扮演了什么角色？

她说，这个账号会借当前冲突制造话题，发布她与特朗普同框的画面，或者她和其他女兵在基地床上嬉闹的内容。但在这些内容之间，又会插入对一个恋足平台账号的推广。这是一种非常值得质疑、却又高度迎合目标受众的传播方式。

记者问：除了性化和所谓需要被保护的形象之外，还有别的机制也在被利用吗？

卡塔琳娜·诺昆说：当然还有。研究虚假信息的专家卡罗琳·施瓦茨系统看过一些人工智能生成的“拉比”视频。这些账号从发型到服装都充满刻板印象，而配音内容则大量调用反犹主义成见，比如“所有犹太人都很有钱”或者“他们与精英圈子关系密切”等偏见。

她表示，这些账号会给出打擦边球的理财建议，或者兜售付费电子书，声称能带来财富和幸福。有些账号还会不断切换套路。过不了多久，同一个账号可能又开始围绕爱泼斯坦丑闻制造内容。还有账号会突然从“假拉比”变成“悲伤的假单亲母亲”，向外界请求帮助。

她说，只要是算法会推送的事件，几乎都能被拿来利用，因为算法会奖励耸动化表达。刻板印象可以替换，议题也可以替换，关键只是先聚拢受众，再想办法变现。

记者问：在社交媒体上使用人工智能的不只是右翼。现在也能看到由人工智能人物出镜的女性主义、反种族主义街头采访。这类反制措施会有效吗？

卡塔琳娜·诺昆说：如果是极度夸张的讽刺，往往更容易被识别出来，因此也可能帮助公众看清某种套路。但只要我们无法识别一段内容是由人工智能制作的，这本身就是问题。如今，人们对社交媒体上看到的各种内容越来越怀疑，这种怀疑在某种程度上也可以理解。

记者问：德国联邦政府目前基本还没有卷入民粹式的人工智能伪造传播。您对此感到庆幸吗？

卡塔琳娜·诺昆说：是的。但许多民主政党如今也已经在社交媒体的视觉表达中不同程度地使用人工智能。在我看来，仅仅靠“体面的人”联合起来，不去打一场肮脏的人工智能选战，是远远不够的。还需要有强制性的监管，为所有人建立公平一致的规则。

她表示，总体来看，平台承担的义务仍然太低。《数字服务法》能否真正落实，很大程度上取决于是否有处罚，以及处罚力度有多大。硅谷的一部分力量反对这种做法，把欧盟的行动称作审查，而特朗普则成了他们的代言人之一。

不过她强调，对有害的人工智能伪造内容和虚假信息进行标识或删除，并不是审查，而是在打击欺骗。