“AI+政治”，印度深伪视频搅动大选

本报驻印度特约记者 曹 冲 本报记者 苑基荣 陈子帅
5月20日，印度开启大选第五阶段投票。此前不久，一段“印度总理莫迪跟着孟加拉语流行音乐跳舞”的人工智能（AI）合成视频在网上播放量突破千万，引发印度网民和媒体的广泛讨论。事实上，从去年开始，与政治相关的各类深度伪造视频就接连出现，在印度这次世界规模最大的选举中发挥着各种作用，包括让名人为政党代言、恶搞政治对手、“复活”已故政治家为政党背书等等。“如果说2019年大选被称为‘社交媒体选举’，那么2024年将见证‘AI选举’的时代。”据《印度教徒报》报道，虽然在以前的印度大选中，仇恨言论和虚假信息并不让人陌生，但如今随着AI技术的惊人发展带来革命性变化，2024年的印度大选将面临新挑战，AI深伪介入选举可能会侵蚀印度的民主并深刻影响该国的政治生态。
“分清每个视频的真实性几乎是不可能的”
5月6日，莫迪在社交平台X上转发了自己跳舞的AI合成视频，并配文称：“和你们所有人一样，我也喜欢看自己跳舞。在投票高峰期看到这样的创意真是让人快乐！”视频显示，“莫迪”随着节奏感十足的孟加拉语歌曲跳跃着登上舞台，一边踢腿一边挥舞手臂。该视频右下角有着“VIGGLE”字样的水印，这是一个可以快速生成AI视频的免费网站。
然而，这番表态并未给此事画上句号。据印度《经济时报》报道，另一段视频显示，“印度西孟加拉邦首席部长、草根国大党主席玛玛塔·班纳吉”跳了同一段舞蹈，但背景音乐是她演讲的一部分，内容是批评那些退出该党转而加入莫迪领导的印度人民党（印人党）的人。视频发布者遭到西孟加拉邦警方的警告。此后，不少印度网民开始将班纳吉与莫迪进行比较，称莫迪是“有史以来最酷的总理”。而且，“莫迪跳舞”视频制作者在发布视频时的配文也颇具政治意味：“我发布这段视频是因为我知道所谓的‘独裁者’不会让我因此被捕。”
不过，不同于莫迪此次积极的表态，去年年底一段“莫迪跳传统舞蹈”的视频走红时，莫迪公开表示对深伪技术的担忧。他警告说：“人们会误以为自己看见的是真实的，这会引发巨大危机。”
据法国《回声报》报道，印度正成为将AI应用于政治领域的“先锋”。全球安全软件公司迈克菲今年4月的一份报告显示，近1/4受访印度人曾接触过带有政治内容的深度伪造产品。印度大学生夏尔马告诉《环球时报》记者：“昨天我看到我最喜欢的演员被人伪造了一个为政党拉票的视频，但他平时并没有表现出任何政党倾向。我们应该制定严格的法律来禁止这种造假行为。”商人戈帕尔也对记者表示担忧：“我们怎么才能相信我们看到或听到的事情呢？现在网上有太多明星拉票的视频了，分清每个视频的真实性几乎是不可能的。”
据《印度斯坦时报》报道，多名宝莱坞影星在大选期间陷入深伪视频争议。上个月，一段“印度著名演员阿米尔·汗敦促选民小心空洞承诺”的视频走红，似乎将矛头直指印人党。阿米尔·汗的发言人表示已向有关部门投诉。有观点认为，利用宝莱坞明星做政治宣传是印度政党“争先恐后”吸引年轻选民的尝试。数据显示，印度今年约有1800万名首次投票的选民和近2亿名20岁至29岁的年轻选民。
“新颖但危险”，卡塔尔半岛电视台报道称，印度各政党正转向AI竞选策略。其中，“复活”仍有影响力的已故政治人物是一种常见方式。报道举例称，曾领导德拉维达进步联盟的卡鲁纳尼迪于2018年去世，但他今年1月出现在一段AI合成的视频中，对他的儿子、现任泰米尔纳德邦首席部长大加赞赏。制作该视频的印度媒体技术公司Muonium创始人森蒂尔·纳亚加姆表示，与耗时长、花费大的传统集会相比，让已故领导人“复活”更新颖、更具成本效益。
还有一类AI视频会通过恶意编辑来攻击政治对手。今年3月，印人党发布了最大反对党国大党领导人拉胡尔·甘地的一段深伪视频，视频中的“甘地”说着一句他从未说过的话：“我什么都不做。”据法新社报道，印人党较早在竞选中使用新技术。早在莫迪当选总理的2014年，印人党就用全息投影技术让莫迪出现在集会上，扩大其影响力。
今年2月，国大党制作了“莫迪”演唱歌曲《小偷》的深伪视频，嘲讽莫迪偏袒该国富人的行为。4月，印度内政部长阿米特·沙阿也出现在一段深伪视频中，“沙阿”声称要结束针对数百万贫困和低种姓印度人的平权行动政策。据《印度教徒报》报道，因涉嫌传播虚假视频，警方已调查并逮捕多名国大党工作人员，其中包括该党社交媒体全国协调员阿伦·雷迪。雷迪被指控是沙阿深伪视频的“幕后黑手”，但现已被保释。雷迪曾在接受采访时表示：“政治就是创造认知。通过使用AI工具并促成点击，就可以在一分钟内彻底改变人们的看法。”
印度政党今年将在AI助选上花费超过5000万美元
在今年大选期间，多个政党都在利用AI技术制作竞选材料。目前，印度开始涌现出专门为政治人物提供AI服务的企业，它们提供的服务包括制作政界人士谈论所开展项目的多语言版本视频，或制作用于询问选民在当地面临的问题并寻求建议的电话音频等。但也有业内人士表示：“我们会收到很多请求，其中45%到50%的请求是不道德的。一种是将政治领导人的面孔替换到有争议的视频内容中的，这可能会损害他的形象；另一种就是克隆政治对手的声音，让他说一些他以前根本没有说过的话。”
据国际科技新闻网站“余下的世界”4月报道，印度贾维斯咨询集团的数据显示，印度各政党今年将在AI生成竞选材料上花费超过5000万美元（1万美元约合7.2万元人民币）。合成媒体技术公司正加班加点满足所有政党的需求。
“这是我们首次看到深伪视频的大规模部署。即使对我们来说也是一件新鲜事。”纳亚加姆说，他的公司Muonium从今年1月开始涉足政治领域业务，第一个项目就是“复活”卡鲁纳尼迪的视频。此后仅3个月，这家公司就被此类合同“淹没”了。由于带宽不足，该公司目前只与“可以信任并可以提供担保的政党”合作。此外，此类公司也一般不会同时为在同邦竞选的两个对手党派提供服务。
贾杜恩是印度AI合成媒体技术公司Polymath Solution的创始人，该公司去年11月开始为印度政界人士制作AI视频内容。在几个月的时间里，这家由9个人组成的小型公司，已获得6个竞选相关项目，并正同时服务多个政党，预计将于今年大选期间赚取超过24万美元。
关于深伪视频的具体费用，以Polymath Solution为例，该公司收取6万卢比（1万卢比约合868元人民币）的语音克隆费和10万卢比的数字头像创建费。曾为莫迪制作3D全息图的媒体技术公司Avantari Technologies收取100万卢比的语音克隆费，其推送每条社交媒体WhatsApp消息的收费为30卢比。印度政治学家维什诺伊表示：“印度主要政党可能会为AI竞选活动拨款超过100万美元……平均一位候选人可能有8万至9万美元。”
“竞选变得越来越奇怪了”
据《印度教徒报》报道，AI技术运用到选举中积极的一面在于，AI技术正在降低制作竞选材料的成本和障碍。比如一段“莫迪”直接叫出选民名字并鼓励选民参与投票的个性化视频，在WhatsApp上被一对一推送给数亿名印度网民，相比传统手段节省了大量的时间和资金，因此也极有可能成为未来竞选的重要工具。据新加坡《联合早报》报道，一些专家认为，AI技术一方面有望改变印度大选历时长、耗费大的现状，但另一方面，也会让假消息变得更普遍、更具针对性且更难被发现。
印度选举委员会表示：“在社交媒体平台上使用被操纵、扭曲、编辑的内容，可能错误地影响选民意见，加深社会分歧，侵蚀对选举过程的信任。”印度前首席选举专员库雷希称：“谣言一直是竞选活动的一部分。但在社交媒体时代，它可能会像野火一样点燃这个国家。”
贾杜恩告诉英国天空新闻台，之前甚至有某个政党希望该公司帮助对一段真实的视频进行处理，使其看起来像是深度伪造的，并打算以此进行“辟谣”，因为原视频“有损候选人形象”。对此，贾杜恩直言：“竞选变得越来越奇怪了。”不少印度民众也担忧，深度伪造正让“真相”变成一个可塑的概念，公众向领导人问责的能力也会受到严重影响。
对外经济贸易大学国际关系学院学者梁怀新对《环球时报》记者分析说，“AI+政治”趋势的成因主要有3个方面：一是AI技术跃迁提供了技术基础，使深伪内容达到真假难辨的程度；二是在大国战略竞争的整体态势下，近些年美西方或印度、阿根廷等发展中国家出现明显的政治极化趋势，选民依赖网络获取信息而不过多考量其真实性，这被一些激进政治势力所利用；第三，关于AI生成产品的伦理道德问题还存在极大争议，相关监管法规相对滞后，客观上助推了AI深伪在竞选中的应用。
监管法规滞后，印警方像在玩“打地鼠”游戏
关于印度对AI深伪的相关法规，印度数字未来实验室政策研究员阿努什卡·贾因表示，印度法律目前没有对“深度伪造”作出明确定义。警方一直在使用针对诽谤或侵犯个人隐私的法律，并结合《信息技术法》，解决个别案件。很多时候，他们像在玩“打地鼠”的游戏。
《印度斯坦时报》报道称，虽然政治领域的虚假信息在印度不是一个新问题，但相关执法行动一直都处于起步阶段，也并非持续性的。现在最紧迫要解决的问题是，数字平台该如何标记、识别这些媒体内容。目前，印度选举委员会已致函所有政党，要求他们在接到通知后3小时内删除任何深度伪造内容。委员会还要求各政党人员不要使用他们的社交媒体账号发布深度伪造的视频和音频，也不要传播任何错误信息或合成、修改的信息。
“AI深度伪造可能颠覆很多国家的选举。”美国《华盛顿邮报》报道称，印度大选让人们看到AI工具的爆炸式增长如何使围绕竞选打造虚假媒体内容变得更容易，并改变该国民主进程。加利福尼亚大学伯克利分校的计算机专业教授法里德表示，在多国的选举中，深伪内容泛滥势头都很迅猛。比如美国有模仿总统拜登声音的电话，印尼大选期间戈尔卡党用AI技术“复活”前总统苏哈托等，都凸显了解决该问题的紧迫性。▲