关于AI深度造假和国家安全的报告

以下是2022年6月3日国会研究服务处的焦点报告《深度造假与国家安全》。

报告内容如下

"深度造假"--一个在2017年首次出现的术语，用来描述利用人工智能（AI）技术生成的逼真照片、音频、视频和其他伪造品--在未来几年可能会带来各种国家安全挑战。随着这些技术的不断成熟，它们可能对国会监督、美国国防授权和拨款以及社交媒体平台的监管产生重大影响。

深度假货是如何产生的？

虽然定义各不相同，但深度造假最常被描述为使用机器学习（ML）--人工智能的一个子领域--特别是生成式对抗网络（GANs）的技术进行的伪造。在GAN过程中，两个被称为神经网络的ML系统在相互竞争中被训练。第一个网络，即生成器，负责创建伪造的数据--如照片、录音或视频片段--以复制原始数据集的属性。第二个网络，即鉴别器，负责识别伪造的数据。根据每次迭代的结果，生成器网络进行调整，以创建越来越真实的数据。这两个网络继续竞争--通常是数千或数百万次的迭代--直到生成器提高其性能，使鉴别器不再能够区分真实和伪造的数据。

虽然媒体操纵不是一个新现象，但使用人工智能生成深度假象引起了人们的关注，因为其结果越来越逼真，创建速度快，而且利用免费提供的软件和通过云计算租用处理能力的能力，制作成本低廉。因此，即使是不熟练的操作员也可以下载必要的软件工具，并利用公开的数据，创造出越来越有说服力的假货内容。

深度造假如何使用？

深度造假技术已经在娱乐领域得到普及--例如，社交媒体用户将演员尼古拉斯-凯奇插入到他原本没有出现的电影中，以及一家博物馆将艺术家萨尔瓦多-达利生成一个互动展览。深度伪造技术也被用于有益的目的。例如，医学研究人员报告说，他们使用GANs来合成虚假的医学图像，以训练罕见疾病的检测算法，并尽量减少病人的隐私问题。

然而，深度造假也可能被用于邪恶的目的。国家对手或有政治动机的个人可以发布民选官员或其他公众人物发表煽动性言论或有不当行为的伪造视频。这样做反过来可能会削弱公众的信任，对公共讨论产生负面影响，甚至影响选举。事实上，美国情报界的结论是，同样，2022年3月，乌克兰总统沃洛季米尔-泽伦斯基宣布，他发布在社交媒体上的一段视频--他似乎指示乌克兰士兵向俄罗斯军队投降--是一个深度伪造。虽然专家们指出，这个深度伪造并不特别复杂，但在未来，令人信服的音频或视频伪造有可能加强恶意的影响行动。

以上是部分，该文属于长篇报告，完整报告由公众号【情报分析站】提供，若有意请前往获取