抗击恶意伪造：新AI工具保护视觉真相

莫纳什大学与澳大利亚联邦警察（AFP）联手，通过一剂数字毒药来对付网络犯罪分子。

执法与社区安全人工智能实验室（AiLECS）是澳大利亚联邦警察和莫纳什大学合作成立的，正在开发一种新的干扰工具，该工具可以广泛应用于减缓和阻止犯罪分子制作人工智能生成的儿童虐待材料、极端主义技术宣传以及深度伪造的图像和视频。

这种被称为“数据中毒”的技术涉及对数据的微妙修改，使得使用人工智能程序制作、操纵和滥用图像或视频变得非常困难。

人工智能和机器学习工具（MLs）需要大量在线数据来生成AI内容，因此，污染这些数据后，AI模型会生成不准确、偏颇或失真的结果。这也使得更容易识别由犯罪分子制作的伪造的图像或视频。

这个名为“Silverer”的AI干扰器目前处于原型阶段。它在过去12个月里由AiLECS的研究员、项目负责人和博士候选人伊丽莎白·佩里开发。

佩里表示，这个名字是对制作镜子的银的致敬。同样，这个工具将用于生成原始图像的反射。“在这种情况下，就像在玻璃后面放置银子一样，当有人试图透过它看时，他们最终只会看到一个毫无用处的反射，”她说。

“在一个人将图像上传到社交媒体或互联网之前，他们可以使用 Silverer 对其进行修改。这将改变图像的像素，以欺骗 AI 模型，生成的图像质量非常低，表面覆盖着模糊的图案，或者完全无法识别。”

数字取证专家、AiLECS 联合主任坎贝尔·威尔逊副教授表示，假冒和恶意图像的生成问题越来越严重。

“目前，这些 AI 生成的有害图像和视频相对容易地使用开源技术来创建，使用这些算法的门槛非常低，几乎任何人都能轻松上手，”威尔逊副教授说。

澳大利亚联邦警察（AFP）已发现AI生成的儿童虐待内容有所增加，犯罪分子利用这项技术在线制作和分享大量虚假的露骨内容。

AFP指挥官罗布·尼尔森表示，数据中毒技术仍处于起步阶段，正在进行测试，但在执法能力方面显示出了一些有希望的早期结果。“我们看到的强有力的应用主要是在恶意目的上滥用AI技术。”

“例如，如果犯罪分子试图使用被中毒的数据生成基于AI的图像，输出的图像将会扭曲或与原始图像完全不同。通过对数据进行中毒处理，我们实际上是在保护这些数据，防止它们被生成恶意内容。”

指挥官尼尔森表示，干扰工具还可以通过减少需要筛选的虚假材料的数量来帮助调查人员。“已经存在多种数据中毒算法，就像我们在其他网络安全领域看到的那样，避免这些算法的新方法很快就会出现。”

“我们不认为任何单一方法能够完全阻止恶意使用或重建数据，然而，我们所做的类似于在非法赛车道上设置减速带。我们正在设置障碍，让人们更难滥用这些技术。”

Silverer研究项目的主要目标是开发并持续增强一种易于普通澳大利亚人使用的技术，来保护他们在社交媒体上的数据。

这个工具的原型版本目前正在讨论在AFP内部使用。