黑暗中的一束光：为了对抗Deepfake，中科院张欣怡果断免费开源

大数据文摘受权转载自夕小瑶科技说
作者 | 海野

近日，一起针对女性的网络犯罪刷爆全网——

“施暴者”利用一门名为deepfake（深度伪造）的AI换脸技术，将不雅视频的“女主角”的脸，换成身边女性的脸并大肆进行宣传。

受害女性们受到了莫须有的网络暴力，颜面扫地、名誉全无。

被偷走的，不仅是受害者的脸，还有身份、名誉、隐私、尊重。近乎无解。

直到今天，一位勇敢的小姐姐站了出来：张欣怡。

张欣怡，作为一名算法研究工程师，她一直在deepfake检测工作深耕。近期参加了外滩大会的全球Deepfake攻防挑战赛。

而同样作为一名女性，deepfake事件对女性带来的伤害，让她无比的震惊与愤怒。

我们会将参赛使用的AI模型向全球免费开源，让所有有需要的人都可以对抗deepfake。希望通过技术手段，为每一个可能受到伤害的人提供保护。

在如此艰难的战斗中，张欣怡率先站了出来，利用自己的毕生所学，在技术层面，果断举起火把，为受害者女性点燃出一片光明。

回顾一下deepfake事件

简单描述一下现在的deepfake技术，那就是：

只需要一张照片，就可以实现超逼真AI换脸。

这项技术最早可以追溯到两年前，有人在YouTube上上传过deepfake技术的教程：

而随着时间推移，deepfake的真实度也越来越高。

现在，只需要不到10美元，就能在几分钟时间内制作出大量伪造视频。

每项技术的发展，我们都期待它在友好的领域发光发热。比如在deepfake技术加持下，抖音上的AI整蛊特效：

但我们不得不承认，它的滥用在犯罪领域得到了更好地发挥。

利用deepfake技术，施暴者针对女性制作了大量淫秽视频，这起事件在韩国最为猖獗，在全球各国也均有发生。

更甚，施暴者收集了合成后的AI视频，以及家庭住址等个人隐私信息，进一步针对受害者，展开财物上的敲诈。

而令人胆寒的是，这件事情的爆发，居然是来源于韩国的一所学校：

据韩联社报道，从2021年7月至2024年4月，首尔大学毕业生朴某和姜某，涉嫌利用deepfake技术换脸合成色情照片和视频，并在Telegram上私密传播，受害女性多达61人，包括12名首尔大学学生。

这次事件，最大的受害者，是学校里的学生和老师。

最大的加害者，居然也是学生！

这只是deepfake犯罪的冰山一角，韩国女性人权振兴院今年发布的《2023数字性犯罪受害者支援报告》显示，去年有8983名数字性犯罪受害者寻求帮助。

斯坦福大学互联网观察站也发现，在大型AI数据库LAION中，至少有数千张疑似儿童性虐待的图像。

而韩国政府的无作为，韩国社会的沉默不语，更加大了作案人员的嚣张气焰。迄今，韩国已有至少200所学校的学生成为deepfake事件的受害者。

有网友制作了一张受害者所在学校的地图，其中密密麻麻的红标触目惊心：

甚至，deepfake的受害者不得不跑到推特和微博上，寻求其他国家的帮助：

这件事情，很难不让人联想到2017年的美国#MeToo运动，以及2020年的韩国的N号房事件。

前者是美国女明星们对性骚扰丑闻的抗争，后者是对胁迫韩国女性（甚至是未成年）拍摄淫秽视频事件的揭露。

N号房事件，至少有26万名会员参与，也就是说，在韩国，每50名男性就有1人围观过N号房。

这次的deepfake事件，也有至少22.7万人参与过。要知道，韩国在2023年的出生人口数也只有23万。

这让我们不得不反思：女性和未成年人遭遇的侵犯与不公，就算在后工业文明时代的发达国家依旧顽固地活跃着。

虽然我们不能改变深植在部分人心里对女性的蔑视和“羞辱”，那我们至少要有坚强的力量，维护好属于女性的合法权益。

“既然有人用技术造假，那么我们也要用技术去阻止他们得逞。”张欣怡如是说。

于是，为了帮助更多女性脱离deepfake苦海，张欣怡团队毅然决然地“girls help girls”，将他们的研究成果免费开源使用。

张欣怡团队开源的模型名为：DeepFakeDefenders。在全球Deepfake攻防挑战赛上，成功取得三等奖。

这是一个非常强大的图像鉴别模型，它通过模拟人类的视觉能力，在整体和局部上分别对色彩和纹理进行识别，从而鉴别图片是否由deepfake伪造。

而鉴于模型的使用难度，张欣怡团队正在开发更方便、更快捷的软件，降低使用门槛。

张欣怡及其团队的研究和举措，如枯木逢春般，给当下深受deepfake迫害的女性群体，带来了一株名为希望的花。

怎样才能避免陷入“我”不是我的自证循环？怎样才能分清虚拟与现实？张欣怡帮我们打出了第一枪。技术应该是造福人类、造福社会，而不是增加有色眼镜、酿成尔虞我诈的悲剧。

但想杜绝如同deepfake类似的问题出现，也许依旧需要法律层面的追责，还需要个人道德规范的支撑。

不过至少，女性群体在受到侵害时，能拥有相应的“武器”帮助。消除不公，走向和平，也正是技术不断发展的目的。

就像张欣怡说的那样：

“这个世界有黑暗，也有照亮黑暗的光。如果一个人的火把太小，我们就把火把传给世界的每一个人。”

众人拾柴火焰高。愿世界女性都能为了更美好的未来，一起加油。

也希望在技术越来越强大的未来，能还予社会以信任，还予女性以尊重。

参考资料

[1]https://weibo.com/5666579547/OuXW94G8R
[2]https://weibo.com/n/nosunae_520
[3]https://weibo.com/u/7929939511