给照片穿上“隐身衣”，这款AI工具成功让人脸识别系统失灵

在当下的网络环境，我们几乎没有隐私可言。你的一张自拍照可能会成为泄露个人敏感信息的导火索。为了保护个人隐私，来自芝加哥大学计算机科学系的研究团队开发了一款人工智能工具——Fawkes。
新开发的工具可以给你的自拍照穿上“隐身衣”，从而让人脸识别系统无法有效识别。从团队公布的数据看，这套工具已经成功骗过了旷视、微软、亚马逊等公司的面部识别算法。
团队将工具命名为Fawkes也很有深意。Fawkes的命名取自Guy Fawkes Mask（盖伊·福斯克面具）。该面具形象是英国插图画家大卫·劳埃德（David Lloyd）以16世纪英国阴谋家盖伊·福克斯的脸为原型而创造。最早出现在漫画《V字仇杀队》中。
团队论文全文为“Fawkes: Protecting Privacy against Unauthorized Deep Learning Models”，首次发表在第29届USENIX安全研讨会（USENIX Security symposium）发表，电脑软件Fawkes于2020年7月发布，截至目前的下载量已超十万次。
“伪装”照片，“欺骗”人脸识别
Fawkes的功能基于人与计算机的感知差异。从研究团队的论文看，Fawkes主要有两个特点：首先是可以对照片进行肉眼无法察觉的修改。对机器学习模型而言，图像是代表像素的数字。个体的特征由被神经网络系统以数学形式组织而成，人脸识别模型基于此识别个体。Fawkes仅对照片的部分像素进行修改，计算机会察觉，而人眼难以分辨。研究团队将这一过程称为“伪装”。
如果互联网中同一个人经过“伪装”的照片足够多，人脸识别系统将无法从未经更改的照片中识别对应的人，从而保护个人隐私免受侵害。论文指出，该工具仅针对使用未经授权的照片开发的人脸识别系统，不会影响基于合法途径获得的照片（例如执法部门使用的照片）开发的系统。
Fawkes第二个特点是无论应对何种人脸识别系统，图像伪装都能为用户提供95%以上的成功率。 即使将未处理过的原图提前 “泄漏”给人脸识别系统，该工具仍然保持80％以上的成功率。值得一提的是，在应对微软（Azure Face API）、亚马逊（Rekognition）和旷视（Face++）最先进的人脸识别系统时，Fawkes的隐身能力100％有效。
目前，用户可在该项目官网免费使用Fawkes。同时，研究团队已开发Windows和Mac版本的软件，并希望社交媒体公司在其平台直接部署该软件。
Facebook发言人Jay Nancarrow在接受《纽约时报》采访时表示不排除接受该建议，“隐私保护是我们工作的一部分，我们有一支研究团队，专门研究这类技术以及其他防止用户照片被滥用的方法”。
Fawkes能保护我们的隐私吗？
无处不在的人脸识别系统和未经授权获取的数据，对于网络个人隐私保护来说是巨大的威胁。此前，美国面部识别公司Clearview便创建了一个约有30亿张图像的超大容量人脸数据库，而这些数据均从 Facebook，Venmo，YouTube 等社交媒体平台抓取而来。
“我们的目标是使Clearview消失。”论文作者之一，芝加哥大学计算机科学教授Ben Zhao在接受媒体采访时表示。他还表示互联网上照片的总数并不影响Fawkes的效果。只要个人经过“伪装”的照片数量超过旧图，就能够实现混淆人脸识别系统的效果。
不过，业界专家对于Fawkes能否奏效表示怀疑。人脸识别先驱Joseph Atick在接受《纽约时报》采访时表示，“虽然我鼓励这类研究，但我对其是否是能解决我们所面临的问题保持高度怀疑。”他认为只有立法才能从根本上解决人脸识别所导致的隐私泄露问题。
“我个人认为，无论使用哪种方法，都可能会失败，”论文共同第一作者Emily Wenger表示，“我们可以制定法律，但总会有非法行为者。”她也表示自己并不认为Fawkes可以解决所有问题，但研究团队的初衷是“提供一些反击的力量”，正如Fawkes名字背后的含义。