人脸识别的疯狂逻辑
部分 锁定下来
2020 年 3 月,在《纽约时报》 曝光Clearview AI 从互联网上抓取了数十亿张图像以创建面部识别数据库两个月后,托马斯·史密斯收到了一份包含他大部分数字生活的档案。
使用最近颁布的《加利福尼亚消费者隐私法》,史密斯向 Clearview 询问他们对他的看法。该公司向他发送了跨越整个成年生活时刻的照片:一张是他结婚并与妻子开始写博客时的照片,另一张是他被大学校友杂志介绍时的照片,甚至还有一张他参加的 Python 编码聚会的照片几年前参加过。
“这就是真的把我:所有的,我已经张贴到Facebook和想通的事情,‘没有人会永远看为,’这里是所有数据库中的布局,”史密斯告诉边缘。
“我在 FACEBOOK 上发布的所有内容……都在数据库中列出”
Clearview 的大型监控设备声称拥有 30 亿张照片,任何订阅的执法机构都可以访问这些照片,而且您或您认识的人很可能已被该公司的拉网抓获。众所周知,它已经抓取了Facebook、LinkedIn、YouTube 和 Instagram 等网站,并且能够使用个人资料名称和相关图像来构建大量可识别和可扫描的面部图像。
关于 Clearview 软件的准确性知之甚少,但它似乎由大量从社交媒体资料和公共互联网上的其他个人照片中提取和识别的图像提供支持。这种抓取之所以成为可能,是因为像 Facebook 这样的社交媒体平台已经在他们的平台上整合了大量的个人数据,然后在很大程度上忽略了像 Clearview 这样的大规模数据分析项目的风险。Facebook 直到 2018 年和剑桥分析丑闻才锁定了可用于利用其用户数据的开发者工具。即使在 Clearview 的抓取范围曝光之后,Facebook 和其他技术平台的反应也主要以措辞强硬的信件的形式出现要求 Clearview 停止抓取他们的网站。
但由于大型平台无法或不愿走得更远,互联网上的普通人面临着艰难的选择。任何以您为特色的新照片,无论是简单的 Instagram 照片还是在朋友的 Facebook 页面上标记的照片,都可能成为遍布全球的面部识别系统的工厂。但是对于许多人来说,在互联网上隐藏我们的脸并不是一种选择。这些平台太深入公共生活,而我们的面孔对于我们是谁来说太重要了。挑战在于找到一种无需提交到更广泛的扫描系统即可共享照片的方法——这是一个没有明确答案的挑战。
“他们通过默默无闻结束了隐私”
在某些方面,这个问题比 Clearview AI 更古老。互联网的建立是为了促进公共信息的发布,社交媒体平台巩固了这一想法;Facebook 在 2009 年至 2014 年间招募了 10 亿用户,当时在互联网上公开发布是其默认设置。YouTube、Twitter 和 LinkedIn 等其他网站鼓励公开发帖,以此作为用户获得影响力、参与全球对话和寻找工作的一种方式。
从历史上看,一个人对如此之多的毕业照、假期集体照和自拍做出的贡献意味着数量上的安全。您可能会在便利店看到一个安全摄像头,但实际上不太可能有人在观看视频。但这种想法正是 Clearview 蓬勃发展的基础,因为自动化面部识别现在可以通过整个公共互联网规模的数字过剩进行挑选。
加州大学伯克利分校法学院教授凯瑟琳·克伦普 (Catherine Crump) 说:“即使世界上有很多监控摄像头,也没有一种很好的方法来分析数据。” “面部识别技术和分析通常具有革命性,因为它们已经通过默默无闻结束了隐私,或者他们似乎很快就会这样做。”
这意味着你不能依赖于融入人群。阻止 Clearview 收集您的数据的唯一方法是首先不允许它在公共互联网上。Facebook 会公开某些信息,但不能选择将其设为私密,例如您的个人资料图片和封面照片。Instagram 上的私人帐户也无法隐藏个人资料图片。如果您担心信息会从您的 Facebook 或 Instagram 帐户中被窃取,那么这些是首先要更改的图像。另一方面,LinkedIn允许您将个人资料图片的可见性限制为仅与您有联系的人。
在 Clearview 之外,PimEyes等面部识别搜索引擎已成为互联网上任何人都可以使用的流行工具,FindFace等其他企业面部识别应用程序与世界各地的专制政府合作。
巧妙地改变面部识别所依赖的图像部分
确保周围人隐私的另一个关键要素是确保您不会在未经同意的情况下发布他人的照片。史密斯向 Clearview 索取了他的数据,他惊讶于有多少其他人仅仅出现在与他的照片中,比如他的朋友和他的大学顾问,就被收录到数据库中。
但是,由于互联网上的某些图像(例如 Facebook 和 Instagram 上的图像)根本无法隐藏,因此一些 AI 研究人员正在探索“隐藏”图像的方法,以逃避 Clearview 的技术以及在开放网络中拖网的任何其他面部识别技术。
2020 年 8 月,芝加哥大学 SAND 实验室发布的一个名为 Fawkes的项目将自己定位为 Clearview 无处不在地抓取的潜在解毒剂。该软件的工作原理是巧妙地改变面部识别用来区分一个人的图像部分,同时尝试保留图像对人类的外观。这种对人工智能系统的利用被称为“对抗性攻击”。
Fawkes 强调了设计试图隐藏图像或限制面部识别准确性的技术的难度。Clearview 使用了数亿个身份,因此虽然个人用户可能能够从使用 Fawkes 团队开发的 Windows 和 Mac 应用程序中获得一些好处,但数据库不会因配置文件减少几十万而受到影响。
避开 CLEARVIEW 需要的不仅仅是一项技术修复
负责 Fawkes 项目的芝加哥大学教授 Ben Zhao 说,Fawkes 只有在人们努力隐藏所有图像的情况下才能发挥作用。这是一个很大的问题,因为用户必须处理他们共享的每张照片的多个版本。
另一方面,像 Facebook 这样的社交媒体平台可以通过将像 Fawkes 这样的功能集成到其照片上传过程中来解决 Clearview 的规模问题,尽管这只是改变哪家公司可以访问您的原始图像。然后,用户将不得不相信 Facebook 不会使用对现在专有数据的访问来进行他们自己的广告定位或其他跟踪。
赵和其他隐私专家一致认为,像 Fawkes 这样的对抗性技巧并不是用来打败协同抓取活动的灵丹妙药,即使是面部识别数据库的活动也是如此。在 Facebook 上,逃避 Clearview 需要的不仅仅是一项技术修复或隐私检查。相反,平台需要重新考虑如何在线上传和维护数据,以及哪些数据可以公开访问。这将意味着更少的公开照片和更少的 Clearview 向其数据库添加新身份的机会。
斯坦福大学以人为中心的人工智能研究所的隐私和数据政策研究员詹妮弗·金说,一种方法是在一定时间后自动删除数据。使像 Snapchat 这样的服务比 Facebook 或 Instagram更私密(如果设置得当)的部分原因是它致力于将短命媒体主要发布给可信赖的小群体。
一些州和国家的法律也开始赶上在线隐私威胁。这些法律规避了 Facebook 等平台,而是要求实际抓取数据的公司承担责任。《加利福尼亚消费者隐私法》允许居民索取 Clearview 等公司拥有的数据副本,欧盟也有类似规定。一些法律规定必须根据用户的要求删除数据。
但 King 指出,仅仅因为数据被删除一次并不意味着公司不能简单地再次获取它。
“这不是永久性地选择退出,”她说。“我担心你在 5 月 31 日执行了'删除我的数据'的请求,而在 6 月 1 日,他们可以回去收集你的数据。”
因此,如果您要锁定您的在线状态,请确保在要求公司删除您的数据之前更改您的隐私设置并删除尽可能多的图像。
但最终,为了防止像 Clearview 这样的不良行为者首先获取数据,用户将受到社交媒体平台政策的摆布。毕竟,正是隐私设置的当前状态才允许像 Clearview 这样的公司存在。
“你可以做很多事情来保护你的数据或收回它,但最终,要在这里发生变化,它需要通过立法、诉讼以及通过人们团结起来决定隐私应该是什么样子的集体发生,”史密斯说。“甚至人们聚集在一起对 Facebook 说,'我需要你更多地保护我的数据。'”
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.