上海
你有没有想过，有一天你什么都没做，突然就被抓了？
不是因为你犯了事，是因为一台电脑认错了你的脸。
这事听起来像科幻电影，但真的发生了。
他叫贾利尔·理查德森，住在美国北卡罗来纳州，是10个孩子的父亲。去年的一天，警察突然闯进他家，把他铐走了。罪名是盗窃车辆。
但他根本没偷车。他甚至从来没去过案发现场所在的城市——佛罗里达州杰克逊维尔，离他家800多公里。
那为什么抓他？因为AI说"就是他"。
AI说"85%像"，警察就信了
事情要从去年4月说起。佛罗里达州杰克逊维尔市有人的车被偷了，警方调了监控，然后用一套叫FACES的人脸识别系统去数据库里比对。系统匹配出了理查德森的照片，标了个"85%相似度"。
85%，听着挺高是吧？但你想想，一个班四五十个同学，让你凭记忆说哪两个人长得像，你可能都能找出好几对相似度超过85%的。
而且警方还干了一件事：拿着AI匹配出来的照片，让受害者指认。受害者说"有点像"。这两样凑一起，警方就签了逮捕令。
注意，没有人去核实一个重要的问题：案发那天，理查德森人在哪？
答案其实很好查。他在北卡罗来纳州上班，有完整的考勤打卡记录。800多公里外丢车那会儿，他正在公司上班。
但没人去查这个。
3个月的牢狱之灾
理查德森在北卡罗来纳州被捕，先关了33天，然后被引渡到佛罗里达州，又关了50多天。前后将近3个月。
一个什么都没做的人，在牢里待了3个月。
这3个月里，他的生活像多米诺骨牌一样倒掉了。
工作丢了——没有哪个公司会一直给你留着岗位。房子没了——断了收入，房租付不起。更残忍的是，他失去了部分孩子的监护权。
他的妻子哭着说：案子虽然撤了，但我们无家可归，他丢了工作，身体也出了问题，孩子们分散在不同的房子里。我们失去了车，失去了一切。
10个孩子的父亲，因为一套AI系统出了错，3个月内从正常人变成了什么都没有的人。
比AI更可怕的是什么
事情败露后，检察官撤回了指控。杰克逊维尔警长办公室承认，这不是第一次了——之前已经出过一起类似的AI误识别案例。
但承认错误有什么用？理查德森失去的3个月回不来了。
更让人难受的是，理查德森自己说了一句话：他们抓我，可能也不全是因为AI。
他是黑人。监控里那个偷车的人，根据描述也是黑人。但理查德森说，那个人留着脏辫、鼻子很大，而他的长相完全不一样。
"他们从一群跟我长得完全不一样的人里把我认了出来。"
这不是阴谋论。大量研究已经证明，人脸识别系统对有色人种的错误率明显更高。技术偏见叠加种族偏见，后果被放大了。
这发生在别人身上，但离你不远
人脸识别出错的事，这些年出了不少。
英国警方用人脸识别系统扫描足球比赛人群，结果超过90%的警报都是错的。美国底特律一名孕妇也被AI误认成抢劫犯，在警察局被审了半天。
每一次出错的后果，都是普通人在承担。
但这些系统还在被大规模使用，而且使用它的机构往往缺乏监督。一个AI说"85%像"，他们就去抓人。没人问这个85%怎么算出来的，也没人要求第二个独立证据。算法成了判官。
你可能觉得这是美国的事，离自己很远。
但人脸识别在国内用得比美国还普遍——小区门禁、地铁安检、商场监控、手机支付。技术本身是中性的，问题在于：当AI犯错的时候，谁来负责？
如果门禁系统认错了你，进不了家门，还好说。如果安防系统把你的脸跟某个嫌疑人匹配上了，谁来为这个错误买单？
理查德森至少还在3个月后等来了"撤回指控"。但更多人可能连申诉的机会都没有。
技术可以有误差，但司法系统不该有盲区。AI可以辅助判断，但不能替代核查。
当一个算法能决定你是否该坐牢的时候，这个算法的准确率就不该是"85%"，而是99.99%。
如果你也觉得技术应该有边界，点个"推荐"，转给关心这个问题的朋友。欢迎评论区聊聊：你觉得人脸识别该不该用在执法领域？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
