人脸识别误判黑人！10人遭错捕，AI偏见咋就改不了

上个月，社交媒体上疯传一段监控视频。

视频里，美国AI公司OpenAI的CEO山姆・奥特曼，正在美国塔吉特商店里行窃，还被店员当场拦住。

可谁能想到，这事儿是假的。

这段视频，其实是OpenAI刚推出的AI视频平台Sora生成的，也是这个平台第一个火起来的片段。

大家知道真相后，大多觉得这是个玩笑，还拿山姆・奥特曼的身份调侃，一个科技亿万富翁，怎么可能偷东西。

要是这视频里的人换个身份，比如一个普通黑人，结果恐怕就完全不一样了。

Sora这平台，主打的就是让用户做“深度伪造”视频，不光能做，还能发、能剪。

它不是第一个做这种工具的，Meta的Vibes、谷歌的Veo3也能弄出类似的视频。

这些公司都说有防护措施，比如给视频加动态“水印”，还嵌点元数据，防止被滥用。

可Sora刚发布一天，网上就有人卖去除水印的工具了，更离谱的是，还有人给真视频加上Sora的水印，搞得真假都分不清。

本来想这些大公司的技术应该靠谱，后来发现，所谓的防护，根本经不起折腾。

要说AI深度伪造技术最坑的，还是黑人这些边缘群体。

先不说伪造视频构陷，就连正常的AI识别，都老跟黑人“过不去”。

今年，马里兰州巴尔的摩市有个高中，装了个AI枪支检测系统。

有天，16岁的黑人学生塔基・艾伦揣着袋多力多滋薯片去学校，结果这AI把薯片袋认成了武器，直接报了警。

没一会儿，大概20个持枪警察就赶到了学校。

他们把塔基按在地上，还上了手铐。

后来塔基说，当时警察用枪指着他，他还以为自己要死了。

这事儿听着就离谱，一袋薯片而已，怎么就成了武器？可你再想想，要是这学生是个白人，AI会不会这么敏感？警察会不会这么大阵仗？怕是未必。

美国教育部今年有数据，黑人学生在校园里被AI监控误报的概率，比白人学生高不少。

这哪是AI识别，分明是带着偏见的“找茬”。

不光是校园，人脸识别也老坑黑人。

2021年巴西出了大规模枪击案，有个人脸识别系统，居然把美国黑人影星迈克尔・B・乔丹的照片，混进了嫌疑人名单里。

到今年8月，至少有10个人因为人脸识别误判被错抓，这些人里几乎全是黑人。

以前总觉得技术是中立的，后来发现根本不是这么回事，AI学的都是现实里的东西，现实里对黑人的偏见多，AI自然也带着偏见。

还有法院用的量刑AI，也对黑人不友好。

好几年前，就有调查说，这种AI把黑人被告标成“未来可能犯罪”的概率，比白人高不少。

你想啊，法官要是信了这AI的判断，黑人不就更容易被判重刑？本来司法对黑人就不够公平，现在再加个带偏见的AI，这不等于火上浇油吗？

这些做AI工具的企业，嘴上说防滥用，实际根本没把黑人的权益当回事。

就说Sora吧，后来加了个“语义防护栏”，禁止生成在世名人的图像，连马丁・路德・金的肖像都不让弄。

本来以为这是在防歧视，结果发现，这防护栏主要是为了躲版权官司，OpenAI正被《纽约时报》还有好几个作家告呢，说ChatGPT偷他们的书。

很显然，在这些企业眼里，版权比防止种族歧视重要多了。

马斯克旗下的AI工具Grok更离谱，完全没限制。

今年大选前，它不光散布假消息，还生成真实人物的非自愿色情图像。

美国有个反性暴力的组织直接警告，这工具会导致性虐待。

这种无限制的AI，最先坑的就是边缘群体，尤其是黑人，毕竟在很多偏见里，黑人更容易被贴上负面标签。

企业靠不住，司法体系也跟不上。

美国有个联邦证据规则第901条，要求证据得先验证真实性才能用。

可面对深度伪造视频，这规则根本不管用。

有个法学教授叫丽贝卡・德尔菲诺，还是法官的AI顾问，她提了个建议：开庭前先找专家验证视频真假，别让陪审团被假证据骗了。

结果今年5月，这个建议被拒绝了，理由是“深度伪造案例太少”。

搞不清那些制定规则的人怎么想的，都出这么多误判、假新闻了，还说案例少，这不睁眼说瞎话吗？

更麻烦的是，现在还出现了“反向CSI效应”。

有个教授解释说，因为大家知道有深度伪造视频，所以连真视频都不信了。

你想啊，要是当年乔治・弗洛伊德的视频现在才发出来，肯定有人说“这是假的”。

以前视频是洗冤的证据，现在倒好，真视频也没人信了，这对想洗冤的黑人来说，可不是什么好消息。

还有个“说谎者的红利”，就是说谎的人可以把真证据说成是伪造的。

马斯克还有两个涉及骚乱的被告，都试过用这招脱罪，虽然没成功，但这口子已经开了。

以后要是有黑人被冤枉，拿出真视频作证，对方说一句“这是AI伪造的”，陪审团会不会动摇？很难说。

毫无疑问，AI深度伪造技术根本不是什么“中性工具”。

白人精英的伪造视频能当玩笑，黑人却要为这技术遭错捕、被抹黑。

这不是技术跑偏了，而是整个社会的偏见，通过技术放大了。

要是再不管管，企业还只盯着版权，司法还不更新规则，最后坑的还是那些没权没势的边缘群体。

技术“赋权”不该只赋给有权的人，更该保护那些容易被欺负的人，不然，这技术再先进，也只是个制造不公的工具而已。