网易首页 > 网易号 > 正文 申请入驻

AI算法再次懵逼,把黑棋白棋识别成黑人白人,种族主义导致油管百万粉丝博主被封禁

0
分享至

  

  大数据文摘授权转载自AI科技评论

  作者:耳洞打三金

  大家好我是三金,今天又是上班摸鱼的一天。

  我在网上划水的时候看到这样一条消息:

  “YouTube AI算法因种族主义而将 'Black' 和 'White'混淆,从而封禁了一个国际象棋频道。”

  (虽然没有明说,但大意是将黑棋和白棋混淆成黑人和白人。)

  原来是在几个月前,一位在国际象棋视频圈内很出名的YouTube博主Agadmator,表示他的YouTube频道被官方封禁,是因为他的视频中包含来该网站所谓的“有害和危险”内容。

  

  Agadmator在YouTube上拥有超过一百万的订阅用户,被认为是油管上最受欢迎的国际象棋垂直博主。

  

  Youtube这么大的一个视频网站只有人工审核员来过滤掉违禁内容是不现实的,AI算法当然要派上用场,但是在讨论国际象棋对战的语境下,该AI算法似乎无法区分仇恨言论和正常对话。

  YouTube官方并未解释为何封禁Agadmato的原因,但Agadmato的频道在24小时后恢复原状,导致他推测罪魁祸首是他在这个视频中使用“ black against white”一词。

  他的本意是黑棋对抗白棋,难道是被AI算法识别成了黑人对抗白人?

  之后,科学家出场的时间到了。

  卡内基·梅隆语言技术学院的计算机科学家Ashiqur KhudaBukhsh怀疑Agadmato是正确的。

  KhudaBukhsh说:“我们不知道YouTube具体使用什么工具来检测,但如果它们依靠人工智能来检测种族主义语言,则可能会意外触发YouTube的AI过滤器进而发生这种乌龙事故。”

  为了检验这个理论,KhudaBukhsh和Rupak Sarkar研究员在两个最先进的语音分类器上进行了测试,这两个AI软件可以经过训练以检测仇恨语音。

  使用该软件对来自五个受欢迎的YouTube国际象棋频道的680,000条评论进行了测试之后,研究员发现样 本集中标记的评论中有82%没有明显的种族主义语言或仇恨言论。

  

  KhudaBukhsh和Sarkar两位研究员在本月AAAI 2021 会议上的一次演讲中说道,诸如“black(黑棋)”,“white(白棋)”,“attack(攻击)”和“threat(威胁)”等国际象棋术语似乎被错误地识别分类了。该软件的准确性取决于所提供的样本,而YouTube分类器的训练数据集“可能很少包含国际象棋对话的样本,从而导致算法进行了误分类”。

  看到这里三金我就郁闷了,就这?这才哪到哪啊?

  只是黑人攻击威胁白人就算种族主义和仇恨言论了?

  这要是搁在中国象棋的语境下那不得变成“黑人吃白人”了? (象棋吃子)

  

  如果是这样,那AI算法是不是要赶紧帮忙报警啊?

  唉,美国人在种族主义和仇恨言论这块上的风气大家懂得都懂。

  研究人员之后建议社交媒体平台应该将国际象棋语言纳入AI算法中,以防止进一步的困扰。试想,如果像Radic这样出名的博主被错误地封禁,“那么对其他不太知名的博主来说,这很可能正在悄然发生。”

  YouTube拒绝指出是什么原因导致了Agadmato的视频遭到封禁,但后来又表示 “当我们注意到视频被误删除后,我们迅速采取行动恢复了被删除的视频。”

  所以说从这件事上可以看出人工智能仍是不够智能,太依赖训练数据集了,也很是缺乏常识,本质就是一个人工智障。

  那么请问人工智障(乌龙)哪家强?

  

  
1、特斯拉在无人墓地感应到行人

  近日,国外一网友在 TikTok 上发布视频称,自己驾驶特斯拉汽车在空旷放入无人墓地行驶,车辆却检测到了周围有行人,非常的瘆人 。

  

  随着汽车缓慢向前行驶,“鬼影”竟然也跟着在移动。

  

  难道是摄像头把墓地旁边的葬礼花圈误识别为是一个人?

  可是这样的话,系统就会检测到很多的“鬼影”才对,因为视频中可以看到墓地里摆了很多的花圈。

  那会不会是有人碰巧在上坟呢?

  也不对,因为事实证明当把镜头转移到墓地和周围的环境的时候,车主确实发现这里空无一人。

  

  此后,有其他网友也发出了特斯拉汽车在无人街道感应到行人的视频。

  2月15日,福建厦门一网友则发现特斯拉汽车在两旁无车时显示有公交,而实际两旁并无车辆。网友们纷纷表示有点吓人。

  

  当事人称这种情况持续了十几分钟,而特斯拉售后表示这可能是雷达误侦测。

  

  据了解,特斯拉感应系统采用摄像头与毫米波雷达融合探测,来识别和感知真实环境中的物体,摄像头获得的图像,部分是行人,其他是车辆、动物或者其他障碍物,准确识别障碍物的具体类别,对车内人员的安全非常重要,对其他人也是如此,系统准确而及时的识别障碍物就非常关键。

  2、人脸识别乌龙,导致男子无辜蹲狱10天

  新泽西州的一名男子蹲了10天的牢房。人脸识别软件开发商Clearview AI因使用从社交媒体获取的照片来识别犯罪嫌疑人而一直受到密切的关注。

  据新泽西先锋媒体(NJ Advance Media)报道,警方在全力搜捕一名盗窃嫌疑人 ,此男子从一家酒店礼品店行窃,在警方赶到时, 该男子交出一张驾照,名字是Jamal Owens。

  

  后来该男子逃出酒店,驾驶车辆逃离警察的追捕。

  而警察后来在没有验指纹、没有测DNA,仅靠现场拍摄的驾照图像结合人脸识别系统,结果人脸数据库发现有一名名叫Njeer Parks与嫌疑人的照片“高度匹配”,这样就锁定了Nijeer Parks为罪犯。

  

  Nijeer Parks被捕后拍摄的照片。

  Nijeer Parks之后被警方拘留,但尴尬的是,他压根就没去过案发现场所在的那个城镇,甚至,他根本就不会开车,连驾照都没有。

  最后,在法官向检察官要求出示人脸识别软件之外的更多证据后,检察官才撤案,但Nijeer Parks可是因此白白蹲了10天的牢房。

  3、AI摄像机把光头当足球

  在两个月前苏格兰足球冠军联赛的一场比赛上,场边的AI摄像机将裁判员的光头识别成了足球,疯狂追了一整场。

  无论哪支球队进攻,无论哪个球员带球,AI摄像机都选择了视而不见。

  相反,它却不弃不离地跟着一名边裁,并不时给出锃光瓦亮的光头C位特写。

  

  所以电视机前的球迷们压根看不到任何球员的跑位,而是欣赏了一整场的光头盛宴。

  

  4、Google图像识别算法把黑人识别成大猩猩

  在遥远的2015年,一黑人哥们Jacky Alciné震惊地发现,自己被Google图像识别算法歧视了:Google Photos竟然把他的朋友分类成了“大猩猩”(gorilla)!

  

  Google当时迅速道歉并承诺整改。

  可是到了2018年时,据《连线》杂志报道,谷歌并没有真的整改,只是直接懒省事去掉了“大猩猩(gorilla)”这个类别。

  

  很好,谷歌很有精神嘛,这样一来就再也不会有黑人群体被识别成大猩猩了。不过,大猩猩也不会有机会被认作大猩猩了,因为算法里没有大猩猩这个物种存在了。

  Google之后也承认了从图像识别的数据集标签中删掉了“大猩猩”一项,后来连“黑猩猩”也被屏蔽了。

  以上三金只是简单举了几个例子,人工智能火了这么多年,还是强烈依靠数据集、没有常识、不能举一反三,难道真的只能应了下面这句话吗?

  有多少人工就有多少智能......

  https://www.youtube.com/watch?v=TgPp7ltPd8Y

  https://www.dailymail.co.uk/sciencetech/article-9279473/YouTube-algorithm-accidentally-blocked-chess-player-discussing-black-versus-white-strategy.html

  https://www.news18.com/news/buzz/youtube-ai-blocked-chess-channel-after-confusing-black-and-white-for-racist-slurs-3454316.html

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐

世界跨度最大的广州人行桥,即将建成

煮熟的小虾米
2021-04-18 15:02:58

“环球小姐”张萌的隐秘上位史,和她越来越红的玄学背后

娱人为乐
2021-04-18 03:42:42

最晚多少岁戒烟,肺还能恢复正常?医生:最好别超过这个年纪

生活大火锅
2021-04-17 15:55:54

晚上19点,重庆队终于官方发声!中超最后1支队来了,1小时就能到

搜达足球
2021-04-18 19:43:06

女子生下四胞胎,看到性别,老公大骂造孽,婆婆却乐开了花

素锦流光
2021-04-18 12:38:45

姑娘,高潮后出现这4种不适症状,你要当心了……

第十一诊室
2021-04-16 19:00:02

博格巴续约曼联索要80万周薪!基本工资50万,将超桑切斯英超纪录

罗米的曼联博客
2021-04-18 08:36:45

美国在“模拟台海之战”中击败中国?美媒:代价不小,还作弊了!

环球军事时报
2021-04-14 20:44:41

如果没有这次“曝光”,2000万孩子的噩梦还不知道要继续多久

民生热点
2021-04-18 01:19:39

“三亚海胆”事件游客删道歉视频,记者实地调查发现...

南都周刊
2021-04-17 18:44:33

陈数还真是挺个性的,穿“瓜皮裙”还配绿眼影,看着却不违和

Ainee小屋
2021-04-17 17:18:57

四换一方案!要第三中锋啊!两大利好,恭喜绿军,这双塔真不错啊

领袖阿尔弗图
2021-04-18 12:56:36

中国斯诺克名将开门黑:21-0被逆转,世界冠军被罚20分仍险胜!

刘姚尧的文字城堡
2021-04-18 22:21:18

万万想不到!当年的库兹马替补,现在要进最佳阵容了!

篮球实录
2021-04-18 14:30:02

大海般美丽的女孩

凡间事
2021-04-18 15:37:44

地球上至今还活着的最大生物是什么?无法遏制,它仍在不断狂长!

星辰大海路上的种花家
2021-03-23 21:39:25

危险的信号!美国大批军舰不断涌入南海,中国周边海上形势紧张

论道今日军中事
2021-04-18 16:44:20

激动!这3条铁路(含1条高铁)初步设计获批,其中1条上半年开工

视怀
2021-04-18 20:18:51

当美国穷人进入中国工厂流水线,12个小时三班倒,打工人纪录片

阿超说职场
2021-04-17 17:16:31

下岗总统再就业,特朗普承接红白喜事的样子让我不禁落泪

差评
2021-04-14 17:14:43
2021-04-19 03:01:08
大数据文摘
大数据文摘
专注大数据,每日有分享!
4225文章数 85851关注度
往期回顾 全部

体育要闻

西蒙尼:科雷亚和我彼此了解 目标是不让皇萨垄断冠军

头条要闻

炸锅了!台当局证实黄秋生领到“就业金卡”

头条要闻

炸锅了!台当局证实黄秋生领到“就业金卡”

娱乐要闻

柳岩短发清丽前凸后翘展熟女韵味

财经要闻

科技要闻

王军:华为汽车研发团队超过五千人

汽车要闻

中国专属 大众ID.6双车开杀高端纯电SUV阵地

态度原创

家居
游戏
艺术
手机
公开课

家居要闻

港男月入过万只能带妻儿住7平蜗居 在洗衣机上做饭

老滚MOD改编《遗忘之城》延期至今夏发售

艺术要闻

一周观展指南|康定斯基要“来”上海

手机要闻

iPhone 13 Pro被传搭载LTPO屏幕:支持120Hz

公开课

被世卫组织拉黑的它,你天天都在吃!隐患极大