网易首页 > 网易号 > 正文 申请入驻

一张动图就「忽悠」了你的视觉,LeCun:人脑的对抗性样本

0
分享至

  

金磊 发自 凹非寺
量子位 报道 | 公众号 QbitAI

  都说「眼见为实」,但真是这样吗?

  先来看下这张动图。

  

  是不是感觉这2个圆圈,会随着箭头方向移动?

  然而事实却是:

  

它们没有发生任何改变。

  而就是这样一张动图,近日却在网上引发了热烈的讨论。

  连深度学习三巨头之一的LeCun大神,也出面发表言论:

  

大脑的对抗性样本。
每个类似CNN的结构……都有盲点……会被愚弄。

  

  那么这张动图到底暗含什么玄机?又为何让LeCun作出如此评价?

  「忽悠」大脑的动图

  对此,很多网友还是选择相信自己的眼睛,认为得它们就是在动;也有坚持说没动的。

  于是他们找到各种办法来证明。

  最简单的方法就是挡住箭头,效果是这样的。

  

  「恐怕这种幻觉与箭头无关」,这位网友评价道。

  

  接着,其他人便采取了更加「科学」的方法——画线

  

  可以明显看到,圆圈的转动确实没有超过标记线。

  那是不是箭头发生了移动,才产生的错觉呢?

  也有人做了实验。

  

  也不难看出,箭头位置没有发生变化,而且第一个实验也证明了与箭头无关。

  那这到底是怎么一回事?LeCun给出了正解:

  

它们是静态的。
黄色区域的外侧,有一条蓝色的细线;蓝色区域外侧,则有一条黄色的细线。

  

  网友将圆圈放大后,也发现了这个隐藏的「猫腻」。

  

  LeCun继续补充道:

  

你的视网膜→MT视觉通路,将圆周运动中的高对比度边缘,解释成了与边缘正交的运动。

  

  例如CNN在「工作过程」中,也会提取图像中的一些边缘信息/特征。

  

  而这也正是LeCun在文章开头处评价的由来——大脑的对抗性样本

  他认为:

  

每一个类似CNN的架构,无论是人工的还是自然的,都有盲点。
它们会被训练数据分布之外的输入所愚弄。

  LeCun说这话并不是空穴来风,而是在AI(尤其是计算机视觉)*相关的研究中,诸如此类的「忽悠」现象屡见不鲜。

  「忽悠」AI的对抗性样本

  对抗性样本,简单来说就是:

  

对输入数据样本,添加一些人无法观察到的干扰,导致模型以高置信度给出一个错误的输出。

  一个非常经典的例子就是图像分类

  例如一张已经被分类为「熊猫」的图片,在加入一些干扰后,我们人类肉眼是无法察觉输出图像产生的变化。

  但在AI眼里却截然不同,并以高置信度将输出图像分类为「长臂猿」

  至于其原理,可以引用Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images这篇文章中的图来示意:

  

  一种方法是从一个类别的样本出发,添加一些「小修改」,然后模型就会把修改后的样本,判定为另一类。

  另外一种方法,就是利用分类不确定性。比如图中除了最上面部分的空间可以认为是数据存在概率极低的区域,从实际应用的角度甚至可以认为是完全不关心的区域。

  而这样的对抗性样本,不仅仅是在图像分类任务中存在,在自动驾驶中也是常见的。

  例如「一个胶带就把特斯拉忽悠瘸了」。

  用一条2英寸的胶带,成功欺骗2016年版特斯拉的摄像头系统,诱使其出现了50英里/小时(80公里/小时)的异常加速。

  

  欺骗后的效果是这样的:

  

  而这样的问题,也成为了自动驾驶的一个安全隐患。

  网友:LeCun,你说的不对

  最后,对于LeCun说「大脑的对抗性样本」这句话,也成了网友们热议的一个焦点。

  有网友非常直白地说:

  

这并不是一个很好的对抗性样本。

  

  也有网友提出质疑:

  

这是人类视觉系统的一个对抗性例子,还是一个特征?
这看起来像是我们泛化能力的产物。

  

  对此,你怎么看?

  https://twitter.com/ylecun/status/1331590066272153600

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐

林俊杰总以为自己很时尚,没人说他穿得像暴发户吗?

八圈传播者
2021-01-19 00:41:48

菲律宾媒体指责中国疫苗是“政治疫苗”,这给我们提个醒

火星方阵
2021-01-17 20:57:20

退休副局长辱骂防疫人员,你算什么东西,反映出什么样的社会现象。

松科说娱乐
2021-01-17 05:03:22

2021年全国一二三四五线城市划分名单

易通新闻
2021-01-16 09:27:03

全球气温逼近最高点,变暖还在继续!权威专家:今冬寒潮也因为它

中国气象爱好者
2021-01-17 22:45:55

英国首相抱8个月娃散步,娃跟老爸发型同款,两脚袜子不是一双

译言
2021-01-17 23:19:58

郑爽代孕生子时间线最全梳理!这些细节暴露了她与张恒的隐婚经过

罐头喵盯娱
2021-01-18 17:20:21

案件回顾:著名河南洛阳性奴案,六名女孩被囚禁,其中两名死亡

鱼是乎
2021-01-18 07:03:39

在地铁上看到一个小姐姐,穿的好暴露,想把她的包拿下来看一下!

老王聊故事
2021-01-18 04:05:44

河南一车主酒后叫代驾出车祸,对着代驾拳打脚踢:我这车上百万

微社评
2021-01-18 14:15:21

下台也要赶尽杀绝?特朗普或即将颁布政令,完全切断华为芯片供应

军事评论V
2021-01-18 16:19:01

蔚来车主高空蹦迪,新车对标BBA?

柴狗夫斯基
2021-01-18 12:41:58

这帮“乱港”分子被“放生”后,果然又开始了

看见港澳台
2021-01-18 18:53:55

女子当着未婚夫的面被亲爸强奸:最亲的人变成了狼

宛丘之道
2021-01-18 15:45:34

镇江一地某会所多次被举报有色情服务,真相来了...

镇江风情
2021-01-18 19:52:28

艳压迪丽热巴,首富太子豪掷93亿博她一笑,让全亚洲阔太忌惮40年

南叔说事
2021-01-18 16:25:29

32189元,居民人均收入比2010年翻一番

澎湃新闻
2021-01-18 11:07:40

郑爽被曝代孕生子,离婚后不争抢抚养权,专家:或面临五年刑期

娱乐圈里跳舞的猹
2021-01-18 17:13:01

婚后两年不孕,婆婆让我离婚,半年后前夫娶农村人,我笑岔气

琪琪情感说
2021-01-18 11:24:58

九头身、蜜桃臀!又甜又辣的钓系女神,谁能顶得住?

篮球大论坛
2021-01-17 17:15:04
2021-01-19 04:45:01
量子位
量子位
追踪人工智能动态
4471文章数 77510关注度
往期回顾 全部

科技要闻

首批国产Model Y交付 车主普遍考虑价格

头条要闻

男子赌博"出老千"被发现当街杀人 受审辩称激情杀人

头条要闻

打政府秘书长耳光被举报后 济源市委书记又遭实名举报

体育要闻

姚明场边观战CBA 进场时安检严格

娱乐要闻

刘芸62岁妈妈气质佳 母女同框似姐妹

财经要闻

汽车要闻

敢与日系拼油耗 比亚迪宋PLUS DM-i油耗测试

态度原创

教育
本地
家居
旅游
公开课

教育要闻

如何让孩子们告别肥胖?

本地新闻

我们为什么需要亲密关系

家居要闻

小伙在内蒙-45℃冷极村生活 裹棉被围冰桌吃火锅

旅游要闻

柿饼 藏在韩国俗语中的美味

公开课

为什么我一定要卸载这些app:人生毒药