网易首页 > 网易号 > 正文 申请入驻

了解人工智能的识别机制,你更相信它的决定了吗?

0
分享至


【网易智能讯 7月6日消息】嘿,AI,你觉得你在看什么?为什么有着学习算法的机器还会被骗认知出本不存在的东西?随着无人驾驶汽车这样的产品出现,这一点变得越来越重要。现在,我们可以通过一项测试来窥见机器的大脑,这一测试可以使人们知道人工智能正在看一幅图像的哪些部分。

人工智能和人类完全不同。罗德岛布朗大学的克里斯·格里姆说,即使是最好的图像识别算法,也会被骗,比如会将白噪图像识别成知更鸟或是猎豹,这是一个大问题。他说,如果我们不理解为什么这些系统会犯愚蠢的错误,那么我们把性命交付给人工智能时,就应当三思而后行,比如审慎考虑是否发展无人驾驶汽车。

因此,格里姆和他的同事们创建了一个系统,分析一个人工智能在识别图像过程中,实时监测它在关注图像的哪一部分。类似地,对于一种文档分类算法来说,该系统显示了算法使用哪些单词来决定一种特定文档应该属于哪个类别。

窥探内在

谷歌的研究人员杜密鲁特·埃尔汗说,这是一种非常有用的方法,可以进一步了解人工智能并研究它是如何学习的。格里姆的工具为人们提供了一种方便的方式,让人可以检查出一种算法是否正确地给出了正确的答案,他这样说道。

为了创建他的注意力跟踪工具,格里姆在他想要测试的人工智能上安装了第二个人工智能。这个“外包AI”替换了一张带有白噪的图像,来看看这是否对原始软件的判断产生了影响。

如果替换部分图像改变了结果,那么这个图像的区域很可能是识别过程中的一个重要区域。这种方法同样适用于语言。如果在文档中改变一个词使人工智能对文档进行了不同的分类,那么它就表明这个词对人工智能的决定至关重要。

格里姆在人工智能上测试了他的技术,该人工智能经学习可将图像分类为10个类别,包括飞机、鸟类、鹿和马等。他的系统映射出了人工智能在进行分类时的视线路径。结果显示,人工智能已经学会了把物体分解成不同的元素,然后在图像中搜索每一个元素,以确认其识别结果。

识别马头

例如,当看到马的图像时,格里姆的分析显示,人工智能首先对腿进行了密切关注,然后在图像中搜索了它认为可能是头的地方——它预先并不能知道这匹马的头出现的地方。对于包含了鹿的图像,人工智能也采取了类似的方法,但在这些情况下,它专门搜索了鹿角。人工智能几乎完全忽略了一个图像中的许多部分,这些部分并不包含有助于分类的信息。

格林和他的同事们也分析了一个训练后可以玩“Pong”(某电子游戏)的人工智能。他们发现,它几乎忽略了屏幕上所有的东西,只是密切关注着两根纤细的移动小柱。人工智能对一些区域几乎没有关注,以至于把小柱从它预期的地方移开后,它就误以为它是在看球而不是小柱。

格里姆认为,他的工具可以帮助人们判断出人工智能是如何做出决定的。例如,它可以用来检查在肺部扫描中检测癌细胞的算法,确保它们不会通过观察图像错误的部分,却恰好找到正确的答案。“你可以看看它是否没有注意到正确的东西,”他说,但首先,格里姆想用他的工具来帮助人工智能学习。

如果人工智能没有注意到时,它就会让人工智能培训师把他们的软件直接引导到到相关的信息上去。(马特·雷诺兹 报道,参考:arXiv)

(英文来源:New Scientist 编译:网易见外编译机器人 审校:贾翰鼎)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
儿媳新婚夜猝死,婆婆无奈帮她穿寿衣,无意摸到她脚掌,含泪自首

儿媳新婚夜猝死,婆婆无奈帮她穿寿衣,无意摸到她脚掌,含泪自首

小灵故事通
2021-09-27 15:03:36
阿塔迎来贵宾,中方接受邀请访问阿富汗,代总理哈桑亲自接见

阿塔迎来贵宾,中方接受邀请访问阿富汗,代总理哈桑亲自接见

紫荆
2021-09-27 15:40:11
拉闸限电的背后没有阴谋论,外贸企业将承受巨大的压力

拉闸限电的背后没有阴谋论,外贸企业将承受巨大的压力

左右互搏
2021-09-27 14:52:11
8岁女儿来姨妈,母亲带她检查,医生撩起她衣服,直接扇母亲嘴巴

8岁女儿来姨妈,母亲带她检查,医生撩起她衣服,直接扇母亲嘴巴

安远故事铺
2021-09-27 15:04:03
每经15点|上海将大面积停电?国家电网上海公司回应;上证指数收跌0.84%,北上资金净流入超14亿;我国女性人口超6.88亿

每经15点|上海将大面积停电?国家电网上海公司回应;上证指数收跌0.84%,北上资金净流入超14亿;我国女性人口超6.88亿

每日经济新闻
2021-09-27 15:19:19
尿毒症的人越来越多,医生劝你:4种食物尽量少吃,肾会感激你

尿毒症的人越来越多,医生劝你:4种食物尽量少吃,肾会感激你

北青网-北京青年报
2021-09-26 21:30:12
珠海航展轰20仍未亮相,但这架飞机的出现,说明轰20真的快了

珠海航展轰20仍未亮相,但这架飞机的出现,说明轰20真的快了

双马尾班长
2021-09-27 15:00:51
吃自助餐,这四种食物一点都不碰的,老板:此人绝对是个内行人

吃自助餐,这四种食物一点都不碰的,老板:此人绝对是个内行人

喜欢你就多吃点
2021-09-27 12:17:49
国家一级演员,曾出演《天龙八部》,一度无戏可拍,当网红火了

国家一级演员,曾出演《天龙八部》,一度无戏可拍,当网红火了

无忧故事会
2021-09-27 14:31:25
悲痛!他在中秋节前一天逝世!

悲痛!他在中秋节前一天逝世!

今日呼事
2021-09-26 20:04:21
身中100多刀身亡!沈阳理工大学特大凶案追踪,具体细节被披露

身中100多刀身亡!沈阳理工大学特大凶案追踪,具体细节被披露

中庸学府
2021-09-27 09:55:01
比油和盐更可怕,美国已禁止食用!

比油和盐更可怕,美国已禁止食用!

阿奇寻美食
2021-09-27 08:30:02
“男神医生”走红:17岁考上985,25岁博士毕业,颜值与才华并存

“男神医生”走红:17岁考上985,25岁博士毕业,颜值与才华并存

李大宝说教育
2021-09-27 09:11:15
王岳伦,被称为“知名导演”,他到底拍过什么作品?

王岳伦,被称为“知名导演”,他到底拍过什么作品?

圈里八卦圈外香
2021-09-25 12:01:44
台海形势已到转折时期,亲美的蔡英文和朱立伦,都必须严防

台海形势已到转折时期,亲美的蔡英文和朱立伦,都必须严防

罗马观察员
2021-09-27 10:02:11
拉闸限电,也拉出了一些胜利论

拉闸限电,也拉出了一些胜利论

悠然修史
2021-09-27 00:12:31
恒大危机:大股东欲出售公司股份

恒大危机:大股东欲出售公司股份

资讯沸点
2021-09-27 16:54:07
现场|金牌之后,樊振东从“小胖”,真正成了“东哥”

现场|金牌之后,樊振东从“小胖”,真正成了“东哥”

澎湃新闻
2021-09-27 08:44:35
再见默克尔!社民党赢得大选胜利,高层表态:对中德关系充满信心

再见默克尔!社民党赢得大选胜利,高层表态:对中德关系充满信心

排头国际
2021-09-27 13:13:12
今后三天,9月27日-9月29日,大雨 暴雨 大暴雨覆盖以下地区

今后三天,9月27日-9月29日,大雨 暴雨 大暴雨覆盖以下地区

风霜雨雪早知道
2021-09-27 17:23:58
2021-09-27 20:56:49
智能菌
智能菌
聚焦人工智能!
645文章数 23720关注度
往期回顾 全部

科技要闻

又一个跨界业务?吉利宣布开始批量生产商业卫星

头条要闻

沈逸:孟晚舟接受协议未利好美 本质是美一次重大后退

头条要闻

沈逸:孟晚舟接受协议未利好美 本质是美一次重大后退

体育要闻

不受欢迎的汉密尔顿,拿到第100冠

娱乐要闻

“话唠”威震天机甲重量曝光!

财经要闻

汽车要闻

年轻人成熟的选择 试驾上汽大众新帕萨特

态度原创

亲子
健康
家居
数码
本地

亲子要闻

幼儿园老师发午餐照,“高蛋白”饭菜引众怒

中医关注的症候跟病毒有什么关系?

家居要闻

鼓浪屿百年将军府卖1.6亿 黑檀雕花床价值7位数

数码要闻

UP主半小时痛失16万!反诈神器曾疯狂提醒

本地新闻

云游中国|江西是个好地方 南昌人的一天