网易首页 > 网易科技 > 网易科技 > 正文

人工智能的“黑暗秘密”:如何让AI解释自身行为?

0
分享至


本文系网易智能工作室(公众号 smartman 163)出品。聚焦AI,读懂下一个大时代!

【网易智能讯 12月15日消息】人工智能正渗透到我们现代生活的每一个角落,人工智能可以在Facebook上给你发布的图片上的朋友贴上名字的标签,或者帮你选择在Instagram上看到的图片,而材料科学家和NASA研究人员也开始使用人工智能来帮助发现新科学和太空探索。

但这一技术存在一个核心问题,无论是在社交媒体上还是在火星漫游车中使用过程中,因为建造它的程序员都不知道人工智能做出每一个决定的原因。

现代人工智能仍是一种新事物,在过去的5年,大型科技公司对于人工智能的投资和研究才刚刚开始。而在此之前,已有几十年历史的关于人工智能的理论最终在2012年得到了证实。受人脑的启发,一个人工神经网络依赖于“神经元”之间的成千上万个微小的连接,或者是小范围一串串的数学计算,这类似于大脑中神经元的连接系统。但这种软件架构给我们带来了一种新的权衡:由于数百万个连接的变化如此复杂和微小,研究人员无法准确地确定正在发生的连接结果,他们只会得到一个输出的结果。

“随着机器学习在社会变得越来越普遍而且风险越来越高,人们开始意识到我们不能把这些系统当作可靠和公正的保险箱,”Hanna?Wallach在一封电子邮件中告诉Quartz,他是微软的高级研究员,也是会议的发言人。“我们需要了解它们内部发生了什么,以及它们是如何被使用的。”

执行关键任务的人工智能


在美国国家航空航天局的喷气推进实验室中,人工智能能够让火星探测器在探索未知行星表面时能够半自主地运行。人工智能还被用于进行梳理探测器在传回地球时拍摄的数千张照片的过程中。

Kiri Wagstaff是JPL的一名人工智能研究人员和发言人,他说,由于每一个决定都带来了巨大的风险,在使用人工智能之前,我们需要完全理解它的每个决定。

“如果在火星轨道上有一艘宇宙飞船,这代表说它就在2亿英里之外,并且需要数亿美元的费用,甚至可能是十亿美元。如果出了什么问题,一切都难以挽救了。”Wagstaff说:“不花费大量的金钱的话是没有办法修复、访问、或者替换这些东西的。因此,如果我们想让机器学习发挥作用,那么让机器执行这些任务的人需要了解它需要做什么,为什么要去做这个行为,因为如果机器人不知道自己为什么要做出选择,人们为什么会信任它来控制他们昂贵的火星探测器或轨道飞行器呢?”

Wagstaff正致力于通过NASA的各种航天器在太空中捕捉到的图像建造人工智能对它们进行分类,由于这些图片的数量可以达到数百万,所以如果人工智能在这庞大的数据库中识别出有趣的照片,那么我们可以节省很多时间来找到我们想要看到的这些照片——但前提是人工智能知道一个“有趣”的图像是什么样的。

对Wagstaf而言,他觉得理解人工智能的目的是实现特定算法的关键。如果执行机器学习过程中在如何使用图像方面存在计算错误,那就意味着数据转移的任务成本价值数百万美元以上。

Wagstaff说:“当你看到一个电脑说‘这很有趣,让我看一看这张图片’时,你就会处于不确定的状态,因为你自己没有完整的看过这百万张照片,你不知道这些哪些是有趣的,或者为什么这是有趣的。”“图片有趣是因为它的颜色,因为它的形状,或者因为场景中物体的空间排列顺序吗?”

隐藏的知识


2007年,康奈尔大学的人工智能教授安德鲁·戈登·威尔逊与一个团队合作开发了一种新型PET扫描机。由于某些粒子在这台机器上与像其他一般的粒子表现的不一样,他的任务是追踪某个粒子穿过一盒氙气的过程。

他的顾问建议尝试使用神经网络来进行监测,而神经网络在当时还是一种比较模糊的概念。利用这种技术,威尔逊能够利用粒子发出的光将其定位在该盒氙气中。

当他得到了他想要的答案之后,威尔逊表示利用该算法用来理解光如何表示粒子位置的内部规则之后,可能将会为接下来的研究开辟了一条新的道路。

威尔逊说:“在某种程度上,一个模型是我们观察得出的理论,我们不仅可以利用模型进行预测,还可以更好地理解为什么这种预测方向是正确的,以及这些自然过程是如何运作的。”

解读能力


不过微软研究人员Wallach说,要在解释性语言能力上开辟新领域,最大的挑战之一就是怎样简单地定义它。

解读能力是否意味着人工智能专家知道为什么Facebook数据的算法会向每个人展示一个特定的帖子,或者说,这是一种能让你了解自己的方式?使用人工智能治疗推荐系统的医生是否需要知道为什么采用特定的建议治疗方案,或者说我们还需要在医院里创建另一个角色——人工智能监测人员?

Wallach称解读能力是一种潜在的构想:一种无法察觉的东西,但却被测试了真实的人们如何正确或错误地使用人工智能系统。这不仅仅是提升算法观察以及引擎运行的方式。

了解一种算法并不仅仅是为了防止局限性或确保你的火星漫游者不会从太空悬崖上掉下来,而是可能可以帮助人工智能研究人员建立更精确的系统。

优步公司的Yosinski说:“如果你不知道这个系统不工作的原因,要提高它的性能是相当困难的。”“通常情况下,如果你知道它为什么会工作失败的话,最后必然会找到一个解决方案。”

为了弄清楚其中一种算法是如何思考的,谷歌正试图对每次通过算法处理图像时进行的数百万次计算过程进行层层筛选研究。在NIPS大会上发表的一篇论文中,通过观察树皮和鸟的互动联系,谷歌研究人员Maithra Raghu展示了她修复的之前有问题的哑铃与机器人手臂之间的联系。

当人工智能研究鸟类的图像时,我们可以观察到人工智能网络中哪些神经元被激活,而Raghu能够通过这些数据确定哪些神经元专注于鸟的叫声或者集中在树皮上,最后再把树皮神经元关掉看看会有什么结果。取得这一成功意味着尽管人工智能是一个复杂的产物,但将神经网络的工作转化为人类所理解的东西并非是不可能的事情。

Wagstaff说:“在学校里,我们要求学生用自己的理解来证明他们学到的东西,并展示这些来证明他们的理解是正确的。”“现在我们希望机器也能做同样的事情。”

(选自:quartz 编译:网易见外编译机器人 审校:付曾)

关注网易智能公众号(smartman163),获取人工智能行业最新报告。

相关推荐
热点推荐
吕志和追悼会政商娱界名流齐聚!刘德华夫妇送花牌,伏明霞罕现身

吕志和追悼会政商娱界名流齐聚!刘德华夫妇送花牌,伏明霞罕现身

小咪侃娱圈
2024-12-05 10:58:25
张子强被执行后,昔日兄弟逼罗艳芳交出4个亿,只有奎爷能救她

张子强被执行后,昔日兄弟逼罗艳芳交出4个亿,只有奎爷能救她

吴学华看天下
2023-11-14 11:46:50
再传喜讯!济南轨道交通8号线全线贯通,2025年底建成通车

再传喜讯!济南轨道交通8号线全线贯通,2025年底建成通车

大众日报
2024-12-05 11:58:18
天上人间第一花魁生前被割双乳,全身放血惨死家中,悬案至今未破

天上人间第一花魁生前被割双乳,全身放血惨死家中,悬案至今未破

吴学华看天下
2023-08-18 13:28:55
一句“中国台北”恐被陆委会行政处分 宋思瑶落泪自责说错话

一句“中国台北”恐被陆委会行政处分 宋思瑶落泪自责说错话

金瓯一统
2024-12-05 10:40:27
比起28分惨败森林狼,更让快船球迷意难平的,应该就是以下3点

比起28分惨败森林狼,更让快船球迷意难平的,应该就是以下3点

田先生篮球
2024-12-05 14:48:22
鹈鹕解约锡安1亿大合同?疯了,太扯淡了……

鹈鹕解约锡安1亿大合同?疯了,太扯淡了……

篮球实战宝典
2024-12-04 23:11:40
琼瑶家中自杀详细过程披露,最后露面照曝光,一细节信息量大

琼瑶家中自杀详细过程披露,最后露面照曝光,一细节信息量大

博士观察
2024-12-04 21:39:41
2-2绝平!7分死里逃生,预定小组第2,国足坐山观虎斗,前4稳了

2-2绝平!7分死里逃生,预定小组第2,国足坐山观虎斗,前4稳了

体育就你秀
2024-12-05 01:20:02
当医院和学校都开始拖欠工资

当医院和学校都开始拖欠工资

李昕言温度空间
2024-12-04 11:08:57
刘晓庆的瓜愈演愈烈!小男友再爆猛料私密视频流出,他得寸进尺了

刘晓庆的瓜愈演愈烈!小男友再爆猛料私密视频流出,他得寸进尺了

辣条小剧场
2024-11-09 06:22:17
特朗普:将发起史无前例严厉打击

特朗普:将发起史无前例严厉打击

亚太观澜
2024-12-03 21:47:13
2024年“演技最好”的10位男演员:张颂文第8,第1名当之无愧

2024年“演技最好”的10位男演员:张颂文第8,第1名当之无愧

电影聚焦
2024-12-04 17:19:02
12月7日开战!京东2024年双12大促来了:跨店满300减40元

12月7日开战!京东2024年双12大促来了:跨店满300减40元

快科技
2024-12-04 15:05:17
我原本工资5万被公司下调到5千,我主动辞职,公司却出事赔了500万

我原本工资5万被公司下调到5千,我主动辞职,公司却出事赔了500万

涛哥讲堂
2024-12-02 16:24:51
普京亲口说出最坏结局,战略失败的后果,是整个俄罗斯毁于一旦

普京亲口说出最坏结局,战略失败的后果,是整个俄罗斯毁于一旦

老高风云
2024-12-05 08:45:03
离谱!快手4000万网红,直播用竹签捅女游客屁股

离谱!快手4000万网红,直播用竹签捅女游客屁股

科技每日推送
2024-12-04 18:15:40
河北“驴肉西施”凭美貌走红,顾客络绎不绝,同行无奈:学不来

河北“驴肉西施”凭美貌走红,顾客络绎不绝,同行无奈:学不来

唐小糖说情感
2024-12-05 17:22:22
纪晓波被发全球通缉令!人在日本做皮条交易,女友吴佩慈不离不弃

纪晓波被发全球通缉令!人在日本做皮条交易,女友吴佩慈不离不弃

南城无双
2024-12-04 12:27:45
德媒:埃尔多安对叙利亚局势“有发言权”

德媒:埃尔多安对叙利亚局势“有发言权”

参考消息
2024-12-05 18:00:20
2024-12-05 18:47:00

科技要闻

苹果引入文心一言,客户隐私或成合作阻碍

头条要闻

降价近2亿上拍 重庆一三甲医院时隔2年再拍卖部分权益

头条要闻

降价近2亿上拍 重庆一三甲医院时隔2年再拍卖部分权益

体育要闻

姆巴佩道歉:为失利负全责 丢点是巨大错误

娱乐要闻

琼瑶过世细节曝光 前一天嘱咐儿媳来家

财经要闻

房价开始涨了

汽车要闻

2.4T+9AT+四驱 哈弗H9柴油版起售

态度原创

本地
健康
时尚
公开课
军事航空

本地新闻

云游中国|来伦布夏果感受充满Passion的人生

花18万治疗阿尔茨海默病,值不值?

如何将“大衣”穿出高级感?配色不花、搭配简约,大方舒适

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

德国总理:向乌克兰派兵“绝无可能”

无障碍浏览 进入关怀版
×