网易首页 > 网易科技 > 网易科技 > 正文

这里是纯干货!2018年深度学习的10个发展预测

0
分享至


本文系网易智能工作室(公众号smartman 163)出品。聚焦AI,读懂下一个大时代!

【网易智能讯1月4日消息】我有一种预感,2018年可能是一切都发生戏剧性变化的一年。2017年深度学习取得的惊人突破将在2018年以一种非常有力的方式延续下去。2017年的研究工作将会转移到日常的软件应用中。

像去年那样,我整理了一份2018年深度学习的预测清单。

1、大部分深度学习硬件初创公司会失败

许多深度学习硬件创业公司将开始在2018年最终交付他们的成品。大部分走向萧条,因为他们没有提供好的软件来支持新解决方案。这些公司拥有硬件作为他们的DNA。不幸的是,在深度学习领域,软件也同样重要。这些创业公司大多不懂软件,也不理解开发软件的成本。这些公司可能会交付产品,但不会运行良久。

易实现的收缩阵列(systolic array)解决方案已经被采用,因此不会有2017年那样的10倍性能升级。研究人员将这些tensor cores不仅用于推断,还用于加快训练速度。

英特尔的解决方案将继续被推迟,而且可能会令人失望。记录显示英特尔无法在2017年中期发布,交付时间难以预测,这太迟了,而且会很糟糕。

谷歌将继续以TPU的开发项目给世界带来惊喜。或许,谷歌会通过将其IP授权给其他半导体厂商来涉足硬件业务。如果它继续成为除英伟达以外唯一真正的玩家,这将是有意义的。

2、基于新随机梯度下降(SGD)的元学习

2017年,元学习领域的大量研究成果出现。随着研究群体对元学习的整体理解能力加强,随机梯度下降(SGD)的旧范式将被搁置,取而代之的是一种更有效的方法,兼具开发和探索性。

非监督学习的进步将是渐进的,但主要是由元学习算法驱动的。

3、生成模型驱动了一种新的建模方法

生成模型不断发展。目前,大多数研究都是在生成图像和语音方面进行的。不过,我们应当看到这些方法结合工具被用于复杂系统的建模。其中的一个应用领域是经济建模。

4、“自对弈”(Self-play)是自动的知识创造

AlphaGo Zero和AlphaZero之间从零开始学习到“自对弈”学习是一次巨大的飞跃,在我看来,它和深度学习的到来有着同样的影响。深度学习发现了通用函数近似器(Universal Function Approximators)。强化学习“自对弈”发现了普遍的知识创造。

期待看到更多与“自对弈”(Self-play)相关的进步。

5、直觉机器将弥合语义鸿沟

这是我最大胆的预测。我们将弥合直觉机器和理性机器之间的语义鸿沟。

双过程理论(两个认知机器的概念,一个是无模型的,另一个是基于模型的)将会是更普遍的概念,即我们应该如何构建新的人工智能。在2018年,人工直觉的概念将不再是一个边缘概念,而是一个普遍接受的概念。

6、解释能力(Explainability)是无法实现的,我们只能假装

解释能力存在两个问题。更常见的问题是,解释对人们来说有太多的规则需要去掌握。第二个问题不太为人所知,那就是机器将会创造出完全陌生的概念,无法解释。我们已经在AlphaGo Zero和Alpha Zero的战略中看到了这一点。人类会观察到,此举是非常规的,但他们可能没有能力去理解这一举动背后的逻辑。

在我看来,这是一个无法解决的问题。取而代之的是,机器将变得非常善于“伪装解释”。简而言之,可解释的机器的目的是理解一个人能够自如地理解或能从直觉上理解的各种解释。然而,在大多数情况下,对人类来说,完整的解释是不可能的。

我们必须通过创造“假解释”来在深度学习中取得进展。

7、深度学习研究信息将减少

2017年对于从事深度学习研究的人来说已经很困难了。提交到ICLR 2018会议的论文数量约为4,000篇。一个研究人员每天要阅读10篇论文,仅仅是为了能与会议同步。

在这个领域,问题变得更加严重,因为所有的理论框架都在不断完善之中。为了在理论空间上取得进步,我们需要寻找更先进的数学知识,让我们有更好的洞察力。这将是一项艰苦的工作,因为大多数深度学习研究人员没有相应的数学背景来理解这类系统的复杂性。深度学习需要来自复杂性理论的研究人员,但这种类型的研究人员却很少。

由于论文太多,理论也不完善,我们只能看到今天我们所处的不受欢迎的状态。

此外,人工智能(AGI)的总体路线图也缺失了。这个理论很弱,因此,我们能做的最好的事情就是创建一个包含与人类认知相关的里程碑的路线图。我们只有一个源自认知心理学的推测理论的框架。这是一种糟糕的情况,因为来自这些领域的经验证据充其量只能是零星的。

深度学习研究论文在2018年可能会增加两倍或四倍。

8、工业化通过教学环境进行

深度学习系统的发展,是通过具体的教学环境的发展而实现的。我在这里和这里更详细地讨论这个问题。如果你想找到教学技巧的最高级形式,你只需要看看学习网络是如何训练的。我们都希望在这一领域取得更多进展。

预计将有更多公司披露其内部基础设施,以说明他们如何大规模部署深度学习。

9、对话认知产生

我们衡量AGI进展的方法是过时的。需要一种新的范式来解决现实世界中的动态(即非平稳)复杂性。我们应该在新的一年里看到更多关于这个新领域的报道。我将在3月1日至2日在阿姆斯特丹举行的信息能源2018上谈论这种新的对话认知范式。

10、对人工智能伦理使用的需求将会增加。

如今,人们越来越意识到自动化失控造成的意外会带来的灾难性后果。我们今天在Facebook、Twitter、谷歌、亚马逊等网站上发现的简单自动化可能会对社会产生不必要的影响。

我们需要理解部署能够预测人类行为的机器的伦理道德。面部识别是我们掌握的最危险的能力之一。能够生成与现实难以区分的媒体的算法将会成为一个大问题。我们作为社会的一员,需要开始把人工智能仅仅作为一个造福社会的整体,而不是作为一种增加不平等的武器。

预计在接下来的一年里会有更多关于道德的讨论。然而,不要期待新的监管规定。在理解人工智能对社会的影响方面,政策制定者仍然落后。我不指望他们停止玩弄政治,开始解决社会真正的问题。美国人口已经成为众多安全漏洞的受害者,但我们还没有看到任何新的立法或倡议来解决这个严重的问题。所以不要屏住呼吸,我们的领导人会突然发现智慧。

准备迎接冲击,这就是我现在所拥有的一切。2018年将是重要的一年,我们最好系紧安全带,准备迎接冲击。

Carlos E. Perez是“人工直觉”和“深度学习”手册的作者,也是Intuition Machine公司的创始人。

(选自:venturebeat作者:Carlos E. Perez 编译:网易见外智能编译平台 审校:nariiy )

关注网易智能公众号(smartman163),获取人工智能行业最新报告。

相关推荐
热点推荐
警惕!本月近50家上市公司“戴帽” ,ST特信连吃9个跌停板,被实施ST或*ST背后原因一览

警惕!本月近50家上市公司“戴帽” ,ST特信连吃9个跌停板,被实施ST或*ST背后原因一览

财联社
2024-05-26 08:56:26
曝45岁伏明霞离婚,净身出户原因揭晓,71岁百亿丈夫只说6个字

曝45岁伏明霞离婚,净身出户原因揭晓,71岁百亿丈夫只说6个字

深度知局
2024-05-20 19:25:53
1:2,曼城输球丢冠后,瓜迪奥拉采访失常,2025回巴萨战皇马?

1:2,曼城输球丢冠后,瓜迪奥拉采访失常,2025回巴萨战皇马?

体育全天候
2024-05-26 11:55:51
宁夏一考古队在考古调查时遭村民殴打 警方:双方或有误解,打人者被拘5日

宁夏一考古队在考古调查时遭村民殴打 警方:双方或有误解,打人者被拘5日

红星新闻
2024-05-26 19:30:13
网传美女记者从国内某报社离职:扣除五险一金后就剩500的底薪

网传美女记者从国内某报社离职:扣除五险一金后就剩500的底薪

西游日记
2024-05-26 16:13:12
广西大学教授被海归儿子12刀捅死,生前哀嚎:儿子你看看我

广西大学教授被海归儿子12刀捅死,生前哀嚎:儿子你看看我

秀秀情感课堂
2024-05-14 13:40:02
没人为公道发声,民族将失去灵魂!央媒问钟爷爷调查:不可告人?

没人为公道发声,民族将失去灵魂!央媒问钟爷爷调查:不可告人?

大风文字
2023-09-13 21:02:55
网传某汽车品牌供应商被摊派多台新车抵货款?让供应商叫苦连天…

网传某汽车品牌供应商被摊派多台新车抵货款?让供应商叫苦连天…

火山诗话
2024-05-25 06:43:03
突发!云南白药董事陈发树父子同时辞职,此前企业刚曝出“窝案”

突发!云南白药董事陈发树父子同时辞职,此前企业刚曝出“窝案”

红星新闻
2024-05-26 18:40:53
美国白忙活了?赖清德态度180度转变!“与大陆对话”突响

美国白忙活了?赖清德态度180度转变!“与大陆对话”突响

星辰故事屋
2024-05-25 20:49:14
张康阳发文告别国米:我没有准备好,可能永远也无法做好准备,这8年是我余生珍视的财富

张康阳发文告别国米:我没有准备好,可能永远也无法做好准备,这8年是我余生珍视的财富

鲁中晨报
2024-05-26 09:14:05
71岁港星颜国梁离世!TVB拍戏28年晚景凄凉,患癌住院被护工呵斥

71岁港星颜国梁离世!TVB拍戏28年晚景凄凉,患癌住院被护工呵斥

萌神木木
2024-05-26 17:35:30
又是被物价震惊的一天!网友:这是什么畸形物价,真的消费不起了

又是被物价震惊的一天!网友:这是什么畸形物价,真的消费不起了

原广工业
2024-05-21 00:21:01
新冠2年杀死1300万人,全球预期寿命大跳水,这6地却“逆势上扬”

新冠2年杀死1300万人,全球预期寿命大跳水,这6地却“逆势上扬”

不掉线电波
2024-05-26 09:39:53
鲍鱼家姐是“伪富婆”?员工发声回应,公开其财富来源!

鲍鱼家姐是“伪富婆”?员工发声回应,公开其财富来源!

古希腊掌管月桂的神
2024-05-25 22:40:22
中国福彩、体彩回应!

中国福彩、体彩回应!

中国经营报
2024-05-26 14:24:37
解放军刚包围台海,不到24小时,30国不许收台,中方当场反将一军

解放军刚包围台海,不到24小时,30国不许收台,中方当场反将一军

影孖看世界
2024-05-24 21:53:33
遮羞布彻底没了,全球热销TOP10没有国产手机,只剩窝里横

遮羞布彻底没了,全球热销TOP10没有国产手机,只剩窝里横

柏铭锐谈
2024-05-24 11:02:35
5月成为俄军自战争开始以来损失最大的一个月,累计损失突破50万

5月成为俄军自战争开始以来损失最大的一个月,累计损失突破50万

山河路口
2024-05-25 16:23:18
病情恶化,知名歌星落泪发布视频:我不会放弃

病情恶化,知名歌星落泪发布视频:我不会放弃

新民周刊
2024-05-25 18:15:44
2024-05-27 01:44:49

科技要闻

刘强东:只要拼搏公司永远不会辞退你

头条要闻

李强赴韩先后会见尹锡悦、岸田文雄 释放多个重要信号

头条要闻

李强赴韩先后会见尹锡悦、岸田文雄 释放多个重要信号

体育要闻

俄媒:巴黎接近签下萨福诺夫,转会费可能接近1500万欧

娱乐要闻

霍启仁求婚成功,郭晶晶要有妯娌了

财经要闻

李嘉诚,为何频频“打折卖楼”?

汽车要闻

底盘升级/首搭DM5.0混动技术 比亚迪秦L到店

态度原创

时尚
手机
本地
房产
公开课

伊姐周末热推:电视剧《狐妖小红娘月红篇》;综艺《魔方新世界》......

手机要闻

骁龙8 Gen4性能和成本均上涨,首发机型包含哪些?

本地新闻

2024沈阳皇姑第二届半程马拉松

房产要闻

超高性价比!仁恒长天云汀价格曝光!近500套房源一次砸出!

公开课

近视只是视力差?小心并发症

无障碍浏览 进入关怀版
×