网易首页 > 网易科技 > 网易科技 > 正文

这里是纯干货!2018年深度学习的10个发展预测

0
分享至


本文系网易智能工作室(公众号smartman 163)出品。聚焦AI,读懂下一个大时代!

【网易智能讯1月4日消息】我有一种预感,2018年可能是一切都发生戏剧性变化的一年。2017年深度学习取得的惊人突破将在2018年以一种非常有力的方式延续下去。2017年的研究工作将会转移到日常的软件应用中。

像去年那样,我整理了一份2018年深度学习的预测清单。

1、大部分深度学习硬件初创公司会失败

许多深度学习硬件创业公司将开始在2018年最终交付他们的成品。大部分走向萧条,因为他们没有提供好的软件来支持新解决方案。这些公司拥有硬件作为他们的DNA。不幸的是,在深度学习领域,软件也同样重要。这些创业公司大多不懂软件,也不理解开发软件的成本。这些公司可能会交付产品,但不会运行良久。

易实现的收缩阵列(systolic array)解决方案已经被采用,因此不会有2017年那样的10倍性能升级。研究人员将这些tensor cores不仅用于推断,还用于加快训练速度。

英特尔的解决方案将继续被推迟,而且可能会令人失望。记录显示英特尔无法在2017年中期发布,交付时间难以预测,这太迟了,而且会很糟糕。

谷歌将继续以TPU的开发项目给世界带来惊喜。或许,谷歌会通过将其IP授权给其他半导体厂商来涉足硬件业务。如果它继续成为除英伟达以外唯一真正的玩家,这将是有意义的。

2、基于新随机梯度下降(SGD)的元学习

2017年,元学习领域的大量研究成果出现。随着研究群体对元学习的整体理解能力加强,随机梯度下降(SGD)的旧范式将被搁置,取而代之的是一种更有效的方法,兼具开发和探索性。

非监督学习的进步将是渐进的,但主要是由元学习算法驱动的。

3、生成模型驱动了一种新的建模方法

生成模型不断发展。目前,大多数研究都是在生成图像和语音方面进行的。不过,我们应当看到这些方法结合工具被用于复杂系统的建模。其中的一个应用领域是经济建模。

4、“自对弈”(Self-play)是自动的知识创造

AlphaGo Zero和AlphaZero之间从零开始学习到“自对弈”学习是一次巨大的飞跃,在我看来,它和深度学习的到来有着同样的影响。深度学习发现了通用函数近似器(Universal Function Approximators)。强化学习“自对弈”发现了普遍的知识创造。

期待看到更多与“自对弈”(Self-play)相关的进步。

5、直觉机器将弥合语义鸿沟

这是我最大胆的预测。我们将弥合直觉机器和理性机器之间的语义鸿沟。

双过程理论(两个认知机器的概念,一个是无模型的,另一个是基于模型的)将会是更普遍的概念,即我们应该如何构建新的人工智能。在2018年,人工直觉的概念将不再是一个边缘概念,而是一个普遍接受的概念。

6、解释能力(Explainability)是无法实现的,我们只能假装

解释能力存在两个问题。更常见的问题是,解释对人们来说有太多的规则需要去掌握。第二个问题不太为人所知,那就是机器将会创造出完全陌生的概念,无法解释。我们已经在AlphaGo Zero和Alpha Zero的战略中看到了这一点。人类会观察到,此举是非常规的,但他们可能没有能力去理解这一举动背后的逻辑。

在我看来,这是一个无法解决的问题。取而代之的是,机器将变得非常善于“伪装解释”。简而言之,可解释的机器的目的是理解一个人能够自如地理解或能从直觉上理解的各种解释。然而,在大多数情况下,对人类来说,完整的解释是不可能的。

我们必须通过创造“假解释”来在深度学习中取得进展。

7、深度学习研究信息将减少

2017年对于从事深度学习研究的人来说已经很困难了。提交到ICLR 2018会议的论文数量约为4,000篇。一个研究人员每天要阅读10篇论文,仅仅是为了能与会议同步。

在这个领域,问题变得更加严重,因为所有的理论框架都在不断完善之中。为了在理论空间上取得进步,我们需要寻找更先进的数学知识,让我们有更好的洞察力。这将是一项艰苦的工作,因为大多数深度学习研究人员没有相应的数学背景来理解这类系统的复杂性。深度学习需要来自复杂性理论的研究人员,但这种类型的研究人员却很少。

由于论文太多,理论也不完善,我们只能看到今天我们所处的不受欢迎的状态。

此外,人工智能(AGI)的总体路线图也缺失了。这个理论很弱,因此,我们能做的最好的事情就是创建一个包含与人类认知相关的里程碑的路线图。我们只有一个源自认知心理学的推测理论的框架。这是一种糟糕的情况,因为来自这些领域的经验证据充其量只能是零星的。

深度学习研究论文在2018年可能会增加两倍或四倍。

8、工业化通过教学环境进行

深度学习系统的发展,是通过具体的教学环境的发展而实现的。我在这里和这里更详细地讨论这个问题。如果你想找到教学技巧的最高级形式,你只需要看看学习网络是如何训练的。我们都希望在这一领域取得更多进展。

预计将有更多公司披露其内部基础设施,以说明他们如何大规模部署深度学习。

9、对话认知产生

我们衡量AGI进展的方法是过时的。需要一种新的范式来解决现实世界中的动态(即非平稳)复杂性。我们应该在新的一年里看到更多关于这个新领域的报道。我将在3月1日至2日在阿姆斯特丹举行的信息能源2018上谈论这种新的对话认知范式。

10、对人工智能伦理使用的需求将会增加。

如今,人们越来越意识到自动化失控造成的意外会带来的灾难性后果。我们今天在Facebook、Twitter、谷歌、亚马逊等网站上发现的简单自动化可能会对社会产生不必要的影响。

我们需要理解部署能够预测人类行为的机器的伦理道德。面部识别是我们掌握的最危险的能力之一。能够生成与现实难以区分的媒体的算法将会成为一个大问题。我们作为社会的一员,需要开始把人工智能仅仅作为一个造福社会的整体,而不是作为一种增加不平等的武器。

预计在接下来的一年里会有更多关于道德的讨论。然而,不要期待新的监管规定。在理解人工智能对社会的影响方面,政策制定者仍然落后。我不指望他们停止玩弄政治,开始解决社会真正的问题。美国人口已经成为众多安全漏洞的受害者,但我们还没有看到任何新的立法或倡议来解决这个严重的问题。所以不要屏住呼吸,我们的领导人会突然发现智慧。

准备迎接冲击,这就是我现在所拥有的一切。2018年将是重要的一年,我们最好系紧安全带,准备迎接冲击。

Carlos E. Perez是“人工直觉”和“深度学习”手册的作者,也是Intuition Machine公司的创始人。

(选自:venturebeat作者:Carlos E. Perez 编译:网易见外智能编译平台 审校:nariiy )

关注网易智能公众号(smartman163),获取人工智能行业最新报告。

相关推荐
热点推荐
中国10大最毒零食排行榜,常吃等于“慢性自杀”

中国10大最毒零食排行榜,常吃等于“慢性自杀”

新兴网评
2024-10-22 00:57:07
世界首富并不是马斯克,他只是明面上的,真正的首富是这神秘家族

世界首富并不是马斯克,他只是明面上的,真正的首富是这神秘家族

坦然风云
2024-11-07 00:52:45
特朗普的报复——老妖婆,看你往哪里跑!

特朗普的报复——老妖婆,看你往哪里跑!

百味朱砂
2024-11-08 11:05:20
大S的钱都哪里去了?真相曝光,黄春梅已再婚,重金迎娶小鲜肉!

大S的钱都哪里去了?真相曝光,黄春梅已再婚,重金迎娶小鲜肉!

花花lo先森
2024-11-07 09:08:53
马卡:安切洛蒂与皇马全队召开紧急闭门会议,气氛紧张但结果积极

马卡:安切洛蒂与皇马全队召开紧急闭门会议,气氛紧张但结果积极

直播吧
2024-11-08 23:18:10
欧尔班强调:乌克兰主权独立,人民决定是否战斗到底

欧尔班强调:乌克兰主权独立,人民决定是否战斗到底

桂系007
2024-11-09 02:07:51
李大霄:增加地方政府债务限额6万亿是一场及时雨!

李大霄:增加地方政府债务限额6万亿是一场及时雨!

中国李大霄
2024-11-08 17:16:20
孟锦云:毛主席的舞伴、护士,入狱5年,陪伴了主席最后的岁月

孟锦云:毛主席的舞伴、护士,入狱5年,陪伴了主席最后的岁月

菲哥谈
2024-11-08 12:42:54
任天堂2025财年上半年净利润腰斩,在中国加开线下体验门店 国行Switch能否逆袭?

任天堂2025财年上半年净利润腰斩,在中国加开线下体验门店 国行Switch能否逆袭?

每日经济新闻
2024-11-07 16:32:09
宁愿破产也不和中国合作,现在竟主动在华建厂,还承诺搬来生产线

宁愿破产也不和中国合作,现在竟主动在华建厂,还承诺搬来生产线

美食阿鳕
2024-11-08 17:41:37
麦当娜用“反特朗普”蛋糕宣泄失望,娱乐圈女歌手集体力挺哈里斯

麦当娜用“反特朗普”蛋糕宣泄失望,娱乐圈女歌手集体力挺哈里斯

土澳的故事
2024-11-08 11:55:21
疯狂!女子狂砸奢侈品店,妈妈哭喊:别砸了,我赔不起!警方通报

疯狂!女子狂砸奢侈品店,妈妈哭喊:别砸了,我赔不起!警方通报

六目先生
2024-11-06 18:39:51
票卖光了召回了?湖人官方宣布:从发展联盟南湾湖人召回布朗尼等人

票卖光了召回了?湖人官方宣布:从发展联盟南湾湖人召回布朗尼等人

雷速体育
2024-11-09 08:10:21
中小学乱象:领导们不研究学校如何发展,整天琢磨怎么折腾老师!

中小学乱象:领导们不研究学校如何发展,整天琢磨怎么折腾老师!

李老师讲最真教育
2024-11-07 21:36:08
筷子兄弟解体8年,肖央已身家百亿,已经55岁王太利如今怎么样了

筷子兄弟解体8年,肖央已身家百亿,已经55岁王太利如今怎么样了

东篱畔
2024-11-06 22:25:03
人民日报贺电!伟大的2-0,郑钦文进年终赛决赛,豪取1650万奖金

人民日报贺电!伟大的2-0,郑钦文进年终赛决赛,豪取1650万奖金

知轩体育
2024-11-09 01:10:16
临时世界排名更新!韦克林反超肖国栋,中国军团创历史,准神第一

临时世界排名更新!韦克林反超肖国栋,中国军团创历史,准神第一

世界体坛观察家
2024-11-09 05:31:14
ACE女王!郑钦文415记ACE断档领先 韩乔生盛赞今年“开挂了”

ACE女王!郑钦文415记ACE断档领先 韩乔生盛赞今年“开挂了”

醉卧浮生
2024-11-09 01:37:02
机械姬张碧晨,真不愧是和华晨宇生过孩子的女人

机械姬张碧晨,真不愧是和华晨宇生过孩子的女人

娱乐圈人物大赏
2024-11-07 00:37:00
陈幸同3-1逆转日本选手大藤沙月,晋级法兰克福冠军赛半决赛

陈幸同3-1逆转日本选手大藤沙月,晋级法兰克福冠军赛半决赛

懂球帝
2024-11-09 02:40:23
2024-11-09 09:22:44

科技要闻

特斯拉盘中飙涨超10%,市值突破1万亿美元

头条要闻

美媒:特朗普与泽连斯基通话期间 马斯克闪现加入对话

头条要闻

美媒:特朗普与泽连斯基通话期间 马斯克闪现加入对话

体育要闻

曾在英冠坐板凳的他 是当今最火爆的射手

娱乐要闻

叶珂闪现闺蜜直播间,黄晓明评论沦陷

财经要闻

直接安排10万亿 地方政府化债压力大大减轻

汽车要闻

售10.98万起 银河星舰7 EM-i开启预售

态度原创

教育
艺术
旅游
健康
时尚

教育要闻

三角形有关的中考真题,熟悉三角形的性质是解题关键

艺术要闻

故宫珍藏的墨迹《十七帖》,比拓本更精良,这才是地道的魏晋写法

旅游要闻

4名女游客上山迷路,多方连夜搜寻成功救出

花18万治疗阿尔茨海默病,值不值?

不穿一身黑了!今年秋冬这样穿才是真时髦!

无障碍浏览 进入关怀版
×