网易首页 > 网易科技 > 网易科技 > 正文

这里是纯干货!2018年深度学习的10个发展预测

0
分享至


本文系网易智能工作室(公众号smartman 163)出品。聚焦AI,读懂下一个大时代!

【网易智能讯1月4日消息】我有一种预感,2018年可能是一切都发生戏剧性变化的一年。2017年深度学习取得的惊人突破将在2018年以一种非常有力的方式延续下去。2017年的研究工作将会转移到日常的软件应用中。

像去年那样,我整理了一份2018年深度学习的预测清单。

1、大部分深度学习硬件初创公司会失败

许多深度学习硬件创业公司将开始在2018年最终交付他们的成品。大部分走向萧条,因为他们没有提供好的软件来支持新解决方案。这些公司拥有硬件作为他们的DNA。不幸的是,在深度学习领域,软件也同样重要。这些创业公司大多不懂软件,也不理解开发软件的成本。这些公司可能会交付产品,但不会运行良久。

易实现的收缩阵列(systolic array)解决方案已经被采用,因此不会有2017年那样的10倍性能升级。研究人员将这些tensor cores不仅用于推断,还用于加快训练速度。

英特尔的解决方案将继续被推迟,而且可能会令人失望。记录显示英特尔无法在2017年中期发布,交付时间难以预测,这太迟了,而且会很糟糕。

谷歌将继续以TPU的开发项目给世界带来惊喜。或许,谷歌会通过将其IP授权给其他半导体厂商来涉足硬件业务。如果它继续成为除英伟达以外唯一真正的玩家,这将是有意义的。

2、基于新随机梯度下降(SGD)的元学习

2017年,元学习领域的大量研究成果出现。随着研究群体对元学习的整体理解能力加强,随机梯度下降(SGD)的旧范式将被搁置,取而代之的是一种更有效的方法,兼具开发和探索性。

非监督学习的进步将是渐进的,但主要是由元学习算法驱动的。

3、生成模型驱动了一种新的建模方法

生成模型不断发展。目前,大多数研究都是在生成图像和语音方面进行的。不过,我们应当看到这些方法结合工具被用于复杂系统的建模。其中的一个应用领域是经济建模。

4、“自对弈”(Self-play)是自动的知识创造

AlphaGo Zero和AlphaZero之间从零开始学习到“自对弈”学习是一次巨大的飞跃,在我看来,它和深度学习的到来有着同样的影响。深度学习发现了通用函数近似器(Universal Function Approximators)。强化学习“自对弈”发现了普遍的知识创造。

期待看到更多与“自对弈”(Self-play)相关的进步。

5、直觉机器将弥合语义鸿沟

这是我最大胆的预测。我们将弥合直觉机器和理性机器之间的语义鸿沟。

双过程理论(两个认知机器的概念,一个是无模型的,另一个是基于模型的)将会是更普遍的概念,即我们应该如何构建新的人工智能。在2018年,人工直觉的概念将不再是一个边缘概念,而是一个普遍接受的概念。

6、解释能力(Explainability)是无法实现的,我们只能假装

解释能力存在两个问题。更常见的问题是,解释对人们来说有太多的规则需要去掌握。第二个问题不太为人所知,那就是机器将会创造出完全陌生的概念,无法解释。我们已经在AlphaGo Zero和Alpha Zero的战略中看到了这一点。人类会观察到,此举是非常规的,但他们可能没有能力去理解这一举动背后的逻辑。

在我看来,这是一个无法解决的问题。取而代之的是,机器将变得非常善于“伪装解释”。简而言之,可解释的机器的目的是理解一个人能够自如地理解或能从直觉上理解的各种解释。然而,在大多数情况下,对人类来说,完整的解释是不可能的。

我们必须通过创造“假解释”来在深度学习中取得进展。

7、深度学习研究信息将减少

2017年对于从事深度学习研究的人来说已经很困难了。提交到ICLR 2018会议的论文数量约为4,000篇。一个研究人员每天要阅读10篇论文,仅仅是为了能与会议同步。

在这个领域,问题变得更加严重,因为所有的理论框架都在不断完善之中。为了在理论空间上取得进步,我们需要寻找更先进的数学知识,让我们有更好的洞察力。这将是一项艰苦的工作,因为大多数深度学习研究人员没有相应的数学背景来理解这类系统的复杂性。深度学习需要来自复杂性理论的研究人员,但这种类型的研究人员却很少。

由于论文太多,理论也不完善,我们只能看到今天我们所处的不受欢迎的状态。

此外,人工智能(AGI)的总体路线图也缺失了。这个理论很弱,因此,我们能做的最好的事情就是创建一个包含与人类认知相关的里程碑的路线图。我们只有一个源自认知心理学的推测理论的框架。这是一种糟糕的情况,因为来自这些领域的经验证据充其量只能是零星的。

深度学习研究论文在2018年可能会增加两倍或四倍。

8、工业化通过教学环境进行

深度学习系统的发展,是通过具体的教学环境的发展而实现的。我在这里和这里更详细地讨论这个问题。如果你想找到教学技巧的最高级形式,你只需要看看学习网络是如何训练的。我们都希望在这一领域取得更多进展。

预计将有更多公司披露其内部基础设施,以说明他们如何大规模部署深度学习。

9、对话认知产生

我们衡量AGI进展的方法是过时的。需要一种新的范式来解决现实世界中的动态(即非平稳)复杂性。我们应该在新的一年里看到更多关于这个新领域的报道。我将在3月1日至2日在阿姆斯特丹举行的信息能源2018上谈论这种新的对话认知范式。

10、对人工智能伦理使用的需求将会增加。

如今,人们越来越意识到自动化失控造成的意外会带来的灾难性后果。我们今天在Facebook、Twitter、谷歌、亚马逊等网站上发现的简单自动化可能会对社会产生不必要的影响。

我们需要理解部署能够预测人类行为的机器的伦理道德。面部识别是我们掌握的最危险的能力之一。能够生成与现实难以区分的媒体的算法将会成为一个大问题。我们作为社会的一员,需要开始把人工智能仅仅作为一个造福社会的整体,而不是作为一种增加不平等的武器。

预计在接下来的一年里会有更多关于道德的讨论。然而,不要期待新的监管规定。在理解人工智能对社会的影响方面,政策制定者仍然落后。我不指望他们停止玩弄政治,开始解决社会真正的问题。美国人口已经成为众多安全漏洞的受害者,但我们还没有看到任何新的立法或倡议来解决这个严重的问题。所以不要屏住呼吸,我们的领导人会突然发现智慧。

准备迎接冲击,这就是我现在所拥有的一切。2018年将是重要的一年,我们最好系紧安全带,准备迎接冲击。

Carlos E. Perez是“人工直觉”和“深度学习”手册的作者,也是Intuition Machine公司的创始人。

(选自:venturebeat作者:Carlos E. Perez 编译:网易见外智能编译平台 审校:nariiy )

关注网易智能公众号(smartman163),获取人工智能行业最新报告。

相关推荐
热点推荐
网传新X3大崩盘 不到25万是真是假?实探4S店揭开真相

网传新X3大崩盘 不到25万是真是假?实探4S店揭开真相

沙雕小琳琳
2026-03-10 19:23:50
火箭湖人129-126胜,詹姆斯35+9+15无MVP

火箭湖人129-126胜,詹姆斯35+9+15无MVP

范动舍长
2026-03-10 11:23:24
随着印度1-3,越南0-4,中国女足四分之一决赛对手正式诞生

随着印度1-3,越南0-4,中国女足四分之一决赛对手正式诞生

侧身凌空斩
2026-03-10 19:01:07
见过什么毁三观的事网友讲述自身经历,真的是很毁三观。

见过什么毁三观的事网友讲述自身经历,真的是很毁三观。

侃神评故事
2026-03-09 19:30:03
快扔掉!戴一天,辐射量相当于拍117次胸片

快扔掉!戴一天,辐射量相当于拍117次胸片

FM93浙江交通之声
2025-10-28 00:01:43
最多只能再缺一场!约基奇29+12+10,3项数据前五,仍将无缘MVP?

最多只能再缺一场!约基奇29+12+10,3项数据前五,仍将无缘MVP?

无术不学
2026-03-10 11:28:26
女足亚洲杯1/4决赛对阵:中国vs中国台北,朝鲜vs澳大利亚

女足亚洲杯1/4决赛对阵:中国vs中国台北,朝鲜vs澳大利亚

懂球帝
2026-03-10 19:09:45
两会数说中国|一组数据看粮食安全“压舱石”更坚实

两会数说中国|一组数据看粮食安全“压舱石”更坚实

新华社
2026-03-10 00:43:07
纳斯达克中国金龙指数涨超3%,世纪互联涨14.20%

纳斯达克中国金龙指数涨超3%,世纪互联涨14.20%

每日经济新闻
2026-03-10 23:15:10
1930年,37岁白崇禧和副官未婚妻生下长子,妻子直接杀了过来

1930年,37岁白崇禧和副官未婚妻生下长子,妻子直接杀了过来

史之铭
2026-03-10 17:55:32
笑死!特朗普发文对伊朗新领袖哈梅内伊的儿子说:准备好见你爹!

笑死!特朗普发文对伊朗新领袖哈梅内伊的儿子说:准备好见你爹!

老马拉车莫少装
2026-03-09 21:29:33
贾浅浅《我的娘》才是最正宗“尿”诗,极具画面感,您觉得如何?

贾浅浅《我的娘》才是最正宗“尿”诗,极具画面感,您觉得如何?

读睡
2026-03-10 20:58:12
日本已经明牌了,他们对中国发起的不仅仅是冲突那么简单

日本已经明牌了,他们对中国发起的不仅仅是冲突那么简单

安安说
2026-02-28 09:24:12
官宣!亚足联重罚,朝鲜输球又输人,逃脱2张红牌+罢赛,宋凯表态

官宣!亚足联重罚,朝鲜输球又输人,逃脱2张红牌+罢赛,宋凯表态

寒士之言本尊
2026-03-10 13:22:29
破案!朝鲜女足罢赛5分钟原因找到,主裁没错,中国女足同受其害

破案!朝鲜女足罢赛5分钟原因找到,主裁没错,中国女足同受其害

法老不说教
2026-03-10 15:06:27
国际观察:打击伊朗遭遇三大反噬,美国还能撑多久?

国际观察:打击伊朗遭遇三大反噬,美国还能撑多久?

澎湃新闻
2026-03-10 17:35:09
我在迪拜工作时,不小心摘下穆斯林女子头纱,她给了我3个选择

我在迪拜工作时,不小心摘下穆斯林女子头纱,她给了我3个选择

千秋文化
2026-01-06 21:28:59
这才是铁哥们!还清中国81亿欠债,赠百亿大礼,西方各国都眼红

这才是铁哥们!还清中国81亿欠债,赠百亿大礼,西方各国都眼红

霁寒飘雪
2025-12-30 11:54:50
baby私下聚会视频!旗袍邋遢烟不离手请男模,举止浮夸疑精神失常

baby私下聚会视频!旗袍邋遢烟不离手请男模,举止浮夸疑精神失常

八卦王者
2026-03-09 11:05:16
恩德里克法甲迎水逆!独狼浪射遭狂嘘,法媒痛批灾难级表现

恩德里克法甲迎水逆!独狼浪射遭狂嘘,法媒痛批灾难级表现

仰卧撑FTUer
2026-03-10 07:48:10
2026-03-11 03:15:00

科技要闻

全民"养虾"背后:大厂集体下场疯狂卖Token

头条要闻

伊朗新最高领袖在袭击中受伤未公开发表讲话 官方回应

头条要闻

伊朗新最高领袖在袭击中受伤未公开发表讲话 官方回应

体育要闻

加兰没那么差,但鲈鱼会用吗?

娱乐要闻

《逐玉》注水风波升级!315评论区沦陷

财经要闻

“龙虾补贴”密集出炉 最高1000万!

汽车要闻

MG4有SUV衍生 上汽乘用车多款新车规划曝光

态度原创

房产
家居
教育
公开课
军事航空

房产要闻

信号!千亿巨头入局,三亚开启新一轮大征拆!

家居要闻

自然肌理 温度质感婚房

教育要闻

南京十三中发来邀请函!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

刚说完战争很快结束 特朗普改口

无障碍浏览 进入关怀版
×