网易首页 > 网易科技 > 网易科技 > 正文

这里是纯干货!2018年深度学习的10个发展预测

0
分享至


本文系网易智能工作室(公众号smartman 163)出品。聚焦AI,读懂下一个大时代!

【网易智能讯1月4日消息】我有一种预感,2018年可能是一切都发生戏剧性变化的一年。2017年深度学习取得的惊人突破将在2018年以一种非常有力的方式延续下去。2017年的研究工作将会转移到日常的软件应用中。

像去年那样,我整理了一份2018年深度学习的预测清单。

1、大部分深度学习硬件初创公司会失败

许多深度学习硬件创业公司将开始在2018年最终交付他们的成品。大部分走向萧条,因为他们没有提供好的软件来支持新解决方案。这些公司拥有硬件作为他们的DNA。不幸的是,在深度学习领域,软件也同样重要。这些创业公司大多不懂软件,也不理解开发软件的成本。这些公司可能会交付产品,但不会运行良久。

易实现的收缩阵列(systolic array)解决方案已经被采用,因此不会有2017年那样的10倍性能升级。研究人员将这些tensor cores不仅用于推断,还用于加快训练速度。

英特尔的解决方案将继续被推迟,而且可能会令人失望。记录显示英特尔无法在2017年中期发布,交付时间难以预测,这太迟了,而且会很糟糕。

谷歌将继续以TPU的开发项目给世界带来惊喜。或许,谷歌会通过将其IP授权给其他半导体厂商来涉足硬件业务。如果它继续成为除英伟达以外唯一真正的玩家,这将是有意义的。

2、基于新随机梯度下降(SGD)的元学习

2017年,元学习领域的大量研究成果出现。随着研究群体对元学习的整体理解能力加强,随机梯度下降(SGD)的旧范式将被搁置,取而代之的是一种更有效的方法,兼具开发和探索性。

非监督学习的进步将是渐进的,但主要是由元学习算法驱动的。

3、生成模型驱动了一种新的建模方法

生成模型不断发展。目前,大多数研究都是在生成图像和语音方面进行的。不过,我们应当看到这些方法结合工具被用于复杂系统的建模。其中的一个应用领域是经济建模。

4、“自对弈”(Self-play)是自动的知识创造

AlphaGo Zero和AlphaZero之间从零开始学习到“自对弈”学习是一次巨大的飞跃,在我看来,它和深度学习的到来有着同样的影响。深度学习发现了通用函数近似器(Universal Function Approximators)。强化学习“自对弈”发现了普遍的知识创造。

期待看到更多与“自对弈”(Self-play)相关的进步。

5、直觉机器将弥合语义鸿沟

这是我最大胆的预测。我们将弥合直觉机器和理性机器之间的语义鸿沟。

双过程理论(两个认知机器的概念,一个是无模型的,另一个是基于模型的)将会是更普遍的概念,即我们应该如何构建新的人工智能。在2018年,人工直觉的概念将不再是一个边缘概念,而是一个普遍接受的概念。

6、解释能力(Explainability)是无法实现的,我们只能假装

解释能力存在两个问题。更常见的问题是,解释对人们来说有太多的规则需要去掌握。第二个问题不太为人所知,那就是机器将会创造出完全陌生的概念,无法解释。我们已经在AlphaGo Zero和Alpha Zero的战略中看到了这一点。人类会观察到,此举是非常规的,但他们可能没有能力去理解这一举动背后的逻辑。

在我看来,这是一个无法解决的问题。取而代之的是,机器将变得非常善于“伪装解释”。简而言之,可解释的机器的目的是理解一个人能够自如地理解或能从直觉上理解的各种解释。然而,在大多数情况下,对人类来说,完整的解释是不可能的。

我们必须通过创造“假解释”来在深度学习中取得进展。

7、深度学习研究信息将减少

2017年对于从事深度学习研究的人来说已经很困难了。提交到ICLR 2018会议的论文数量约为4,000篇。一个研究人员每天要阅读10篇论文,仅仅是为了能与会议同步。

在这个领域,问题变得更加严重,因为所有的理论框架都在不断完善之中。为了在理论空间上取得进步,我们需要寻找更先进的数学知识,让我们有更好的洞察力。这将是一项艰苦的工作,因为大多数深度学习研究人员没有相应的数学背景来理解这类系统的复杂性。深度学习需要来自复杂性理论的研究人员,但这种类型的研究人员却很少。

由于论文太多,理论也不完善,我们只能看到今天我们所处的不受欢迎的状态。

此外,人工智能(AGI)的总体路线图也缺失了。这个理论很弱,因此,我们能做的最好的事情就是创建一个包含与人类认知相关的里程碑的路线图。我们只有一个源自认知心理学的推测理论的框架。这是一种糟糕的情况,因为来自这些领域的经验证据充其量只能是零星的。

深度学习研究论文在2018年可能会增加两倍或四倍。

8、工业化通过教学环境进行

深度学习系统的发展,是通过具体的教学环境的发展而实现的。我在这里和这里更详细地讨论这个问题。如果你想找到教学技巧的最高级形式,你只需要看看学习网络是如何训练的。我们都希望在这一领域取得更多进展。

预计将有更多公司披露其内部基础设施,以说明他们如何大规模部署深度学习。

9、对话认知产生

我们衡量AGI进展的方法是过时的。需要一种新的范式来解决现实世界中的动态(即非平稳)复杂性。我们应该在新的一年里看到更多关于这个新领域的报道。我将在3月1日至2日在阿姆斯特丹举行的信息能源2018上谈论这种新的对话认知范式。

10、对人工智能伦理使用的需求将会增加。

如今,人们越来越意识到自动化失控造成的意外会带来的灾难性后果。我们今天在Facebook、Twitter、谷歌、亚马逊等网站上发现的简单自动化可能会对社会产生不必要的影响。

我们需要理解部署能够预测人类行为的机器的伦理道德。面部识别是我们掌握的最危险的能力之一。能够生成与现实难以区分的媒体的算法将会成为一个大问题。我们作为社会的一员,需要开始把人工智能仅仅作为一个造福社会的整体,而不是作为一种增加不平等的武器。

预计在接下来的一年里会有更多关于道德的讨论。然而,不要期待新的监管规定。在理解人工智能对社会的影响方面,政策制定者仍然落后。我不指望他们停止玩弄政治,开始解决社会真正的问题。美国人口已经成为众多安全漏洞的受害者,但我们还没有看到任何新的立法或倡议来解决这个严重的问题。所以不要屏住呼吸,我们的领导人会突然发现智慧。

准备迎接冲击,这就是我现在所拥有的一切。2018年将是重要的一年,我们最好系紧安全带,准备迎接冲击。

Carlos E. Perez是“人工直觉”和“深度学习”手册的作者,也是Intuition Machine公司的创始人。

(选自:venturebeat作者:Carlos E. Perez 编译:网易见外智能编译平台 审校:nariiy )

关注网易智能公众号(smartman163),获取人工智能行业最新报告。

相关推荐
热点推荐
42岁沈佳妮健身照,腰臀比封神,终于懂朱亚文为啥说生理性喜欢

42岁沈佳妮健身照,腰臀比封神,终于懂朱亚文为啥说生理性喜欢

瓜农娟姐
2025-12-12 20:46:55
别等头晕才警觉!医生提醒:早期脑梗5 个信号,频繁出现要警惕

别等头晕才警觉!医生提醒:早期脑梗5 个信号,频繁出现要警惕

袁医生课堂
2025-12-14 18:22:12
普通家庭能给孩子最好的托举是什么?网友:真的说到点上了

普通家庭能给孩子最好的托举是什么?网友:真的说到点上了

夜深爱杂谈
2025-11-21 20:20:12
徐璐综艺翻车?节目组这波救场太绝了,她太放的开了吧

徐璐综艺翻车?节目组这波救场太绝了,她太放的开了吧

老吴教育课堂
2025-12-14 15:43:06
博洛尼亚0-1尤文图斯,赛后评分:尤文图斯5号排第一

博洛尼亚0-1尤文图斯,赛后评分:尤文图斯5号排第一

侧身凌空斩
2025-12-15 05:42:32
沈梦辰不再回避,节目直言自己这些年不生小孩的原因,令人没想到

沈梦辰不再回避,节目直言自己这些年不生小孩的原因,令人没想到

普览
2025-12-14 00:04:05
鸡蛋是血管的良药!再次提醒:到了70岁,保护血管牢记3不要

鸡蛋是血管的良药!再次提醒:到了70岁,保护血管牢记3不要

涵豆说娱
2025-10-28 16:04:45
火箭队要梭哈大交易!基迪或成球队新核心!

火箭队要梭哈大交易!基迪或成球队新核心!

卜米同学的吉他弹唱
2025-12-14 19:45:20
中日交恶,错在中方?第二个指责我国的出现,点名中国用词激烈

中日交恶,错在中方?第二个指责我国的出现,点名中国用词激烈

肖兹探秘说
2025-11-25 13:12:05
张靓颖“零透光”裙惊爆热搜,性感曲线令全场屏息,时尚女王?

张靓颖“零透光”裙惊爆热搜,性感曲线令全场屏息,时尚女王?

娱乐领航家
2025-10-28 22:00:07
只有沙特会接纳他!开出和C罗一样年薪,萨拉赫会接受这份诚意么

只有沙特会接纳他!开出和C罗一样年薪,萨拉赫会接受这份诚意么

里芃芃体育
2025-12-15 03:00:03
“被严重低估”的5款家电:买前瞧不上,用后都直呼:后悔买晚了

“被严重低估”的5款家电:买前瞧不上,用后都直呼:后悔买晚了

家电小超人
2025-12-14 16:35:03
背负骂名31年,奚美娟孩子亲爹身份曝光,陈道明的尬笑说明一切

背负骂名31年,奚美娟孩子亲爹身份曝光,陈道明的尬笑说明一切

农城浪子
2025-12-09 09:08:10
两腿一蹬,一切成空!湖南富豪瓷砖大佬猝然离世,年仅44岁!

两腿一蹬,一切成空!湖南富豪瓷砖大佬猝然离世,年仅44岁!

今朝牛马
2025-12-06 12:14:51
钱再多有什么用!50岁胡可的断崖式衰老,给所有人提了个醒

钱再多有什么用!50岁胡可的断崖式衰老,给所有人提了个醒

心静物娱
2025-12-14 09:55:27
澳媒:中国总被描述为全球第二大经济体,这并非事实

澳媒:中国总被描述为全球第二大经济体,这并非事实

南宗历史
2025-12-13 23:41:38
世界上最致命的动物

世界上最致命的动物

喜之春
2025-12-08 06:30:33
恋综爆改搞笑综艺?痞幼不语,守着阿斯顿马丁的限量款静静看宾利哥装X

恋综爆改搞笑综艺?痞幼不语,守着阿斯顿马丁的限量款静静看宾利哥装X

草莓解说体育
2025-12-13 00:01:41
对心脏最好的1种肉,不是牛肉也不是猪肉,多吃血管干净,心跳稳

对心脏最好的1种肉,不是牛肉也不是猪肉,多吃血管干净,心跳稳

江江食研社
2025-11-30 12:30:08
伊能静露馅了 助阵儿子恩利音乐节,又矮又胖还老,脸部臃肿没法看

伊能静露馅了 助阵儿子恩利音乐节,又矮又胖还老,脸部臃肿没法看

乡野小珥
2025-12-13 04:29:22
2025-12-15 06:35:00

科技要闻

当人形机器人有了App Store,宇树在赌什么

头条要闻

澳海滩枪击惊魂50分钟:枪手占据天桥向下扫射

头条要闻

澳海滩枪击惊魂50分钟:枪手占据天桥向下扫射

体育要闻

马刺终结雷霆:以勇猛,以文班亚马

娱乐要闻

何晴生前最大谣言!没有再婚嫁廖京生

财经要闻

重大违法强制退市!10人被判刑

汽车要闻

硬核敞篷巴士?掷弹兵Game Viewer 2026年初量产

态度原创

艺术
手机
本地
家居
公开课

艺术要闻

才女一生未嫁,画史铸就传奇

手机要闻

澎湃OS优化进展公布,小米15手机相机体验等问题已修复

本地新闻

云游安徽|阜阳三朝风骨,传承千年墨香

家居要闻

温润质感 打造干净空间

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×