迈向强人工智能：DeepMind让AI不再遗忘

网易科技讯9月1日消息，据外媒报道，暑假后你回到学校时，可能会觉得你已经把上一年学到的知识都还给了老师。 但是，如果你像人工智能系统那样学习知识，那么你在你每一年的第一天，你的大脑就真的会拿一个记忆的橡皮擦，把你之前学到的所有知识一点不留的擦掉——真真正正的从零开始。而这正是人工智能算法一直以来的学习方法，它从来不会真正记住任何东西。

人工智能系统在设计上就倾向于在每次开始新的学习之前，忘记先前学到的所有东西，这被称为灾难性遗忘。

很明显，这是一个大问题。尖端的学习算法大多依赖给定答案的有监督学习。 例如，面部识别AI系统将分析人脸的数千张照片，这些照片已经手动标注好答案以便AI在视频输入中能检测到人脸。 但是因为这些人工智能算法实际上并不“理解”他们所做的事情的基本逻辑，所以教导他们做其他任何事情，即使是非常相似的任务，都显得非常困难。比如说，让人工智能去识别特定的情感，这意味着你要从头开始训练这套模型。 一旦算法被训练，它能做的事情就固定下来了，我们不能再训练它去做其他事情。

多年来，科学家们一直试图弄清楚如何解决这个问题。 如果他们成功，AI系统将能够从一组新的训练数据中学习，而不会覆盖他们在此过程中已经学习到的内容。 也就是说，如果机器人真的有一天会崛起，我们的新“领主”将能够在征服地球上的所有生命的同时吹泡泡糖——同时做两件事。

但是，灾难性的遗忘仍然是阻碍科学家们研发出强人工智能（AGI）的主要障碍之一。强人工智能指具有人类级别的聪明甚至是情感，这包括我们在电视和电影中看到的无所不能的，有同情心和想象力的人工智能。

事实上，上周在布拉格参加人类人工智能峰会的一些人工智能专家表示，灾难性遗忘的问题是迈向强人工智能最大的障碍之一。而他们并不认为近期内会在这方面有所突破。

但谷歌DeepMind的高级研究科学家伊琳娜希金斯（Irina Higgins）在会议的演讲上宣布她的团队已经开始破解灾难性遗忘的奥秘。

她开发了一个AI代理人，这有点像一个由AI算法控制的电子游戏中的角色。它可以比典型机器学习算法更有创造性地思考。 通过在虚拟的环境中经历一些事情，它可以“想象”类似的事情在其他环境中会怎样发生。 换句话说，神经网络能够从它所处的环境中抽象出关键物体和事件。

这与人类的想象力不同，我们可以完全想出一些从未见过的事物。比如，你可以在脑海中想象一只圆圆的、红色的鸟鸟的样子。 人工智能系统尚不如人类的大脑复杂，但它已经可以想象已经见过的事情在其他场景中发生的样子。

希金斯在由GoodAI组织的会议上发言时说道：“我们希望机器能够在探索中学习安全常识，这样它就不会对自身造成损害。” 。她早些时候在arXiv上发表了她的论文，并撰写了一篇相关的博客文章。

现在，希金斯的人工智能系统可以从五张同一物体的不同角度的照片中“理解”这个物体，理解物体与环境的关系，以及在从未给算法见过的其他角度下的样子，或是在不同光线下的呈现的模样。希金斯的论文重点介绍了如何训练算法来发现白色手提箱或扶手椅。 在训练之后，算法可以想象该对象在一个全新的虚拟世界中的外观，并在遇到它时识别该对象。

希金斯说：“我们呈现一个图像给人工智能模型看物体在一个环境下的样子，并要求模型想象这个物体在不同环境中会是什么样子。” 与其他传统AI系统相比，她的新算法在识别从未见过的物体方面表现优异。

简而言之，该算法能够记录它遇到的内容与过去看到的内容之间的差异。 像大多数人一样，但与大多数其他算法不同的是，希金斯为谷歌搭建的新系统可以理解它从没有遇到的全新的对象。通过从一个新的角度看待对象， 它可以使用一些备用计算能力来从中提取新信息，更新它对世界的了解。而这一切无需重新学习，也无需遗忘先前的训练成果 。 换句话说，这套系统能够将其现有知识转移并应用于新环境。

当然，希金斯的模型本身不能把强人工智能变成现实。 但它标志着人工智能算法迈出了重要的一步。从此人工智能算法可以不断更新，在不丢失已有功能的情况下学习有关世界的新知识。

希金斯说：“我认为无遗忘学习是接近真正人工智能的道路上至关重要的一步。”

这项研究仍处于早期阶段。 与许多其他物体识别AI工具一样，这些算法只能在一个系列特定的任务中进行学习，例如查看照片并在许多不是面部的图像中挑选出一张脸。 但希金斯新的人工智能系统正在以一种更具创造力和想象力的方式完成这些任务。

即使希金斯的研究没有立即让我们进入强人工智能时代，她的新算法已经能够改进我们一直使用的AI系统。 例如，希金斯在用于训练面部识别软件的一组主要数据上尝试了她的新AI系统。 在分析了数据集中发现的数百万张头像后，该算法可以生成从未在图片库中出现过的头像。 例如，希金斯展示了按肤色排列的头像集合。

希金斯随后透露，她的算法也能够对主观评价作出预测。比如它可以对人们对头像的评价作出判断。在学习了上百万张头像之后，希金斯的算法绘制了几副它认为 “有吸引力”的头像：一系列年轻白人女性的头像。 也就是说，抛开种族问题不谈，希金斯的算法发现了人们的审美偏见： 白人更具吸引力。

当局者迷，旁观者清，这种创造性的新算法已经比人类更善于寻找人类的偏见， 之后工程师可以从系统中移除这些偏见。

虽然最新的人工智能算法还不能取代艺术家，但毫无疑问，希金斯团队的研发成果是人类迈向强人工智能的一大步。（马克克）

https://futurism.com/artificial-intelligence-remember-agi/