强大高效的大脑芯片：为你的手机带来先进的人工智能

人工智能和传统计算机是天作之合。

主要原因是目前硬件芯片的设置方式。基于传统的冯·诺依曼架构，芯片将内存存储与主处理器隔离。每一次计算都是一次噩梦般的周一早上的通勤，芯片不断地在每个隔间里来回穿梭数据，形成一道臭名昭著的 "内存墙"。

如果你曾经被堵在路上，你知道这种挫折感：它需要时间和浪费精力。随着人工智能算法变得越来越复杂，这个问题变得越来越严重。

那么，为什么不在大脑的基础上设计一个芯片，为深层神经网络提供一个潜在的完美匹配？

进入内存中计算，或CIM（compute-in-memory），芯片。忠实于它们的名字，这些芯片在同一地点计算和存储内存。忘掉交互；这些芯片是高效的在家工作的替代品，解决了数据流量瓶颈问题，并有望提高效率和降低能耗。

或者说，理论上是这样的。大多数运行人工智能算法的内存中计算CIM芯片只专注于芯片设计，利用芯片的模拟来展示其能力，而不是在成熟的硬件上运行任务。这些芯片也很难适应多种不同的人工智能任务例如图像识别、语音感知。这些限制了它们与智能手机或其他日常设备的整合。

本月，《自然》杂志的一项研究从根本上升级了CIM。由斯坦福大学的神经形态硬件专家飞利浦·王（Philip Wong）博士和加州大学圣地亚哥分校的Gert Cauwenberghs博士领导的国际团队没有只关注芯片的设计，而是优化了整个设置，从技术到架构到校准硬件的算法。

由此产生的NeuRRAM芯片是一个强大的神经形态计算庞然大物，拥有48个并行内核和300万个存储单元。该芯片用途极为广泛，它处理了多项人工智能标准任务：如阅读手写数字、识别图像中的汽车和其他物体，以及解码语音记录。这些识别的准确率超过84%。

虽然成功率可能看起来很平庸，但它可以与现有的数字芯片相媲美，而且大大节省了能源。对作者来说，这是把人工智能直接带到我们的设备上迈出的一步，而不是需要把数据穿梭到云端进行计算。

让这些计算在芯片上完成，而不是从云端发送信息，可以使更快、更安全、更便宜、更可扩展的人工智能进入未来，并让更多人获得人工智能的力量。

神经系统的灵感

人工智能专用芯片现在到了一个惊人的数量。从谷歌的张量处理单元（TPU）和特斯拉的Dojo超级计算机架构到百度和亚马逊，科技巨头们正在人工智能芯片淘金热中投资数亿美元，以建立支持日益复杂的深度学习算法的处理器。一些公司甚至利用机器学习来设计为人工智能软件量身定做的芯片架构，使这场竞赛圆满结束。

一个特别耐人寻味的概念直接来自大脑。当数据通过我们的神经元时，它们通过被称为突触的物理 "码头""连接 "成网络。这些结构像小蘑菇一样坐在神经分支的顶部，是多任务者：它们通过其蛋白质成分的变化既计算又存储数据。

换句话说，神经元与传统的计算机不同，不需要将数据从存储器穿梭到CPU。这使大脑具有比数字设备更多的优势：它具有很高的能源效率，同时进行多种计算，所有这些都被装在塞在头骨内的三磅重的果冻中。

为什么不重新创造大脑的各个方面呢？

进入神经形态计算。一种黑客技术是使用RRAMs【电阻式随机存取存储器（RRAM：resistive random access memory）】，即电阻式随机存取存储器设备（也被称为 "记忆体"）。RRAMs通过改变其硬件的电阻，即使在断电时也能存储记忆。与突触相似，这些元件可以在极小的面积上被包装成密集的阵列，创造出能够进行高度复杂计算的电路，而不需要大量的计算。当与CMOS（一种在我们目前的微处理器和芯片中构建电路的制造工艺）相结合时，这二者在运行深度学习算法方面变得更加强大。

但这是有代价的。RRAM-CIM架构内的高度并行模拟计算带来了卓越的效率，但使得实现与数字电路相同水平的功能灵活性和计算精度成为挑战。

优化精灵

新研究深入研究了RRAM-CIM芯片的每一个部分，重新设计了它的实际用途。

它从技术开始。NeuRRAM拥有48个并行计算的内核，RRAM器件在物理上与CMOS电路交织在一起。像神经元一样，每个核心在不使用时可以单独关闭，保存能量，而其内存则存储在RRAM上。

这些RRAM单元：所有300万个单元被连接起来，以便数据可以双向传输。这是一个关键的设计，使芯片能够灵活地适应多种不同类型的人工智能算法。例如，一种深度神经网络CNN（卷积神经网络）在计算机视觉方面特别出色，但需要数据向单一方向流动。相比之下，LSTMs，一种经常用于音频识别的深度神经网，经常性地处理数据，使信号与时间匹配。像突触一样，芯片对一个RRAM "神经元 "与另一个神经元的连接强度进行编码。

这种架构使得微调数据流以减少交通堵塞成为可能。就像将单车道交通扩展到多车道一样，该芯片可以从大多数计算密集型问题中复制网络的当前 "内存"，以便多个核心同时分析该问题。

对以前的CIM芯片的最后润色是在类似大脑的计算。通常是模拟和数字处理之间架起一座更强大的桥梁。在这里，该芯片使用了一个神经元电路，可以轻松地将模拟计算转换为数字信号。作者解释说，这比以前的 "耗电和耗面积 "的设置更进一步。

优化工作取得了成效。为了测试他们的理论，该团队制造了NeuRRAM芯片，并开发了算法，为不同的算法（如运行不同游戏的Play Station 5）进行硬件编程。

在众多的基准测试中，该芯片表现得像个冠军。在芯片上运行一个七层CNN，NeuRRAM在使用流行的MNIST数据库识别手写数字时，错误率不到百分之一。

它在更困难的任务上也表现出色。加载另一个流行的深度神经网络LSTM，该芯片在挑战谷歌语音命令识别时的正确率大约为85%。仅仅使用八个核心，该芯片--在另一个人工智能架构上运行，就能够恢复嘈杂的图像，将错误减少了大约70%。

那又怎样？

一个词：能源。

大多数人工智能算法都是完全的能源消耗大户。NeuRRAM的能耗成本只有以前最先进的RRAM-CIM芯片的一半，进一步将神经形态计算的节能承诺转化为现实。

但这项研究的突出特点是其战略。在设计芯片时，科学家往往需要在效率、多功能性和多个任务的准确性之间取得平衡。这些指标往往是相互矛盾的。当所有的计算都直接在硬件上完成时，这个问题变得更加棘手。NeuRRAM表明，有可能同时与所有野兽作战。

作者说，这里使用的策略可用于优化其他神经形态计算设备，如相变存储器技术。

目前，NeuRRAM是一个概念验证，显示了物理芯片而不是对它的模拟--能按预期工作。但是还有改进的余地，包括进一步扩大RRAM的规模，缩小它的尺寸，以便有一天有可能装进我们的手机。

"也许今天它被用来做简单的人工智能任务，如关键词发现或人类检测，但明天它可以实现一个完全不同的用户体验。想象一下，实时视频分析与语音识别结合在一个微小的设备中，"研究作者韦尔·万（Weier Wan）博士说。"作为一名研究人员和工程师，我的雄心是将研究创新从实验室带入实际使用。"