脑启发计算的基础软件综述

A review of basic software for brain‑inspired computing

脑启发计算基础软件综述‍

https://www.researchgate.net/publication/359266468

摘要
脑启发计算受大脑信息处理过程和生物物理结构的启发，被认为有潜力推动计算机工程的下一轮浪潮，并为下一代人工智能提供一种有前景的方法。脑启发计算的基础软件是实现脑启发计算研究目标和构建脑启发计算应用生态环境的核心环节。本文综述了脑启发计算的三大类基础软件的现状，即神经形态芯片的工具链、软件仿真框架以及将脉冲神经网络（SNN）和深度神经网络（DNN）相结合的框架。随后，我们指出，一个“通用型”的分层且软硬件解耦的基础软件框架将有利于计算神经科学和脑启发智能领域。这里的“通用型”指的是软硬件的解耦，并支持计算机科学与神经科学相关研究的融合。

关键词：脑启发计算、基础软件、神经形态工具链、SNN仿真、软硬件解耦

1 引言
脑启发计算通常用于指代受大脑信息处理过程和生物物理结构启发的计算理论、架构、硬件设计，甚至模型和算法。目前，在神经科学领域，基于脑启发计算的数值仿真已经成为继实验方法和理论方法之后最重要的研究方法之一（Jordan et al. 2018）。在人工智能领域，脑启发计算也被认为是通往下一代人工智能的有前景的路径之一（Marblestone et al. 2016; Hassabis et al. 2017; Pei et al. 2019; Roy et al. 2019; Richards et al. 2019）。此外，脑启发架构设计也是后摩尔定律时代计算机架构的主要发展方向之一（Waldrop 2016）。

脑启发计算的基础软件是实现脑启发计算研究目标和构建脑启发计算应用生态环境的核心环节（Zhang et al. 2020）。脑启发计算的基础软件需要满足这一跨学科领域中各种应用的开发需求，并需要高效驱动各种脑启发计算芯片。

对于神经科学和计算神经科学的研究人员来说，他们关注的脑启发计算基础软件的特性包括：高效且合理地分析和解释实验数据以构建计算神经模型（从单个神经元到大规模神经回路），以及使用生物学上可行的可塑性规则来优化这些模型（脑启发计算的主要计算范式是脉冲神经网络，简称SNN），以便更好地理解和掌握生物智能的基础设施及其底层机制（Zhang and Xu 2021）。

对于脑启发智能应用的研究人员和开发人员来说，他们偏好的优化方法并不局限于生物学上可行的范畴，因此他们关注将当前深度学习领域中有效的技术（例如误差反向传播算法及其变体）集成到脉冲神经网络（SNN）中，这种网络被称为D-SNN（即深度脉冲神经网络），并且重视深度神经网络（DNN）和SNN的混合建模与应用（Pei et al. 2020; Marblestone et al. 2016）。也就是说，他们追求卓越的计算性能和应用智能。

这两种研发人员的共同需求包括方便且准确的神经网络建模与描述，以及高效模拟（或运行）神经网络，从而充分发挥底层硬件的潜力（Brette et al. 2007; Hazan et al. 2018; Yavuz et al. 2016）。同时，他们关注多级抽象和多尺度可塑性的脉冲神经网络优化方法，以便从神经科学的发展中不断获得新的启发，这反过来也有助于更好地理解生物神经系统。

最后但同样重要的是，对于脑启发计算芯片的设计者和开发者来说，脑启发计算的基础软件具有三种作用。首先，作为硬件与应用之间的中间层，基础软件需要尽可能使脑启发硬件的约束对开发者“透明”，从而使硬件能够最大程度地支持各种脑启发计算应用。其次，基础软件面向各种硬件的后端接口应具有灵活性，并充分反映脑启发计算的需求和特性，这是优化和适配各种脑启发芯片的基础。最后，脑启发计算的基础软件可以为硬件设计提供应用的关键和简洁的计算特征、内存访问模式以及时间特征，是脑启发软硬件协同设计的先决条件。

本文的其余部分安排如下：第2节概述了脑启发计算的三种基础软件类型。第3节详细讨论了神经形态芯片及其工具链。第4节介绍了软件仿真框架。第5节展示了将脉冲神经网络（SNN）和深度神经网络（DNN）相结合的新兴工作。最后，在第6节中，我们分析了脑启发计算基础软件的现状和发展预测。

2 脑启发计算的三种基础软件类型
脑启发计算中最广泛使用的计算模型是脉冲神经网络，其主要计算过程如下：首先，需要解决的通常是求解一个微分方程以获得膜电位的当前值。其次，如果膜电位达到阈值电压，神经元将发出一个脉冲，并且如果需要的话，电压将在不应期保持在复位电压。第三，我们需要根据连接主义将发出的脉冲传递到它们的目标突触。最后，接收到脉冲的突触将根据突触模型更新其目标神经元的内部状态。神经元模型定义了膜电位和其他内部状态的动态。存在许多不同类型的神经元模型，例如泄漏积分-发放模型（LIF）（Burkitt 2006）、Izhikevich模型（2003）、Hodgkin和Huxley模型（1990）等（Brette et al. 2007）。不同的模型提供了不同程度的生物学真实性和计算效率。

以传统的LIF模型为例，典型LIF模型的膜电位可以定义为：

对于简单的模型，例如积分发放（IF）模型和某些泄漏积分发放（LIF）变体，我们可以求解膜电位的方程并得到解析解。但对于更复杂的模型，数值方法是必要的。前向欧拉方法（Carnevale和Hines 2006）相对简单且能够提供可接受的精度，被大多数软件和硬件实现所采用。一些软件模拟器甚至使用更复杂的方法，例如后向欧拉方法和Crank–Nicholson方法（Carnevale和Hines 2006），以提供更准确和稳定的数值解。

求解膜电位的动态方程（包括计算输入电流）通常既复杂又耗时。此外，由于脉冲的稀疏性，整个过程中的计算通常是稀疏的、事件驱动的，并且可能具有不规则的内存访问模式。因此，提出了几种专用的软硬件实现来高效地模拟脉冲神经网络（SNN）。

根据不同的开发来源和路径，脑启发计算的基础软件可以分为三类（见图1）：

第一类是开发神经形态芯片并为其提供自己的软件工具链，包括IBM的TrueNorth芯片（Akopyan等，2015）、英特尔的Loihi芯片（Davies等，2018）、SpiNNaker（Brown等，2018）以及BrainScaleS系统（Schemmel等，2012）（两者均得到“人类大脑计划”支持），还有斯坦福大学的NeuroGrid（Benjamin等，2014）等。

这类研究通常采用端到端的软硬件协同设计解决方案，使得工具链甚至应用模型专门针对目标芯片。此外，已经有新兴的研究尝试通过构建连接软件和硬件的“通用型”领域特定语言或开发框架来避免局限于某种特定芯片（Zhang等，2020；Davison等，2009；Richmond等，2014；Aimone等，2019a, b；Lagorce和Ryad，2015）。这类研究通常处于设计的早期阶段；由于许多问题尚未解决，缺乏对实际芯片的通用支持。

第二类是源自计算神经科学领域的脉冲神经网络（SNN）模拟框架，其目标是理解生物系统，包括NEST（Gewaltig和Diesmann，2007）、NEURON（Carnevale和Hines，2006）、Brain2（Stimberg等，2014）、GeNN（Yavuz等，2016）等。

这类工作的特点是支持描述更详细的神经元活动动态过程，支持多种突触模型和多种突触可塑性，从而能够详细模拟生物神经网络，但这也要求用户具备一定程度的计算神经科学基础。与深度学习领域广泛使用的开发框架相比，其使用更为复杂：这些框架通常用C语言开发，缺乏跨平台能力；它们缺乏对各种后端硬件的深入优化支持，包括在数值模拟中广泛使用的通用图形处理单元（GPGPU）（Qu等，2020）。

第三类是近年来出现的将SNN的表示/计算特性整合到广泛使用的深度学习开发框架中的工作（Hazan等，2018；Pehle和Pedersen，2021；Mozafari等，2019）。这类工作的主要受众是脑启发智能应用开发人员，其目的是将深度学习框架开发的便利性（包括BP算法及其变体）与SNN的特性相结合，并充分利用深度学习领域的各种资源（Paszke等，2019）。

这类工作目前仍处于初级阶段，从功能增强和性能优化的角度扩展深度学习框架还有很长的路要走。一些研究（Gidon et al. 2020; Li et al. 2020）发现，生物神经元中的详细结构（例如树突）不仅仅是用于连接，它们还可以执行运算，即神经元本身可能也是一个多层网络。这需要构建突触的精细动态模型的能力，而这对现有基于张量和张量计算的框架建模方法来说是一个潜在的挑战。此外，现有的深度学习框架的后端（包括神经网络编译器（Chen et al. 2018））通常是为深度学习加速芯片设计的，它们是否适用于脑启发芯片仍是一个有待解决的问题。

3 神经形态芯片及其工具链

为了充分发挥脑启发计算的计算能力，已经提出了许多神经形态芯片（Akopyan et al. 2015; Davies et al. 2018; Brown et al. 2018; Schemmel et al. 2012; Benjamin et al. 2014; Neckar et al. 2019; Pei et al. 2019），并且其中大多数也提供了自己的软件工具链（Amir et al. 2013; Lin et al. 2018; Rhodes et al. 2018; Müller et al. 2020; Deng et al. 2020）。

TrueNorth（Akopyan et al. 2015）是由IBM生产的同步与异步混合的全数字神经形态芯片。它包含5.4亿个晶体管，提供4096个神经突触核心，每个核心包含256个神经元和6.4万个突触。它总共可以支持约100万个神经元和2.56亿个突触。该芯片的峰值计算性能为580亿次突触操作每秒（GSOPS），峰值计算功耗为400 GSOPS/W。TrueNorth使用的神经元模型是一个简化的泄漏积分发放（LIF）模型（Cassidy et al. 2013）。为了充分发挥TrueNorth的潜力，IBM开发了一系列专用工具。其中最重要的工具是Compass（Preissl et al. 2012），这是TrueNorth架构的模拟器，以及Corelet（Amir et al. 2013），这是一种新的编程范式，包括程序抽象、面向对象的语言、库和端到端的编程环境。这些工具使得可以直接使用TrueNorth的模型和连接模式进行编程，并且可以将程序编译并映射到芯片上。

Loihi（Davies et al. 2018）是英特尔生产的异步神经形态芯片，支持突触可塑性策略。它提供了诸如层次化连接、树突区域、突触延迟、可编程突触学习规则等重要特性。Loihi是一个类似网格的多核脉冲神经网络处理器，每片芯片包含128个神经形态核心、3个X86处理器核心、用于扩展的片外接口以及用于消息传输的异步片上网络。它总共包含20.7亿个晶体管和33MB的SRAM。每个神经形态核心可以通过时间分割复用模拟1024个神经部分（树突或胞体）。英特尔实验室还提供了Loihi工具链（Lin et al. 2018），它由三部分组成：用于指定SNN的直观基于Python的API、编译器以及用于在Loihi和几个目标平台（Loihi芯片、FPGA和功能模拟器）上构建和执行SNN的运行时环境。

SpiNNaker（脉冲神经网络架构）（Brown et al. 2018）是一个大规模并行计算平台，旨在实时模拟大规模脉冲神经网络。它计划使用65536个MPSoC（多处理器系统芯片）芯片（总共1179648个处理器）来模拟10亿个神经元和1万亿个突触。MPSoC芯片采用GALS（全局异步局部同步）设计方案，每个芯片集成了18个同构的ARM968整数处理器核心、路由器、DMA控制器以及其他外设。由于其计算由ARM核心完成，因此提出了几种软件包，以帮助模拟其他软件中描述的模型，例如用于PyNN（Davison et al. 2009）的SPyNNaker（Rhodes et al. 2018）和用于Nengo（Bekolay et al. 2014）的nengo_spinnaker2。

除了这些使用纯数字电路的神经形态芯片外，许多设计还尝试利用模拟电路来实现更高的能效、更好的集成度和更多的并行性。

BrainScaleS（脑启发神经形态混合系统的多尺度计算）（Schemmel et al. 2012）是FACETS项目的继承者。其硬件系统是一个晶圆级系统，由BWS（BrainScaleS晶圆级系统）和基于分组的多用途通信系统组成。BWS由384个互联的数字-模拟混合ASIC组成，名为HICANN（高输入计数模拟神经网络芯片）。每个HICANN提供256×2的神经阵列和两个256×224的突触阵列。提供了一个专用的软件栈，名为BrainScaleS操作系统（Müller et al. 2020），以支持PyNN接口。因此，BrainScaleS可以与软件模拟器共享相同的编程接口。

Neurogrid（Benjamin et al. 2014）是一个用于模拟大规模神经模型的神经形态计算系统。它是一个数字/模拟混合系统，使用模拟电路进行信息处理，使用数字电路进行信息传输。通过集成16个NeuroCore芯片，每个芯片包含256×256的神经元阵列，Neurogrid系统能够在实时中模拟由100万个神经元和60亿个突触组成的脉冲神经网络（SNN）。Neurogrid系统配备了一个专用的软件栈，由用户界面（UI）、硬件抽象层（HAL）和驱动组件（Driver）组成。UI帮助用户定义SNN的模型，HAL将模型描述映射到电路，驱动程序将映射加载到Neurocores。

Braindrop（Neckar et al. 2019）是另一种混合信号神经形态系统，其设计目标是支持高级抽象编程。在Braindrop中，核心配备了4096个神经元、64KB的权重存储器、1024个累加器桶和1024个突触滤波器。

Braindrop还提供了一个后端软件，其计算对象与硬件近乎同构，以支持Nengo（Bekolay et al. 2014）软件。

与国外研究相比，国内的神经形态芯片研究起步稍晚，但发展迅速。天机芯（Pei et al. 2019）是由清华大学脑启发计算研究中心提出的一种混合异构神经形态芯片，能够同时容纳脉冲神经网络（SNN）和深度神经网络（DNN）。天机芯采用多核架构，其基本单元是多模态神经计算核心。每个核心包含256个神经元，整个芯片大约包含4000个神经元和1000万个突触。对于DNN，天机芯能够实现约1.3TFLOPS的计算能力。天机芯还提供了一个统一的模型描述框架以覆盖软件栈（Deng et al. 2020）。

达尔文鼠4号是浙江大学构建的另一种脑启发计算机，配备了792个达尔文II神经形态协处理器（Ma et al. 2017），能够模拟并支持接近1.2亿个神经元和1000亿个突触。

此外，许多研究人员（Prezioso et al. 2015; Snider et al. 2011; Yu et al. 2011; Jackson et al. 2013; Yao et al. 2020）正在尝试利用新兴的非易失性存储技术（例如忆阻器）来辅助神经形态芯片的发展。其中一些研究（Prezioso et al. 2015）甚至尝试直接用忆阻器模拟神经元和突触。然而，这些研究仍处于非常早期的阶段，通常没有提供复杂的软件栈。

总的来说，大多数神经形态芯片设计通常都配备了一个端到端的软件工具链，或者是软硬件协同设计的解决方案。因此，这类软件与硬件紧密结合，通常很难使其适用于多种神经形态芯片。

4 软件仿真框架

除了神经形态芯片之外，还有许多软件尝试在传统计算机上模拟脑启发计算的过程（Carnevale和Hines 2006；Gewaltig和Diesmann 2007；Mureşan和Ignat 2004；Stimberg等 2014；Wilson等 1988；Yavuz等 2016；Qu等 2020），这些软件作为计算神经科学领域的重要仿真工具。

NEURON模拟环境（Carnevale和Hines 2006）是一个灵活且强大的模拟器，用于模拟单个神经元和神经元网络的模型。它提供了方便构建、管理和使用模型的工具。与许多其他模拟器不同，NEURON采用后向欧拉方法和Crank–Nicholson方法（Carnevale和Hines 2006），而不是前向欧拉方法，以实现更高的精度和稳定性。它可以模拟从离子通道到分支树突结构中电信号传播的丰富且详细的神经元行为。

NEST（Gewaltig和Diesmann 2007）是一个用于脉冲神经网络模型的模拟器。NEST支持具有不同生物学细节水平的神经元和突触模型，专注于生物系统的动态、规模和结构。NEST提供了50多种神经元模型和10多种突触模型，包括典型的Izhikevich和Hodgkin-Huxley神经元模型，以及不同的突触可塑性（STDP）模型变体。NEST在定义神经网络方面非常灵活，并提供了方便有效的命令，允许用户在模拟过程中随时检查和修改神经元和连接状态。NEST使用C++实现，并提供了一个名为PyNEST的Python接口。NEST能够高效地从单核笔记本电脑扩展到多节点超级计算机。NEST拥有一个大规模的开发者社区，其中许多示例被共享以帮助用户构建自己的模拟项目。

Brian2（Stimberg等，2014）是一个用于SNN模拟的工具，旨在应用于神经形态计算。Brian2使用Python编写，易于用户学习和开发。Brian2灵活且易于扩展，方便用户使用微分方程定义神经元和突触模型以及模拟方法。Brian2采用其自身的通用描述方法，能够为不同平台生成代码而无需修改核心代码，增强了适应性和可扩展性。

GeNN（Yavuz等，2016）是一个用于SNN模拟的软件工具包。GeNN通过代码生成将不同描述的神经元模拟转换为统一的C++代码，并生成与NVIDIA GPU连接的C++可执行文件。GeNN支持SpineML（Richmond等，2014）、Python（PyGeNN）（Knight等，2021）和Brian2（Brian2GeNN）（Stimberg等，2020）接口。代码生成还使GeNN能够支持Linux、Mac OS X和Windows等不同平台。GeNN主要优化了大规模神经网络的性能，并显著提高了模拟速度。尽管代码生成限制了模拟的灵活性（网络结构无法在运行时调整），但这些方法增强了整体执行性能和效率。

BSIM（Qu等，2020）是一个启用GPGPU的SNN模拟器，专注于性能。它提出了许多优化方法，充分利用了SNN的固有特性，并与其他模拟器相比达到了更好的性能。它还支持广泛使用的PyNN接口（Davison等，2009）。

软件模拟框架在脑启发计算领域发挥着重要作用，但它们是为商业硬件（如CPU和GPU）设计的，通常不支持不同类型的神经形态芯片。

5 融合脉冲神经网络（SNN）和深度神经网络（DNN）的框架

随着深度学习的快速发展，越来越多的研究尝试结合神经科学和计算机领域的思想以取得进一步的突破（Hazan et al. 2018; Pei et al. 2019）。因此，许多软件研究被提出以融合SNN和DNN。

BindsNET（Hazan et al. 2018）是一个用于实现机器学习和强化学习任务的SNN框架。BindsNET基于PyTorch框架开发，支持在CPU和GPU上运行SNN机器学习应用。与专注于生物学完整性的SNN网络模拟器不同，BindsNET简化并抽象了神经操作，采用用户友好且简洁的语法编码，使用户能够快速使用和开发自己的生物启发算法。BindsNET能够解决大规模机器学习问题，适合快速原型开发。BindsNET的缺点在于无法实现复杂网络，且缺乏对延迟突触的支持。

Norse（Pehle和Pedersen 2021）是一个专注于深度学习的SNN框架。Norse基于生物神经网络的稀疏性和事件驱动特性开发，旨在解决冯·诺依曼瓶颈，优化计算速度并提高能效。Norse基于PyTorch框架实现，并实现了许多神经元和突触模型。此外，Norse还集成了多种编码和解码算法、数据集整合以及特定示例以支持深度学习应用。Norse能够轻松从笔记本电脑扩展到高性能计算（HPC）集群的多个节点。

SpyTorch提出了替代梯度方法SuperSpike，用于解决SNN深度学习中的训练问题。突触可塑性是SNN学习过程的核心部分，但这一过程难以通过传统深度学习方法中的梯度计算来解决。SpyTorch提出了一种名为SuperSpike的新梯度计算方法，能够将SNN中突触的脉冲转化为更平滑的曲线，并将神经形态计算与机器学习相结合，从而降低学习成本并提高模拟效率。

SpikingJelly是一个基于PyTorch的框架，使用脉冲神经网络进行深度学习。SpikingJelly框架支持时钟驱动和事件驱动。在时钟驱动层面，SpikingJelly采用替代梯度方法来替代脉冲函数的梯度。SpikingJelly将脉冲神经元视为激活函数，并将其嵌入由PyTorch构建的网络中。在事件驱动层面，神经元的状态通过事件更新。不同神经元的活动可以异步计算，无需保持时钟同步。SpikingJelly通过实现Tempotron神经元实现了事件驱动。SpikingJelly提供了多个深度学习示例，包括MNIST、编码器、从ANN到SNN的转换、LSTM等。

SpykeTorch（Mozafari et al. 2019）是一个基于PyTorch的卷积脉冲神经网络模拟器，支持基于脉冲时间的可塑性（STDP）和奖励调制的STDP学习规则。SpykeTorch模块继承自PyTorch模块，它用张量计算替代了传统的单个神经元计算，便于在GPU上进行神经网络模拟。SpykeTorch专注于STDP的模拟和实现，并提供了多个示例以帮助理解STDP机制和模拟过程。

这些框架通常处于积极开发中，尚未稳定到足以适应不同的软硬件接口。

6 现状分析与发展预测

脑启发计算的基础软件发展迅速，但仍存在不少不足之处。尽管有观点认为硬件专用接口开始趋于稳定（Aimone et al. 2019a, b），但现有的基础软件设计要么与硬件紧密结合，要么不够“通用”，难以轻松支持多种软硬件接口。因此，其现状无法满足快速发展的跨学科需求。我们认为，需要一个“通用型”的分层且软硬件解耦的基础软件框架（Zhang et al. 2021）来克服上述问题。“通用型”在这里有两层含义：

第一，软件与硬件的解耦。
传统计算机被称为通用计算机，因为它们基于图灵完备性理论。图灵完备性确保了任何用编程语言编写的程序都可以转换为任何图灵完备处理器上的等效指令序列（这一过程被称为“编译”）。也就是说，所有可计算问题（图灵可计算性）都可以得到支持，因此它们是“通用的”，这也确保了传统计算机软件与硬件的解耦特性。受此启发，一些研究工作（Zhang et al. 2020）提出了“神经形态完备性”，理论上确保任何图灵可计算函数都可以转换为神经形态完备硬件上的模型，从而实现脑启发计算软件和硬件的独立发展（即实现软件与硬件的解耦）。通过这种方式，由软件层、编译层和硬件层组成的脑启发计算系统层次结构可以确保应用、基础软件、原语集和硬件设计在独立发展的同时保持相互兼容。

第二，支持计算机科学与神经科学相关研究融合的基础软件平台。
从深度学习的发展历史来看，深度神经网络（DNN）的蓬勃发展和应用扩展在很大程度上起源于神经网络的第二次兴起。其中一个关键技术突破是1986年提出的用于多层感知器的BP算法。
此后，随着以GPGPU为代表的高性能计算平台的出现（包括相应的编程模型和环境，例如CUDA）以及以Tensorflow（Abadi et al. 2016）/PyTorch（Paszke et al. 2019）为代表的机器学习框架的发展，深度学习研究与开发有了统一且高效的平台，极大地吸引了众多开发者（包括许多非计算机专业人员），并为大量创新算法、模型和应用的提出与发展奠定了基础。

如今，在神经科学领域，已经积累了大量与大脑环路/活动相关的实验数据，这激发了对生物物理大规模网络模型开发的研究热情。进一步地，将生物神经活动与特定智能行为相结合的研究方法是通往下一代人工智能的关键路径之一。然而，脑启发计算缺乏像深度学习领域那样的基础平台，包括一个能够同时支持计算机科学与神经科学相关研究融合的统一平台。

尽管脑启发计算芯片的微架构与传统通用处理器大相径庭，但借鉴传统计算机系统和深度学习的成功开发经验，在分层和解耦的技术路线上开发通用脑启发计算软件仍具有极其重要的意义。

原文链接：https://www.researchgate.net/publication/359266468