Nat Commun丨国防科技大学胡德文等团队揭示用于同时编码时空动态的多突触脉冲神经元

脉冲神经网络 (SNN) 因其固有的时间动态特性，在生物学上比人工神经网络更具可行性，计算能力也更强。然而，普通的脉冲神经元难以同时编码输入的时空动态。

2025年8月，CAAI副理事长、国防科技大学胡德文，中国科学院大学李国齐和国防科技大学沈辉共同通讯在

Nature Communications

MSF 神经元通过放电频率联合编码空间强度，通过脉冲时间联合编码时间动态，并将渗漏积分放电 (LIF) 和 ReLU 神经元推广为特例。研究人员推导出替代梯度的最优阈值选择和参数优化标准，从而实现可扩展的基于 MSF 的深度 SNN，且性能不会降低。在各种基准测试中开展的大量实验表明，MSF 神经元在保持低功耗、低延迟和高执行效率的同时，准确率显著优于 LIF 神经元，并且在事件驱动任务中也超越了 ReLU 神经元。总体而言，这项工作推动了神经形态计算向现实世界时空应用的发展。

鉴于当前对开发更自然的人工智能的需求，脉冲神经网络 (SNN) 是一种极具前景的计算范式，其灵感源自生物神经结构。在 SNN 的早期研究中，其性能和规模显著落后于采用连续值激活函数的传统人工神经网络 (ANN)。随着替代梯度方法、学习算法和编码方案的最新进展，SNN 逐渐缩小了与 ANN 的性能差距。尽管由于脉冲神经元丰富的时间动态特性，SNN 在生物学上比 ANN 更具可行性且计算能力更强，但研究人员尚未充分发挥其在实际应用中的优势和潜力，尤其是在时空任务中。

本文揭示，SNN 理论与实践之间的性能差距可能源于普通脉冲神经元在时空编码过程中的严重信息丢失。具体来说，诸如渗漏积分激发 (LIF) 和 Hodgkin-Huxley 之类的神经元或其变体主要侧重于神经元动态建模，假设神经元通过单个突触（即单个通道）连接。由于脉冲神经元中的信息表示为二进制，神经元之间的单通道连接使 SNN 难以同时编码输入信号的时空动态。一方面，普通脉冲神经元可以使用速率编码通过多个时间步的平均发放率来编码空间强度分布，就像在 ANN 到 SNN 的转换算法和直接训练的具有重复输入的 SNN 中一样。然而，这种编码方案牺牲了建模时间动态的能力。另一方面，普通脉冲神经元可以利用时间编码通过精确的脉冲时间来表示输入信号的时间信息，使其非常适合时间计算任务。因此，普通脉冲神经元面临着一个严峻的困境：它们无法同时编码输入信号的空间强度分布和时间动态。

生物大脑可以在短时间内处理丰富的自然感官刺激。例如，人脑可以有效地处理和识别具有不同强度和频率的闪烁灯光和音乐。来自猴子的视觉和听觉皮层的证据也表明，神经元发放中的脉冲计数和脉冲时间都编码视觉和听觉刺激，这表明两种编码方案的结合不仅信息量更大，还有助于减少噪声的影响。此外，海马锥体细胞可以同时使用速率和时间编码来表示两个独立变量。然而，仍然缺乏将两种编码方案的优势整合到一个脉冲神经元模型中以同时编码时空动态的明确研究。最近的连续研究发现了一个重要的生物结构：多突触连接，其中单个轴突在同一个突触后神经元上建立多个突触。这种结构在目前的脉冲神经元模型中被忽视了，但在生物大脑中已被观察到，包括秀丽隐杆线虫、苍蝇、小鼠、大鼠和人类的大脑。虽然这些多突触连接的功能作用仍不清楚，但有人假设它们可能促进对特定刺激的快速或强烈反应。

受生物学观察的启发，本文提出了一种名为多突触放电（MSF）神经元的多突触脉冲神经元，其中一个轴突可以在同一个突触后神经元上建立具有不同放电阈值的多个突触。多阈值的设计受到以下生物学现象的启发：突触前末端的电压门控钙通道表现出不同的激活阈值，这控制着它们打开和介导 Ca2+ 内流的能力，最终触发囊泡神经递质的释放。值得注意的是，MSF神经元是一种受生物启发的计算模型，专为大规模神经形态计算而设计，旨在利用我们从生物体神经元计算研究中学到的节能算法。在MSF神经元中，跨多个突触的瞬时发放率和精确的脉冲时序可以同时编码输入信号的空间强度分布和时间动态，从而实现完全时空编码。

本研究首先表明，MSF 神经元代表了一种通用且详细的神经抽象模型，涵盖了普通的 LIF 神经元和经典的 ReLU 神经元作为其特例，从而揭示了 ANN 和 SNN 之间的潜在关系。然后，研究人员从理论上推导出阈值选择的最优解，并为时间反向传播 (BPTT) 学习下的不同替代梯度函数提供了参数优化准则，使具有 MSF 神经元的 SNN 能够扩展到大型深度模型而不会降低性能。

为了阐明 MSF 神经元的编码机制，研究人员设计了涉及振荡时间信号的信号重建任务，并证明 MSF 神经元可以使用独立的速率和时间编码同时编码输入信号的空间强度分布和时间动态。在静态和动态识别、基于图像和基于事件的物体检测、生物信号处理和强化学习等广泛的基准测试中，MSF 神经元在保持低功耗和低延迟优势的同时，实现了比 LIF 神经元显著的性能提升，并在各个任务中表现出较高的泛化能力。值得注意的是，在时空连续事件流任务中，基于多突触平滑函数 (MSF) 的脉冲神经网络 (SNN) 的性能可以超越具有相同网络结构的基于 ReLU 的人工神经网络 (ANN)。在自动驾驶场景中，基于 MSF 的 SNN 在神经形态硬件上高效执行基于事件的物体检测任务，展现了 MSF 神经元的高执行效率和硬件兼容性。有趣的是，训练模型中的多突触连接稀疏，类似于在人类颞叶皮层 (1 立方毫米) 中观察到的连接；这支持了以下观点：时空编码的分布式计算受益于具有少量强连接和大量弱连接的网络结构，就像在生物网络中观察到的那样。总而言之，这项研究表明，在生物大脑中观察到的多突触连接对于学习时空动态至关重要，从而显著推动了神经形态计算向时空应用的发展。

图1信号重建任务（图源自Nature Communications）

参考消息：https://www.nature.com/articles/s41467-025-62251-6

来源：iNature

【免责声明】转载出于非商业性的教育和科研目的，只为学术新闻信息的传播，版权归原作者所有，如有侵权请立即与我们联系，我们将及时删除。