认知地图的规范计算模型实现

Binding in hippocampal-entorhinal circuits enables compositionality in

cognitive maps

摘要

我们提出了一个海马形成的空间表征的规范模型，该模型结合了最优性原则，例如最大化编码范围和每个神经元的空间信息，以及分布式表示中计算的代数框架。空间位置是在剩余数系统中编码的，个别残差由高维复数值向量表示。这些向量通过一种相似性保持的、联合的向量绑定操作组合成一个表示位置的单一向量。整体位置的表示和个别残差的表示之间的自洽性是通过一个模块吸引子网络来强制执行的，该网络的模块对应于外嗅皮层的网格细胞模块。向量绑定操作还可以将不同的上下文与空间表示关联起来，从而产生一个对外嗅皮层和海马的模型。

我们展示了该模型实现了包括模式与维度的超线性扩展、鲁棒错误校正以及空间位置的六角形、无进位编码在内的规范性要求。这些属性进而使得路径整合和与感觉输入的关联变得鲁棒。更一般地说，该模型形式化了海马形成中如何进行组合计算，并导致了可测试的实验预测。

1 引言

海马形成（HF hippocampal formation），由海马（HC hippocampus）和邻近的内嗅皮层（MEC）和外嗅皮层（LEC）的内侧和外侧部分组成，对于形成记忆和表示如空间位置等变量至关重要[1, 2]。最近的研究提供了HF表征中组合结构的证据，例如在重放中发生的过去经验的新重组[3]，或者网格细胞编码的指数级表达力[4, 5]。特别是，组合表征在降低维度存储需求的同时提供了高表达力[6]，在潜在状态推断中的复杂性较低，并且能够泛化到具有熟悉部分的新场景。

为了深入了解HF中可能的计算原理和神经机制，我们采取了规范建模方法。也就是说，我们寻求一组神经编码原则，这些原则能够有效地实现系统的假定功能。通过这种方法，我们随后可以解释神经解剖学和神经生理学结构的细节，以了解它们对信息处理目标的特定贡献。我们相信，由此产生的模型还可以引导出关于使这种功能得以实现的神经机制的新预测。

海马形成（HF）假定的功能——作为认知地图和情景记忆——有一个核心的计算需求，即表示和导航空间。这里的空间可以是实际的物理环境，也可以是更抽象的概念空间。我们为有效的空间表示制定了多个理想条件。然后我们展示了一个剩余数系统，纳入到组合编码方案中，满足了这些理想条件。这是通过一个模块吸引子网络实现的，该网络分解编码位置的各个组成部分。这提供了海马-外嗅皮层相互作用的算法级假设。这种算法的核心机制是绑定binding，它从神经科学、认知科学和人工智能的研究中汲取灵感。

2 海马的规范模型

2.1 表示空间的原则

我们第一组规范要求是空间由一个组合代码表示，该代码具有高空间分辨率，抗噪声能力强，并且可以并行更新组件上的代数运算。先前的工作[4, 5]提出剩余数系统（RNS residue number system）[7]作为满足这些要求的候选方案。RNS以相对于一组互质模数{mi}的余数来表示整数x。例如，相对于模数{3, 5, 7}，x = 40被编码为{1, 0, 5}。中国剩余定理Chinese Remainder Theorem 保证了在范围[0, M − 1]内的所有整数，其中 M = ∏i mi，都被赋予了唯一的表示。RNS提供了高空间分辨率，无进位的算术运算，以及鲁棒的错误校正[8]。在外嗅皮层的实验观察显示，空间网格细胞具有离散的多尺度组织[9]，这与组织成离散的RNS模块相兼容。

在这里，我们稍微滥用了符号，也把看作是一个函数，它以 作为输入，并产生如上所述的嵌入。复数值向量可以通过随机傅里叶变换（图6D和S2）映射到可解释的群体向量。

我们的第三个规范原则涉及到如何从个别残差表示中形成空间中特定点的唯一表示。这要求我们以某种方式组合每个模数的残差向量。通过串联组合虽然简单，但并不有效，因为残差表示在子集上一致的代码将是相似的，即使编码的值非常不同。因此，组合残差代码的方法必须是conjunctive的。conjunctive组合通常称为绑定，它在神经科学[12]、认知科学[13]和机器学习[14]中具有根本的重要性。绑定的一个早期提议是表示向量的张量积[15]，张量阶等于绑定对象的数量。

在这里，我们通过分量级向量乘法component-wise vector multiplication 来实现绑定，这是一种保持维度的操作，代表了完整张量积的有损压缩[16, 17]。使用K个模数的RNS表示法，表示整数x ∈ Z的组合向量表示为：{a1, a2, ..., aK}，是：

我们在附录A.1中证明了这种编码方案使用几乎正交的向量表示不同的整数状态，并且它以自然的方式泛化，以相似性保持的方式支持任意实数的表示。

公式2表示沿直线的单个点。然而，一般来说，空间表示涉及二维或三维空间中的点。方便的是，向量绑定也可以用来从表示各个维度的向量组成多维晶格的表示。正如我们将解释的，这种组合中仍然有选择，这决定了结果的晶格结构。遵循早期的提议[18-20]，

我们的第四个规范原则是选择晶格结构，以最大化空间信息，如第3.5节所述。

我们要求的最后一个规范原则是，对于路径整合等计算，应该有简单的向量操作，使得编码变量的加法成为可能。再次，由于以下属性，向量绑定在我们的编码策略中提供了这一功能：

2.2 用于空间表示的模块吸引子网络

网格细胞电路的标准模型是线吸引子，其中代表一致位置的状态位于低能量流形上[4]。当从嘈杂的位置模式初始化时，电路动态将生成去噪的位置表示。我们不是为整个表示空间（公式2）形成一个线吸引子模型，而是提出一个模块化网络架构，以便残差数表示的组合结构可以扩展到更大的范围，同时减少内存资源（第3.2节），并具有抗噪声性（第3.3节）。

我们的吸引子网络模型的起点是Hopfield网络，它通过将记忆模式存储为固定点吸引子来充当联想记忆。Rademacher-Hopfield网络[21] 是一个动态系统，其状态是一个向量，它遵循以下动态：

2.3 将模型映射到HF

尽管我们规范模型的组成部分如何映射到HF的解剖结构并不明显，我们提出了一个建议，如图1所示。残差表示的记忆网络对应于MEC中的网格模块。与网格模块类似，可以在架构中添加一个上下文模块，例如特定环境身份的标签，具有不同环境标签的递归突触C存储。

上下文神经元可能对应于非网格外嗅细胞，它们可以包含有关环境的局部、非空间信息[26]。向量可以与海马中的位置细胞相连。内部HC电路可以像方程(6)中那样缓冲输入，或者根据MEC输入动态更新（第4.1节）。HC和MEC网格模块之间的相互交互需要这些结构之间的投射。根据方程(6)，这些交互涉及的绑定操作被假设由HC和MEC神经元树突输入之间的非线性交互实现。

模型还假定感觉线索能够提供认知地图的初始化信号，如图1中的s所示。为了完整性，我们做出基本假设，即大脑形成了异联想记忆，将感觉线索与位置细胞表示p联系起来（第4.2节）。这个过程将要求系统生成一个新的上下文向量c，并将认知地图初始化到默认位置，以便学习新环境。

我们展示了即使通过一个简单的异联想机制，我们的模块吸引子网络也可以鲁棒地检索感觉记忆，甚至保护其组合结构。

3 模型的编码属性

3.1 RNS表示具有指数级编码范围

组合RNS向量表示法方程(2)可以使用表示各个模块残差的n个组件模式来编码M个值的编码范围。编码范围的扩展在模数的数量K上是指数级的，因为如果每个模块有O(m)个模式，并且满足互质条件，编码范围的扩展就是O(mK)。这恢复了[4, 27]中论证的表达力。

更一般地说，它也是组件模式数量n的指数级。最优编码范围由将n划分为一组正数{mi}的最佳方式给出。这种优化与在置换群Sn中找到元素的最大阶数相同，因为最大阶数可以通过找到最长的循环来找到。这个值在n上的扩展特征由Landau函数f(n)描述，已知当n → ∞时，它收敛到exp [28]。图2A说明了Landau函数是如何成为任何固定模数(K)可实现的上限的。

尽管其他类型的表示也可以实现指数级的编码范围，但方程(2)的组合编码的优势在于绑定操作实现了无进位的向量加法（我们的第四原则）。这使得编码值的更新不需要进一步的转换，如解码，从而方便了路径整合等任务（第4.1节，附录C.3）。相比之下，二进制表示虽然具有指数级的编码范围，但需要进行进位操作来实现。

3.2 模块吸引子网络具有超线性编码范围

RNS表示的指数级扩展是获得具有大型编码范围的吸引子网络的先决条件，该网络必须对这种表示进行计算，如输入去噪、工作记忆和路径整合。为了估计所提出的吸引子网络（方程6）的编码范围扩展，我们研究了网格模块以高概率收敛的关键维度。具体来说，我们通过实验估计了在给定最大迭代次数的情况下，检索任意RNS表示所需的最小维度（图2B）。值得注意的是，我们发现可以存储的组件模式数量n在模式维度D上是超线性的；经验上为，其中α ≥ 1。对于2、3和4个模数，α分别约为2.05、1.45和1.23（图2C）。

注意，虽然对于RNS表示，编码范围随着模数（K）的增加而增加，但对于模块吸引子网络来说，超线性扩展系数αK随着K的增加而减少，在最小值K = 2时达到最大的超线性。这种逆转是由于增加K减少了突触数量，即吸引子网络中的内存资源。

3.3 鲁棒错误校正

此外，我们评估了我们的吸引子模型对噪声的鲁棒性。由于RNS表示由相位组成，这些是循环变量，我们从具有两个参数的冯米塞斯分布中采样噪声：均值（µ = 0）和浓度模式κ（图3A）。较高的κ值意味着噪声较小；对于大κ值，该分布在方差为1/κ的情况下近似为高斯分布。

我们考虑了三种情况：有噪声的输入模式、每个时间步添加的噪声，以及在Gi中模式的权重噪声腐败（附录B.2）。回忆的实证准确性因应用的腐败类型而异（图3A）。我们发现，对于给定的维度D（在这种情况下，1024），增加噪声会降低可以高精度解码的最大编码范围（图3B-D）。对于固定的噪声水平，输入噪声的高精度编码范围最大，其次是更新噪声和码本噪声。考虑到添加到每个存储模式中的噪声会在动态中累积，码本噪声具有最差的编码范围，这或许并不令人惊讶。

幸运的是，已证实的对输入噪声的鲁棒性使得感觉模式可以通过异联想（第4.2节）进行去噪。

3.4 模式间的插值实现连续路径整合

通常，点吸引子和线吸引子之间存在明显的区别。在我们的吸引子模型中，整数值的RNS表示被存储为离散的固定点。尽管如此，吸引子网络也收敛于表示非整数值的状态，这些状态没有被显式存储。换句话说，网络平滑地插值到表示由(2)编码的整数和非整数值的状态流形上的点；图4A提供了一个可视化，显示由内积操作诱导的核心对于小于1的整数位移保留了分级相似性。这个核心使得模块吸引子网络能够稳定到对应于整数插值的固定点，并且可以解码小于1的位置。

解码的分辨率基本上受到信噪比的限制。即便如此，我们发现，在固定的噪声水平下，整数解码和小于1的整数解码的准确性范围是一致的。这个属性使得小于1的位移可以在网络状态内编码，正如我们将要展示的，这导致了稳定的错误校正路径整合（第4.1节）。我们以可以从向量中平均重建的信息量比特来量化精度的增益（图4D，附录B.2）。值得注意的是，即使是κ=8的适度噪声水平，也足以实现与无噪声情况几乎相同的信息内容。

3.5 二维空间中三角形框架最大化空间信息

在二维开放场环境中，网格细胞的放电场以六边形晶格排列[29]。理论神经科学的研究表明，这种晶格在二维环境中的空间信息方面是最优的[18-20]。然而，六边形放电场的存在对于剩余数系统提出了一个谜题。尽管RNS的一个关键属性是无进位属性，但在非笛卡尔坐标系统中，大多数RNS实现不会在模块内执行无进位更新。这通常发生是因为由于非正交性，不同坐标的更新必须相互作用。

我们通过展示如何在一个三角形的“奔驰”框架中实现多坐标的向量绑定版本来解决这个问题，这使得能够进行无进位的六边形编码。此外，我们为R²中三角形框架的最优性提供了一个组合论证。（一个框架是一个向量空间的生成集，其中的基向量不必线性独立。）我们的论证依赖于残数的组合数学，因此首次给出了为什么剩余数系统（RNS）和六边形代码的共存是最优的解释。

形成二维位置的六边形铺砌需要两个步骤：首先，投影到一个三坐标框架中，其次，选择相位使得沿着所有三个框架的同时、等距离移动能够抵消（附录A.3）。图5A展示了不同状态的Voronoi镶嵌。这种编码方式在离散状态的数量上提供了更高的空间分辨率：对于三角形框架是，而对于笛卡尔框架是。这种增加的表达力导致了更高的熵）空间编码（图5B）。它还导致了周期性的六边形核心以及个体网格响应场以六边形晶格排列（图6C）。

之前的模型通过圆形对称的接收场（例如，[30, 31]）实现六边形晶格，这些接收场排列在周期性的矩形片上，或者通过扭曲正方形晶格变成斜晶格（例如，[32, 33]）。重要的是，斜晶格具有与正方形网格相同的组合复杂性，并且与上述构造不同，它们没有达到相同的空间分辨率（图5B）。

4 测试模型的功能

4.1 鲁棒路径整合

鉴于吸引子模型能够根据速度输入更新其位置表示，并且能够表示连续空间，我们评估其在噪声存在的情况下执行路径整合的能力。我们根据一个统计模型模拟轨迹，该模型用于生成在竞技场中合理的啮齿动物运动[34, 35]，我们分别根据方程7和方程8更新网格细胞和位置细胞状态向量。

为了评估模型对错误的鲁棒性（附录B.3），我们考虑了外部噪声（例如，速度信息的错误表示）和内部噪声（例如，由于权重更新中的噪声）的来源。通过比较不通过MEC模块校正获得的估计轨迹，我们测试了模型对内部噪声的鲁棒性（图6A和6B）。我们发现，我们的模型大大限制了沿轨迹的噪声累积，并允许在更长时间内高度准确地进行整合（图6A）。与我们之前关于噪声鲁棒性的实验（图3）一致，我们发现对内部噪声有很强的鲁棒性，而外部噪声会导致估计位置的逐渐漂移。

我们可视化了不同模块中的响应场，并发现具有模块依赖性缩放的六边形晶格（图6C，附录4.1）。此外，我们展示了与外部线索（例如，视觉输入）的锚定可以显著提高吸引子网络的准确性。为了研究这一点，我们将视觉线索与相应的区域相关联（见第4.2节），并观察到来自感觉视觉输入的信息整合成功地纠正了由于外部噪声引起的漂移（图6D）。

4.2 通过异联想记忆去噪感觉状态

最后，我们描述了我们模型的一个简单扩展，其中感觉模式从外侧嗅皮层（LEC）传入以更新海马状态。这与记忆理论一致，认为LEC为海马提供了体验内容[36]，以及神经解剖学证据[37]。尽管这些感觉模式的表示结构未知，但理论上认为HF对感觉模式完成至关重要[38]。

与这一功能一致，最近的工作[32, 39]提出，一个异联想框架将感觉模式连接到海马活动，允许对感觉状态进行鲁棒去噪。虽然我们规范模型的主要关注点不是感觉去噪，但我们展示了我们模型的一个简单扩展（附录B.4）即使在高度腐败的情况下也能鲁棒地检索嘈杂的模式（图7A和B）。在附录C.3中，我们还讨论了这种泛化能力如何作为序列检索的模型，展示了一些初步实验。

除了对单个模式进行鲁棒去噪外，我们的模型还非常适合处理感觉模式的组合。值得强调的有两种情况：首先，我们通常可以分离对应于模式总和的多个感觉状态，因为网格模块之间绑定的组合结构“保护”了求和中的物品（图7C）。这使我们的模型与其他异联想记忆不同，在其他异联想记忆中，模式的总和会有多个同样有效但不兼容的解码。其次，上下文向量模块允许为不同环境保留不同的感觉信息（图S3）。

5 讨论

我们提出了一个海马形成在哺乳动物大脑中认知地图的规范模型。该模型的核心原则是一种组合空间表示，通过紧凑的多模块吸引子网络实现了超线性编码范围。向量绑定的组合机制提供了对多个空间维度的泛化、情境化和路径整合。这种绑定机制建立在超维计算和向量符号架构领域先前工作的基础上[11, 17, 40–42]，并超越了它，发展了关于HF中结构化操作的具体算法假设。我们的分析和实验证实，该模型能够实现海马形成的重要功能，并解释了实验观察结果，如六角形网格细胞、位置细胞和重映射现象。

所提出的模型为有关剩余数系统[4, 5]、网格细胞的连续吸引子网络模型[4, 30, 43]以及二维中六角形表示的最优性[19, 27]的理论神经科学现有工作做出了贡献，并从中获得了巨大好处。生物学将网格细胞组织成多个离散模块，而不是将所有资源集中到单一模块吸引子网络中，这仍然是一件有趣的事情。这个难题为规范模型提供了解释网格细胞组织成多个模块的机会。最近的工作集中在协调多个模块中表示的问题上[32, 33, 44–46]，而对HF的大规模记录[47]可能为评估这些不同想法的预测提供新的机会。

我们的方法是从空间编码的原则出发，特别是组合性的要求。这种策略与人工神经网络中出现的位置和网格细胞的研究相辅相成，但有所不同（例如，[35, 48–55]）。这些方法在模型假设下展示了生物学响应特征的最优性，例如ANN属性、网络架构、训练目标和协议。在这里，我们强调了乘法绑定的作用，这通常在ANN设置中很难出现。实现联合绑定的早期建议已经超越了ANN框架[11, 15]。ANN的简单扩展是sigma-pi神经元[56, 57]，它们可以实现向量绑定[58]。最近的工作强调了完整的联合绑定将是一个有用的归纳偏差，以增强深度学习架构[59]，并提出了各种具有专用绑定机制的ANN增强方案[14, 60–62]。

我们的模型有明显的局限性。我们的认知地图吸引子模型仍然是海马形成中尖峰神经回路的高级抽象。特别是，模型中的相量状态是从描述神经群体活动的向量中经过一个线性变换得到的。因此，模型与神经生物学机制之间的映射并不直接，这个缺点可以通过转换到其他编码方案来解决，例如稀疏实向量或复向量，例如[63]，已经提出了联合绑定操作[64]。尽管模型比通常只关注单一计算的典型规范模型更为全面，但它远未涵盖海马形成中观察到的许多其他功能性细胞类型或重映射期间观察到的情境调节。此外，当前模型仅在异联想投影到LEC中包含学习。HF中的大多数可塑性观察结果没有被捕获，即来自奖励的信号或资格痕迹。最后，我们对来自感觉通路的HF输入的假设相当简化，主要旨在作为概念验证。

模型的目的是表达组合认知地图的基本原理，允许可测试的预测：首先，在生物物理层面，模型预测提供联合绑定操作的树突输入之间的乘法交互。尽管存在MEC-LEC绑定的一些证据[26]，我们的吸引子模型还预测MEC模块之间的绑定。第二，模型预测位置细胞和网格细胞之间的吸引子权重相对固定，来自海马到感觉观察的可塑性更强。第三，我们预测，一个网格模块的因果扰动可以在不涉及海马的情况下影响其他网格模块的状态，方向与吸引子状态更新的自我一致性相符。

我们认为，所提出的建模方法和特定的吸引子模型在神经科学中有更广泛的应用。所提出的吸引子网络也可以模拟感觉系统中的生成模型，以实现感知中假设的分析综合。此外，所提出的相量模型与尖峰神经网络[65]之间存在有趣的联系，这可能产生具有尖峰神经元的规范模型，可能在大规模上可在神经形态硬件上实现，从而可以进一步进行定量预测。