为了更加贴近生物神经系统的工作方式，就诞生了脉冲神经网络（SNN）。 SNN尝试更精确地模仿生物神经元的工作原理，通过时间上的脉冲来传递信息，其神经元具有更加复杂的神经元动 …

snn.Functional 模块中包含各类损失函数，实现上使用了 torch.nn.Functional 模拟尖峰。 这些实现了交叉熵和均方误差损失的混合，应用于脉冲和/或膜电位，以训练速率或延迟编码网络。

2024年5月20日 · 脉冲神经网络（SNN）：一种神经网络模型，利用离散的脉冲信号（spikes）进行信息传递和处理。 死神经元问题（Dead Neuron Problem）：在反向传播过程中，某些神 …

2022年2月24日 · Although the adoption of surrogate gradient (SG) formally allows for the back-propagation of losses, the discrete spiking mechanism actually differentiates the loss …

2022年10月9日 · Recent progress in training methods has enabled successful deep SNNs on large-scale tasks with low latency. Particularly, backpropagation through time (BPTT) with …

梯度替代法的原理是，在前向传播时使用 y = Θ (x)，而在反向传播时则使用 d y d x = σ ′ (x)，而非 d y d x = Θ ′ (x)，其中 σ (x) 即为替代函数。 σ (x) 通常是一个形状与 Θ (x) 类似，但光滑连续的 …

SNN 包含时间域和空间域的传播更新 (Spatio-temporal-domain, STD)以及与STD相应的反向传播算法 STBP (Spatio-temporal backpropagation)。 前向传播：

2024年6月11日 · 脉冲神经网络 （SNN，Spiking Neural Network）是一种受生物神经系统启发的计算模型，它与传统的人工神经网络（ANN）在信息处理方式上存在显著差异。 以下是SNN …

SG-NN presents a self-supervised approach that converts partial and noisy RGB-D scans into high-quality 3D scene reconstructions by inferring unobserved scene geometry. For more …

在本文中，我们提出了一种用于训练高性能SNN的时空反向传播（STBP）算法。 为了解决SNN中不可微分的问题，提出了用于梯度下降训练的脉冲活动近似导数（approximated derivative） …