一、为什么需要脉冲神经网络要理解脉冲神经网络Spiking Neural Network简称SNN我们先看看AI经历了哪些阶段。第一代开关灯式的AI。1943年McCulloch和Pitts提出了最早的神经元数学模型 [1]。这种神经元就像一个电灯开关——输入够了就亮输出1不够就灭输出0。它能做一些简单的逻辑判断但能力非常有限。第二代连续调光式的AI。到了深度学习时代神经元不再只是开或关而是可以输出一个连续的数值比如0.7、0.85就像调光灯一样可以调节亮度。这就是我们现在熟悉的深度神经网络ANN它在图像识别、语言翻译等任务上大放异彩 [2]。第三代像大脑一样放电的AI。1997年奥地利科学家Wolfgang Maass提出真正的神经网络应该模拟大脑的工作方式——神经元之间通过脉冲一种短暂的电信号来传递信息这就是脉冲神经网络SNN被称为第三代神经网络 [3]。图 1. 神经网络三代演进示意图。第一代M-P模型像开关只有0和1第二代ANN可以输出连续数值第三代SNN以脉冲序列传递信息更接近大脑的真实工作方式。为什么要费这么大劲搞SNN答案是能效。人脑只需要大约20瓦特的功率——还不如一盏台灯亮——就能完成识别、推理、创造等复杂任务 [4]。而训练一个大型深度学习模型耗电量可以达到兆瓦级别相当于一个小镇的用电量。SNN的关键优势在于事件驱动它不是像传统神经网络那样时刻都在做计算而是只在有事情发生脉冲到来的时候才算。就像你不需要一直盯着门看只有有人敲门时才去开门——这样自然省力得多 [5]。二、大脑是怎么说话的脉冲神经元传统AI的神经元很简单接收输入 → 做个加权求和 → 通过激活函数 → 输出一个数字。整个过程没有时间概念也没有记忆。但真实的生物神经元要复杂得多。它有一个膜电位——可以理解为细胞内部的一种电压。当其他神经元给它发送信号时这个电压会慢慢升高当电压高到超过一个阈值时神经元就会放电——发出一个短暂的脉冲信号然后电压归零重新开始积累。这个过程就像往杯子里倒水水慢慢积累到了杯口就溢出来放电然后杯子空了重新接水。根据对生物神经元的模拟精度不同科学家提出了几种不同的脉冲神经元模型2.1 Hodgkin-Huxley模型最逼真的高仿1952年Hodgkin和Huxley基于对鱿鱼神经的实验提出了最精细的神经元模型 [6]。他们把细胞膜当作电容把各种离子通道钠、钾等当作可调节的阀门详细模拟了每个阀门如何开关、离子如何流动。这个模型能精确重现真实神经元的放电过程Hodgkin和Huxley也因此获得了诺贝尔奖。但问题是——太复杂了。一个神经元就要跟踪好几个变量如果模拟一个有百万神经元的网络计算量会大到不现实。2.2 LIF模型简洁实用的经典款**泄漏积分-发放模型Leaky Integrate-and-Fire简称LIF**是SNN研究中最常用的模型。它最早由法国科学家Lapicque在1907年提出 [7]思路非常直觉把神经元简化成一个简单的电路——一个电容加一个电阻。积分输入信号给电容充电电压逐渐升高泄漏电阻让电荷慢慢流失如果一直没新信号电压就慢慢回落发放电压超过阈值就发一个脉冲然后清零重来图 2. LIF神经元的电路模型 (a) 与膜电位动态过程 (b)。输入信号给电容充电电压逐渐升高超过阈值后发放脉冲并重置。如果长时间没有输入电压会因为泄漏而缓慢回落到静息状态。参考 Lapicque, 1907 [7]; Gerstner Kistler, 2002 [8]2.3 Izhikevich模型简单但花样多俄罗斯数学家Izhikevich在2003年提出了一个只用两个变量就能模拟多种放电模式的模型 [9]。通过调整几个参数它可以模拟出规则放电、簇状放电、快放电等不同风格的神经活动——这在模拟大脑不同区域时非常有用。模型逼真程度计算开销适合场景Hodgkin-Huxley最高很大脑科学研究Izhikevich中等较小大规模脑仿真LIF较低最小深度SNN / 芯片部署打个比方HH模型像4K高清电影画面精美但文件巨大LIF模型像简笔画虽然没那么精细但足够表达意思而且文件小、加载快。三、LIF模型一个会漏电的水杯LIF模型是SNN最核心的基础我们用日常生活的类比来理解它的工作原理。3.1 水杯模型想象一个底部有小洞的水杯倒水输入信号其他神经元给你发脉冲就像往杯子里倒水漏水泄漏杯子底部有洞水会慢慢流走——如果你倒水的速度不够快水永远也装不满溢出发放当水面到达杯口水就溢出来——这就是发放脉冲清空重置溢出后杯子回到空的状态重新开始接水这个漏水特性非常关键。它意味着神经元是有记忆的——如果你刚才给它发了几个脉冲它的电压还没完全回落那么下一个脉冲就更容易让它达到阈值。但如果隔太久之前的记忆就泄漏掉了。这个记忆的时间长度由一个叫膜时间常数的参数决定。生物神经元中这个值大约是10-20毫秒——也就是说大脑神经元大概只记住最近百分之一秒内发生的事。 通俗理解LIF神经元本质上是一个低通滤波器——它对快速变化不敏感而是把最近一段时间内的信号平滑地积累起来。这跟传统神经网络完全不同传统网络每次输入都是独立的没有之前发生了什么的概念。3.2 离散时间一步步来在计算机中模拟时我们不是连续地看电压变化而是按固定的时间间隔比如每1毫秒检查一次看看这一步有没有收到脉冲输入把输入加到当前电压上同时减去泄漏掉的部分检查电压是否超过阈值——超过了就发脉冲然后清零回到第1步继续下一个时间步3.3 为什么SNN不好训练这里有一个SNN最头疼的问题脉冲发放是全有或全无的——要么发要么不发没有中间状态。传统深度学习靠的是梯度下降如果输出错了就沿着误差的方向微调每个参数。这要求每一步都是平滑可微的——你可以算出稍微改变一点输入输出会改变多少。但脉冲发放是一个硬开关电压在阈值以下时输出一直是0一旦越过阈值就突然变成1——这个跳跃是不可微的你没法计算梯度。⚠️ 核心挑战这就像 trying to teach a light switch to be slightly on——你没办法告诉它你差一点点就亮了往这个方向努力。这个不可微问题是SNN训练面临的最大障碍也是后来代理梯度方法要解决的。四、信息怎么编码用脉冲说话传统神经网络输入一张图片每个像素就是一个数字比如0.7。但SNN只认识脉冲——0或1的时间序列。所以我们需要一个翻译过程把连续的数值变成脉冲序列。4.1 频率编码说得越快信号越强最直觉的方法数值越大脉冲越密集。就像打电报——敲得越快说明信息越紧急。具体来说如果一个像素值是0.8那就在每秒钟里随机分布一些脉冲平均每秒发放的脉冲数与0.8成正比。这叫泊松编码。优点简单、鲁棒——即使丢几个脉冲也不影响整体判断。缺点需要较长时间才能准确统计频率。就像你光听敲电报的速度得听一会儿才能判断到底有多急。4.2 时序编码来得越早信号越强另一种思路数值越大第一个脉冲来得越早。就像赛跑——实力越强的选手起跑越快。这叫首脉冲时间编码Time-to-First-Spike, TTFS。一个强度为1.0的输入可能在第1毫秒就发出脉冲而强度0.3的输入可能要到第7毫秒才发。优点极其高效——一个脉冲就能传递信息。研究表明人类视觉系统能在看到图像后仅150毫秒就做出判断这暗示大脑可能用的就是时序编码 [11][12]。缺点对噪声和时间精度敏感——如果一个脉冲提前或延后了一点点信息就可能被误读。图 3. 两种编码方式对比。(a) 频率编码信号越强脉冲越密集但需要较长时间统计。(b) 时序编码信号越强第一个脉冲来得越早一个脉冲就够了。参考 VanRullen et al., 2005 [11]; Thorpe et al., 2001 [12]4.3 其他编码方式群体编码不靠单个神经元而是一组神经元投票来表示信息 [13]。就像一个人判断不准一群人投票更可靠。稀疏编码每种信息只激活少量神经元大部分神经元保持沉默 [14]。就像图书馆的书目编码——每本书有唯一的编号互不干扰。五、SNN怎么学习三种上课方式训练SNN是其走向实用的最大难关。因为脉冲发放不可微传统反向传播用不了。目前有三种主要方法5.1 STDP像大脑一样自学**脉冲时序依赖可塑性STDP**是一种受大脑启发的学习规则由蒲慕明和毕国强于1998年在海马体实验中首次验证 [15]。核心思想非常简洁谁先放电谁说了算。如果神经元A先放电神经元B后放电 → A和B之间的连接变强A预测了B说明这条通路有用如果神经元B先放电神经元A后放电 → A和B之间的连接变弱A迟到了这条通路不太对图 4. STDP学习窗口曲线。横轴是突触前后脉冲的时间差纵轴是连接强度的变化。时间差越小放电时间越接近调整幅度越大时间差越大影响越小。参考 Bi Poo, 1998 [15]; Gerstner et al., 1996 [16]打个比方就像条件反射训练。摇铃铛A之后马上给食物B狗就会学会铃铛→食物的关联铃铛和食物之间的神经连接就增强了。但如果先给食物再摇铃铛狗就不会建立这个关联。STDP是局部规则——每个突触只需要知道自己前后两个神经元的放电时间不需要全局信息所以计算量很小也适合在芯片上直接实现。但缺点是很难扩展到深层网络也缺少全局优化能力。5.2 代理梯度骗过反向传播这是目前训练深层SNN最主流的方法 [17][18]。思路很巧妙前向传播时照常发放脉冲保持生物合理性但反向传播时偷偷换一个函数——把那个不可微的硬开关替换成一个平滑的曲线比如Sigmoid函数的导数。图 5. 代理梯度方法示意图。前向传播用真实的脉冲发放硬开关反向传播时用平滑曲线假装梯度可以流过去。参考 Wu et al., 2018 [17]; Neftci et al., 2019 [18]打个比方就像考试时你不能直接看答案不可微但可以用一个近似答案来估分。虽然不是100%准确但足够指导你调整学习方向了。这个方法让SNN也能用类似深度学习的反向传播来训练是目前深度SNN训练的事实标准。5.3 ANN转SNN曲线救国最务实的方法先训一个普通ANN再翻译成SNN[19]。具体做法是训练一个用ReLU激活函数的ANNReLU的输出值是连续的正数然后把训练好的权重直接搬到一个SNN里用脉冲发放频率来近似ReLU的输出值。打个比方就像你有一份中文报告ANN你需要一个英文版SNN。直接用英文重写从头训练SNN太难了所以你先写好中文版再翻译成英文——虽然翻译过程中可能丢一些细节但大体内容是对的。优点可以利用成熟的深度学习工具链精度最高。缺点翻译后的SNN需要很多时间步来逼近频率能效优势打了折扣。方法训练方式生物合理性精度能效STDP无监督自学最高较低最高代理梯度监督学习中等较高较高ANN转SNN间接转换最低最高较低六、网络长什么样前馈与循环SNN的网络结构主要分两种 [20]前馈SNN流水线式就像工厂流水线——信息从输入层出发一层一层往前传每层只跟下一层说话。Bohte等人在2002年提出了第一个可训练的前馈SNN方法SpikeProp [21]。这种结构清晰、好训练是目前深度SNN研究的主流。循环SNN网状式神经元之间没有固定的上下级关系而是像社交网络一样随机互连。信息可以在网络里来回流动形成循环。这种结构天然有记忆——就像一个话题在朋友圈里反复传播能影响很长时间。适合处理时序信息比如语音、视频但训练难度大得多。图 6. 两种SNN架构对比。(a) 前馈SNN分层流水线信息单向流动。(b) 循环SNN网状互连信息可来回流动。参考 Kasabov, 2019 [20]; Bohte et al., 2002 [21]近年来深度SNN也引入了残差连接 [22] 和Transformer架构 [23]在ImageNet等大型数据集上的表现越来越接近同结构的ANN。七、类脑芯片让SNN跑起来SNN的能效优势只有在专用芯片上才能完全释放。传统GPU不管数据是不是零都要算就像水管一直开着——不管你用不用水都在流。而神经形态芯片是事件驱动的——只有脉冲到来时才做计算就像感应水龙头——手来了才出水没人时自动关闭。7.1 代表性类脑芯片芯片研发机构神经元规模制程亮点TrueNorthIBM (2014)100万28nm2.56亿突触功耗仅65mWLoihi 2Intel (2021)100万/芯片Intel 4可编程学习规则支持片上学习NorthPoleIBM (2023)—12nm存算一体ResNet50能效提升25倍Hala PointIntel (2024)11.5亿—1152颗Loihi 2组成的大型系统达尔文3代浙江大学 (2025)20亿—960颗芯片悟空类脑计算机研究表明在BrainScaleS-2芯片上运行的脉冲网络能耗仅为CPU模拟的千分之一、GPU深度网络的百分之一[24]。Intel Loihi在特定SNN任务上比GPU实现了约100倍的能效提升 [25]。7.2 典型应用场景边缘AI与物联网SNN的低功耗特性非常适合电池设备——智能手表、助听器、传感器节点等。想象一个永远不用充电的智能门铃只在有人经过时才醒过来处理画面。机器人与自动驾驶SNN配合事件相机DVS可以在微秒级响应视觉变化——比传统相机快几个数量级。澳大利亚团队用SNN做机器人导航能耗降低了99% [26]。实时信号处理语音识别、脑电波分类等需要处理时序数据的任务天然适合SNN的时序特性。八、挑战与未来SNN虽然前景光明但要真正飞入寻常百姓家还有几道坎要过1精度还差一口气。在ImageNet等大型任务上SNN的准确率仍比同结构ANN低几个百分点。代理梯度的前向-反向不匹配问题还没完全解决。2编码方式难两全。频率编码太慢时序编码太脆。找到既高效又鲁棒的编码方式是关键。3生态还不成熟。SNN的训练框架如SpikingJelly [27]、snnTorch [28]还在发展初期跟PyTorch/TensorFlow比差距很大——就像用记事本写代码和用VS Code的区别。4硬件软件要配合。SNN的能效优势严重依赖专用芯片。在普通GPU上跑SNN反而可能比ANN更慢更费电。未来怎么看最务实的路径可能是混合架构云端用Transformer等ANN处理重活边缘端用SNN做实时低功耗交互。此外SNN在持续学习学新东西不忘旧的[29] 和强化学习[30] 方面也展现出了独特潜力。一句话总结脉冲神经网络是第三代AI它模仿大脑用脉冲而非数字来传递信息。虽然训练更难、生态不如传统深度学习成熟但其惊人的能效和时序处理能力让它在边缘AI和类脑计算领域拥有不可替代的位置。当摩尔定律走向终结SNN或许就是AI的下一个突破口。参考文献McCulloch W S, Pitts W. A logical calculus of the ideas immanent in nervous activity. Bulletin of Mathematical Biology, 1943.Krizhevsky A, Sutskever I, Hinton G E. ImageNet classification with deep convolutional neural networks. NeurIPS, 2012.Maass W. Networks of spiking neurons: The third generation of neural network models. Neural Networks, 1997.Attwell D, Laughlin S B. An energy budget for signaling in the grey matter of the brain. Journal of Cerebral Blood Flow Metabolism, 2001.Davies M, et al. Loihi: A neuromorphic manycore processor with on-chip learning. IEEE Micro, 2018.Hodgkin A L, Huxley A F. A quantitative description of membrane current and its application to conduction and excitation in nerve. Journal of Physiology, 1952.Lapicque L. Recherches quantitatives sur lexcitation électrique des nerfs. Journal de Physiologie et de Pathologie Générale, 1907.Gerstner W, Kistler W M. Spiking Neuron Models. Cambridge University Press, 2002.Izhikevich E M. Simple model of spiking neurons. IEEE Trans. Neural Networks, 2003.Zhou Z, et al. Direct training high-performance deep spiking neural networks: A review. arXiv, 2024.VanRullen R, Guyonneau R, Thorpe S J. Spike times make sense. Trends in Neurosciences, 2005.Thorpe S, Fize D, Marlot C. Speed of processing in the human visual system. Nature, 1996.Pouget A, Dayan P, Zemel R. Information processing with population codes. Nature Reviews Neuroscience, 2000.Olshausen B A, Field D J. Sparse coding of sensory inputs. Current Opinion in Neurobiology, 2004.Bi G Q, Poo M M. Synaptic modifications in cultured hippocampal neurons: Dependence on spike timing. Journal of Neuroscience, 1998.Gerstner W, et al. Mathematical foundations of learning. Scholarpedia, 1996.Wu Y, Deng L, Li G, et al. Spatio-temporal backpropagation for training high-performance spiking neural networks. Frontiers in Neuroscience, 2018.Neftci E O, Mostafa H, Zenke F. Surrogate gradient learning in spiking neural networks. IEEE Signal Processing Magazine, 2019.Cao Y, Chen Y, Khosla D. Spiking deep convolutional neural networks for energy-efficient object recognition. Int. Journal of Computer Vision, 2015.Kasabov N K. Time-space, spiking neural networks and brain-inspired artificial intelligence. Springer, 2019.Bohte S M, Kok J N, La Poutre H. Error-backpropagation in temporally encoded networks of spiking neurons. Neurocomputing, 2002.Fang W, Yu Z, Chen Y, et al. Deep residual learning in spiking neural networks. NeurIPS, 2021.Zhou Z, et al. Spikformer: When spiking neural network meets transformer. arXiv, 2022.Petrovici M A, et al. Stochastic inference with deterministic spiking neurons. Nature Machine Intelligence, 2024.Davies M, et al. Loihi: A neuromorphic manycore processor with on-chip learning. IEEE Micro, 2018.Hines A, et al. Locational encoding with neuromorphic systems. Science Robotics, 2025.Fang W, et al. SpikingJelly: A research framework for deep spiking neural networks. GitHub, 2020.Eshraghian J K, et al. Training spiking neural networks using lessons from deep learning. Proceedings of the IEEE, 2023.Zhang T, Cheng X, Jia S, et al. A brain-inspired algorithm that mitigates catastrophic forgetting. Science Advances, 2023.Perez-Nieves N, et al. Neural heterogeneity promotes robust learning. Nature Communications, 2021.最后小编会不定期发布相关设计内容包括但不限于如下内容:信号处理、通信仿真、算法设计、matlab appdesignergui设计、simulink仿真......希望能帮到你