Spiking neural networks
PulseAugur coverage of Spiking neural networks — every cluster mentioning Spiking neural networks across labs, papers, and developer communities, ranked by signal.
11 天有情绪数据
-
新框架通过自适应时间步长训练增强脉冲式 NeRF
研究人员开发了一个名为 PATA（基于预训练的自适应时间步长调整）的新框架，以提高脉冲式神经辐射场 (NeRF) 的效率。该方法允许进行特定于场景的自适应时间步长训练，而之前的模型使用固定的时间预算。PATA 将推理时间步长优化为可训练变量，在保持各种神经渲染表示具有竞争力的渲染质量的同时，将计算成本降低了高达 68.90%。
-
脉冲神经网络在节能汽车感知方面展现出潜力
研究人员已经证明了脉冲神经网络（SNNs）在汽车物体检测和跟踪方面的有效性，为传统的深度学习方法提供了一种更节能的替代方案。使用SpikeYOLO架构，该研究在KITTI和BDD100K MOT2020数据集上取得了有竞争力的性能。这项工作通过展示SNNs能够以显著降低的计算需求提供高性能感知，从而确立了SNNs在现实世界自动驾驶系统中的可行性。
-
神经元建模的两个历史谱系：深度学习 vs. 脉冲神经网络
从早期模拟神经元的尝试中出现了两条截然不同的历史研究路径。一条沿袭McCulloch-Pitts和感知器，侧重于逻辑、学习和静态表示，最终为现代深度学习铺平了道路。另一条路径则受到Lapicque和Leaky Integrate-and-Fire (LIF)模型的启发，优先考虑时间动态、阈值触发事件和生物物理现实，为脉冲神经网络奠定了基础。
-
新型电子神经元设计简化了硬件和数学描述
研究人员开发了一种新型电子神经元设计，称为“电子爆发神经元”，它基于锁相环方程实现为一个电路。这种新颖的方法简化了硬件实现，并为神经元的行为提供了强大的数学描述，使其能够超越实验观察进行研究。该设计旨在用于脉冲神经网络，后者在神经假体和人工记忆等领域有应用。
-
新的蒸馏方法提升脉冲神经网络性能
研究人员开发了一种名为选择性对齐知识蒸馏（SeAl-KD）的新方法，以提高脉冲神经网络（SNNs）的性能。与先前在所有时间步上应用统一对齐的技朧不同，SeAl-KD 通过纠正错误时间步和基于置信度和相似度调整时间对齐来选择性地对齐知识。在图像和事件驱动数据集上的实验表明，SeAl-KD 的性能持续优于现有的蒸馏方法。
-
新型统一复值神经网络整合连续和事件驱动学习
研究人员开发了一种新颖的统一复值神经网络（UCNN），它整合了连续值表示和事件驱动的时间处理。该新模型基于统一复值神经元（UCN），使用幅度编码信号强度，并使用相位控制时间演化和脉冲发射。UCNN框架支持通过反向传播和反向传播随时间进行训练，并提供了一种事件驱动的自适应相位学习规则，作为一种计算效率更高的替代方案。在目标跟踪和洛伦兹吸引子学习中的评估表明，UCNN在保持稀疏、事件驱动的计算（适用于神经形态和边缘AI应用）的同时，能够实…
-
新的SNN训练和剪枝方法提升效率和性能
研究人员正在开发新的方法来提高脉冲神经网络（SNN）的效率和性能。一种方法，临界约束二次剪枝（CQP），结合了权重幅度和神经元临界性，以最小的精度损失实现高稀疏度，并在MNIST数据集上展示了显著降低的能耗。另一种方法通过将凸化技术扩展到循环网络并引入参数重构算法，该算法在替代梯度方法方面具有优势，专注于SNN的全局最优训练。此外，一种新架构，内在稳定SNN（IS-SNN），通过强制信号稳态消除了对计算成本高昂的批量归一化的需求，在I…
-
混合SNN-CNN模型通过高效事件数据处理增强跌倒检测
研究人员开发了结合脉冲神经网络（SNN）和卷积神经网络（CNN）的混合模型，以改进跌倒检测。这些模型处理从常规视频生成的模拟事件基相机数据，以利用SNN的能效和时空处理能力。评估表明，与传统的机器学习模型相比，这些混合方法在不影响准确性的情况下实现了显著的效率提升。
-
脉冲神经网络提供高效图像恢复
研究人员开发了一种新颖的脉冲金字塔小波变换（SPWM）模型，用于图像恢复任务。该模型利用脉冲神经网络（SNN）和脉冲双金字塔小波（SDPW）块来捕获长距离依赖关系，并降低计算成本和能耗。实验表明，SPWM 在保持图像质量的同时显著降低了资源需求，凸显了 SNN 在资源受限设备上实现高效图像恢复的潜力。
-
新的SNN自适应方法有望实现无需重新校准的脑机接口
研究人员开发了一种名为膜电位对齐（MPA）的新方法，用于自适应脑机接口中使用的脉冲神经网络（SNN）。该方法解决了信号漂移导致解码器性能随时间下降的问题。MPA通过使用KL散度匹配膜电位分布来实现自适应，并通过LoRA将更新限制在少量参数上。在灵长类动物抓取任务的测试中，MPA展示了与NoMAD等现有方法相当的性能，但具有更简单的架构和更精细的时间分辨率，这为长期、无需重新校准的脑机接口提供了一种实用的方法。
-
新的VQ4SNN架构提高了FPGA脉冲神经网络的内存效率
研究人员开发了VQ4SNN，这是一种新颖的架构，旨在使脉冲神经网络（SNN）在FPGA上部署时更具内存效率。该方法利用向量量化（VQ）来减少存储突触权重所需的显著片上内存，这是边缘AI应用的一个常见瓶颈。VQ4SNN采用两级内存系统，具有共享码本和紧凑指针，能够在不影响推理精度的前提下大幅减少BRAM使用量。
-
新CogSpike工具为概率脉冲神经网络提供形式化验证
研究人员开发了一种名为CogSpike的新型形式化验证工具，用于概率脉冲神经网络（SNNs）。该工具通过采用权重离散化的商抽象方法，解决了验证这些复杂随机模型固有的状态空间爆炸问题。这种方法将连续的突触权重映射到一个紧凑的整数范围，保留了关键信息，并能够验证更大、更难处理的网络。该系统集成了SNN设计、仿真和PRISM的形式化验证，提供了正式的正确性保证，并展示了显著的状态空间缩减。
-
新研究推动脉冲神经网络在效率和验证方面的进展
研究人员开发了用于脉冲神经网络（SNN）的新方法，重点是提高其效率和验证能力。一项研究介绍了一种可学习的残差语音到脉冲编码器，该编码器在保持参数效率的同时提高了在 Google Speech Commands v2 基准测试上的准确性。另一项开发 VQ4SNN 利用矢量量化显著降低了在 FPGA 上部署 SNN 的内存需求，使其更适合边缘 AI 应用。此外，还创建了一个用于概率 SNN 的形式化验证工具，采用商抽象来管理状态空间爆炸并…
-
脉冲傅里叶图算子提高时间序列预测精度
研究人员推出了一种新颖的脉冲神经网络（SNN）方法 SpikF-GO，用于多元时间序列预测。与以往独立处理变量的 SNN 方法不同，SpikF-GO 将每个观测值视为图节点，并结合了脉冲驱动的光谱处理，从而对变量间的依赖关系进行建模。该方法包括一个可学习的频率门控和应用于傅里叶分量的脉冲神经元，旨在提高能效和精度。在八个基准测试上的评估表明，SpikF-GO 的表现优于其人工神经网络对应方法 FourierGNN，并在 SNN 方法中…
-
LongSpike：新的SNN框架增强长序列学习能力
研究人员推出了一种新的脉冲神经网络（SNN）框架LongSpike，该框架利用分数阶状态空间模型（f-SSM）来增强长序列的学习能力。这种方法克服了传统一阶SNN在捕捉长距离依赖关系方面的局限性。LongSpike能够更有效地将神经元动力学与长记忆核相结合，并支持高效的并行训练。在Long Range Arena和WikiText-103等基准测试上的评估表明，LongSpike在保持计算效率的同时，实现了比现有SNN更高的准确性。
-
SpikeDecoder 使用 SNN 将 Transformer 的能耗降低 93%
研究人员开发了 SpikeDecoder，这是一种使用脉冲神经网络 (SNN) 实现的 Transformer 解码器块的新方法，用于自然语言处理。该方法旨在显著降低传统 Transformer 模型的高能耗。实验表明，与人工神经网络 (ANN) 相比，SpikeDecoder 可将理论能耗降低 87% 至 93%，同时还探索了各种嵌入方法和架构修改。
-
SpikeTAD 使用 SNN 实现低功耗视频动作检测
研究人员开发了 SpikeTAD，一种用于视频端到端时序动作检测的新型脉冲神经网络 (SNN) 架构。该方法旨在解决传统人工神经网络的高功耗和模型尺寸大的问题，使其适用于在移动设备和神经形态芯片上部署。SpikeTAD 展现出具有竞争力的性能，在 THUMOS14 上达到 67.2% 的 mAP，在 ActivityNet-1.3 上达到 37.42% 的 mAP，同时保持显著更低的功耗。
-
新的SNN架构提升能效和性能
研究人员开发了两种新颖的架构，ReSCom和SupraSNN，旨在提高脉冲神经网络（SNN）的能效和性能。ReSCom利用随机计算进行乘法运算，以降低硬件复杂性并保持稳定的推理，提供准确性、延迟和能耗之间的动态权衡。SupraSNN受超标量处理器的启发，物理上解耦了突触和神经元计算，以利用突触级别的并行性，实现了比以前基于FPGA的SNN加速器更低的延迟和更好的能效。另外，一种名为GRAU的新设计为神经网络硬件加速器提供了一种通用的可…
-
脉冲神经网络整合人形机器人的手臂和腿部控制
研究人员开发了一种新颖的脉冲神经网络架构，能够协调人形机器人的手臂和运动控制。该系统集成了基于力的手臂控制和双足运动，并通过用于动作选择的脉冲基底神经节模型进行调解。该架构已在模拟中成功演示，能够执行目标抓取、绘画和路径跟随运动等任务，并在行走和手臂操作之间无缝切换。
-
SDTrack管道通过SNNs推进事件驱动跟踪
研究人员开发了SDTrack，一种使用脉冲神经网络（SNNs）的事件驱动对象跟踪新管道。该方法集成了基于Transformer的跟踪器和一种称为全局轨迹提示（GTP）的独特事件帧聚合方法。该系统端到端运行，在多个数据集上实现了最先进的准确性，与现有方法相比，参数数量显著减少，能耗更低。