实体
BPTT
BPTT
PulseAugur coverage of BPTT — every cluster mentioning BPTT across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的上下文就绪 Transformer 架构提高了速度和性能
研究人员推出了一种新颖的循环神经网络架构——上下文就绪的 Transformer，旨在提高 Transformer 的效率和性能。该新模型在每个 token 进入 D 层 Transformer 块之前对其进行预上下文化，从而有效地为顺序推理创建了一个循环神经网络。与标准 Transformer 相比，该架构在速度和性能上都有显著提升，在 A100 GPU 上，D=5 的模型在生成速度上比 12 层 Transformer 快 1.7 倍。
-
新研究推动脉冲神经网络在效率和验证方面的进展
研究人员开发了用于脉冲神经网络（SNN）的新方法，重点是提高其效率和验证能力。一项研究介绍了一种可学习的残差语音到脉冲编码器，该编码器在保持参数效率的同时提高了在 Google Speech Commands v2 基准测试上的准确性。另一项开发 VQ4SNN 利用矢量量化显著降低了在 FPGA 上部署 SNN 的内存需求，使其更适合边缘 AI 应用。此外，还创建了一个用于概率 SNN 的形式化验证工具，采用商抽象来管理状态空间爆炸并…