PulseAugur
中
实时 07:05:14
English(EN) Finding Sparse Subnetworks in One Training Cycle via Progressive Magnitude-Based Pruning

新的剪枝方法在单个训练周期中创建稀疏神经网络

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种在单个训练周期中创建稀疏神经网络的新方法，这比需要多个周期的现有技术有了显著改进。这种渐进式基于幅度的剪枝方法在训练过程中逐渐增加稀疏性，在基准数据集上，与彩票假说（LTH）等迭代方法相比，实现了具有竞争力的或更高的准确性。例如，在CIFAR-10上，该方法在ResNet-18上实现了95.12%的准确率，稀疏度为72.9%，优于LTH报告的准确率。 AI

影响 通过减少训练时间，提供了一种更有效的方法来创建更小、更快的神经网络。

排序理由 该集群包含一篇详细介绍神经网络剪枝新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Nahlah Aljeraisy ·

    通过渐进式基于幅度的剪枝在一次训练周期中寻找稀疏子网络

    Neural network pruning reduces model size by removing less important parameters while aiming to preserve predictive performance. Although the Lottery Ticket Hypothesis (LTH) shows that sparse subnetworks can match dense networks when trained from suitable initializations, its ite…

相关实体

相关话题