Benedikt Tscheschner

新方法将剪枝整合到主动学习中以寻找稀疏模型

研究人员开发了一种名为“改进与剪枝”（I&P）的新方法，该方法将幅度剪枝整合到主动学习再训练周期中。该方法旨在主动学习流程中发现稀疏子网络或“中奖彩票”，而无需显著增加计算成本。研究结果表明，I&P 可以在每次主动学习迭代中生成可部署的稀疏模型，在高达 95% 的稀疏度下实现与密集模型相当的准确性。该方法解决了再训练和获取评分中的计算瓶颈，有望使主动学习在更大模型和数据集上得到实际应用。