ShuffleNet-V2

新的蒸馏方法教会AI模型避免捷径

研究人员开发了一种名为反捷径蒸馏（ASD）的新知识蒸馏技术。该方法使用早期教师模型作为负参考，引导学生模型避免学习捷径。ASD包含两个损失：时间对比损失和捷径抑制损失，后者会惩罚学生模型在已识别捷径方向上的投影。在CIFAR-100、ImageNet-100和TinyImageNet上的实验表明，ASD在干净准确性和鲁棒性方面优于标准知识蒸馏，尤其是在跨架构场景中。