PulseAugur
中
实时 10:31:31
English(EN) Anti-Shortcut Distillation via Temporal Negative Knowledge Transfer

新的蒸馏方法教会AI模型避免捷径

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种名为反捷径蒸馏（ASD）的新知识蒸馏技术。该方法使用早期教师模型作为负参考，引导学生模型避免学习捷径。ASD包含两个损失：时间对比损失和捷径抑制损失，后者会惩罚学生模型在已识别捷径方向上的投影。在CIFAR-100、ImageNet-100和TinyImageNet上的实验表明，ASD在干净准确性和鲁棒性方面优于标准知识蒸馏，尤其是在跨架构场景中。 AI

影响 引入了一种新技术，通过明确教会模型避免捷径学习来提高模型鲁棒性。

排序理由 这是一篇详细介绍新知识蒸馏方法的学术论文。

在 arXiv cs.CV 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的蒸馏方法教会AI模型避免捷径

报道来源 [1]

  1. arXiv cs.CV TIER_1 English(EN) · Syed Muhammad Raza, Omer Tariq, Jeongbae Son ·

    通过时间负知识蒸馏实现反捷径蒸馏

    arXiv:2608.11789v1 Announce Type: new Abstract: Knowledge distillation (KD) trains a compact student by attracting it towards a converged teacher. It is silent about which directions the teacher itself learned to suppress: repulsive and bias-aware objectives exist, but none explo…

相关实体

相关话题