研究人员开发了一个名为PAND（Prompt-Aware Neighborhood Distillation）的新框架，以改进将知识从大型视觉语言模型（VLMs）迁移到更小、更高效的网络中，用于细粒度视觉分类的过程。这种两阶段方法将语义校准与结构迁移分开，使用自适应语义锚点和邻域感知蒸馏策略。PAND在多个基准测试中展示了卓越的性能，其中ResNet-18学生模型在CUB-200数据集上实现了显著的准确率提升。 AI
影响 通过实现从大型模型到更小模型的更好知识迁移，提高了视觉分类模型的效率。
排序理由 这是一篇详细介绍计算机视觉中知识蒸馏新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →