实体
Visual Attribution Distillation
Visual Attribution Distillation
PulseAugur coverage of Visual Attribution Distillation — every cluster mentioning Visual Attribution Distillation across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的VAD方法在多模态AI蒸馏中分离视觉证据
研究人员开发了视觉归因蒸馏（VAD），一种用于多模态策略内蒸馏的新颖方法。VAD旨在分离支持教师模型纠正学生模型输出的视觉证据，并将其与语言先验或教师特有的偏差区分开来。通过在有和没有相关视觉证据的情况下评估教师模型，VAD估计了可归因于视觉的纠正分量。与直接蒸馏方法相比，该方法在4B和9B参数模型的六个视觉基准测试中表现出优越的性能。
-
视觉归因蒸馏 (VAD) 增强多模态知识迁移
研究人员推出了一种名为视觉归因蒸馏 (VAD) 的新算法，旨在通过在知识迁移中分离视觉证据来改进多模态策略内蒸馏。VAD 通过根据教师纠正中可归因于视觉的部分来重构目标，从而有效地区分受视觉线索支持的纠正与受语言先验或教师特定偏差影响的纠正。与现有蒸馏技术相比，该方法在六个视觉基准测试的 4B 和 9B 规模上均表现出优越的性能，尤其是在视觉证据与教师的初始纠正相矛盾时。