实体 VarKD

VarKD

PulseAugur coverage of VarKD — every cluster mentioning VarKD across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_72603 · Jun 4 · 12:15

新的VarKD框架增强了视觉AR模型的压缩

研究人员推出了一种新颖的知识蒸馏框架VarKD，旨在压缩计算密集型的自回归（AR）图像生成模型。研究强调，尽管标准蒸馏方法在语言建模中取得了成功，但由于解码范围长和视觉令牌模糊等挑战，它们对视觉AR模型的有效性较低。VarKD通过在具有选择性教师监督和减少的令牌级模糊的学生样本上进行蒸馏来解决这些问题，并在ImageNet上展示了改进的性能。