FlowVQ

FlowVQ 引入新颖矢量量化方法以防止码本坍塌

研究人员引入了 FlowVQ，这是一种新颖的矢量量化方法，旨在克服传统 VQ-VAE 方法的局限性，例如码本坍塌和低效的码本使用。FlowVQ 将神经量化构建为联合建模和聚类过程，利用概率流 ODE 来传输源分布并保留概率质量。该方法通过传输分位数划分的先验码并获得诱导分布下的 Voronoi 中心来定义结构化码本。在图像标记化、生成和高精度标记化任务上的评估表明，FlowVQ 具有可扩展性，并通过充分利用提高了码本的表达能力。