Copy-Budgeted Selection (CBS)

新方法延迟扩散模型记忆，延长泛化能力

研究人员开发了一种名为质量门控去白化（QGD）的新方法，用于控制扩散模型中训练数据的记忆。该技术旨在延迟模型开始复制训练样本的时间点，从而延长有用泛化的周期。QGD通过保持快速的初始更新阶段，然后逐渐恢复动量来工作，并通过分析将不同类型的记忆分开。在CIFAR-10子集上进行测试时，QGD显著扩展了扩散模型的有用区间，并与标准SGD相比减少了复制，同时还实现了更好的FID分数。