FD-loss
PulseAugur coverage of FD-loss — every cluster mentioning FD-loss across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的AdvFD方法通过调整Fréchet距离提升视觉生成
研究人员推出了一种名为对抗性Fréchet距离(AdvFD)的新方法,以增强视觉生成模型。AdvFD通过引入一个可学习的对抗性表示来解决“Fréchet黑客”问题,该表示能够适应真实数据和生成数据分布之间的差异。这种方法通过真实特征白化来稳定优化,将静态Fréchet损失与动态特征空间相结合。实验表明,AdvFD在各种骨干网络和模型规模上都能持续改进生成器的训练后性能。
-
新的 FD-loss 技术提高了自回归图像生成质量
研究人员开发了一种新的自回归图像生成器后训练技术,称为 Fréchet 分布式后训练(FD-loss)。该方法解决了 token 级交叉熵预训练与生成图像的分布质量评估之间的不匹配问题。通过使用表示空间的 Fréchet 距离作为唯一目标,FD-loss 能够适应预训练的离散生成器。这种方法显示出显著的改进,在各种配置和数据集上,FID 和 FD_r6 分数平均分别降低了 41.4% 和 52.0%。
-
新的摊销矩匹配技术增强视觉生成模型
研究人员引入了摊销矩匹配(AMM),一种使用神经网络从数据矩学习分布训练信号的新技术。该方法实例化为摊销弗雷歇距离(AMFD)损失,提供了比精确统计匹配更鲁棒的训练动态,并显著提高了在ImageNet和FDr$^6$等基准测试上的性能。AMM在文本到图像生成方面也显示出潜力,增强了指令遵循能力,并在GenEval基准测试上超越了多步教师模型。
-
Fréchet 距离损失增强医学图像生成
研究人员开发了一种新方法,使用扩散模型来改进合成医学图像的生成。提出的 Fréchet Distance loss (FD-loss) 技术通过对齐真实图像和生成图像的统计特征来微调这些模型,这有助于比标准的每像素误差最小化更准确地捕捉复杂的肿瘤结构。当在经过 FD-loss 增强的合成数据上训练下游分割网络时,它们在肿瘤分割的 Dice Similarity Coefficient (DSC) 方面显示出超过 5% 的一致性能提升。
-
OpenAI 相关研究人员将 FID 集成到训练中,在 ImageNet 上取得低于 0.8 的分数
来自南加州大学、卡内基梅隆大学、香港中文大学和 OpenAI 的研究人员开发了一种名为 FD-loss 的新方法,该方法允许将 Fréchet Inception Distance (FID) 指标直接纳入图像生成模型的训练过程。该技术将统计计算与梯度更新分离,使得小型模型能够在 ImageNet 上实现低于 0.8 的 FID 分数。研究还表明,仅优化 FID 可能不总是能产生最佳的视觉效果,并提出了一个新的指标 FDrk,用于更鲁棒的评估。
-
研究人员提出 FD-loss 以优化表示空间中的视觉生成
研究人员引入了一种新的训练目标 FD-loss,它优化了视觉生成在表示空间中的 Fréchet 距离 (FD)。该方法将 FD 估计的总体大小与梯度计算使用的批次大小分离开来。将 FD-loss 应用于现有生成器已显示出视觉质量的提高,使用 Inception 特征空间的单步生成器在 ImageNet 256x256 上达到了 0.72 FID。