DiT-XL/2
PulseAugur coverage of DiT-XL/2 — every cluster mentioning DiT-XL/2 across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
循环流变换器 (LiFT) 引入新颖的生成模型架构
研究人员引入了循环流变换器 (LiFT)，这是一类新颖的生成模型。LiFT 通过重复应用共享的扩散变换器 (DiT) 核心并进行最小的架构更改来扩展计算。循环中的每一步都用单个回归目标进行训练，允许模型在不重新训练的情况下循环超出其训练深度。这种方法提高了生成质量，并允许在不增加参数的情况下增加推理计算。在 256x256 分辨率的 ImageNet 上，LiFT-L/2 在参数量和训练/推理 FLOPs 显著减少的情况下，取得了比密…
-
扩散模型研究解决覆盖率、表格数据和效率问题 · 跟踪 6 个来源
近期研究探索了扩散模型的进展，重点是提高其效率和覆盖率。一篇论文介绍了 'pass@k' 来评估蒸馏扩散模型的分布覆盖率，揭示某些训练目标可能会牺牲广泛覆盖率以换取单次抽样的质量。另一项研究提出了 CDMD，一种用于表格数据的跨数据集扩散模型，该模型在异构数据集上以更少的参数实现了高质量生成。此外，还详细介绍了改进的分布扩散模型 (DDM)，它们减轻了训练开销，并允许进行依赖于时间的超参数调整，从而在图像生成任务上表现出色，且在不同采…
-
新的 ZID 指标为生成模型提供改进的评估
研究人员推出了一种新的生成模型评估指标 ZID（Z-resolved Integrated Diagnostic），旨在改进现有的指标，如 Fréchet Inception Distance (FID) 和 Kernel Inception Distance (KID)。ZID 解决了 FID 和 KID 的局限性，例如它们无法检测前两个矩之外的分布差异，并且对离散度变化的方向不敏感。新指标结合了来自秩图和高斯核的六个标准化臂，提供…
-
扩散模型研究关注异常值、效率和理论 · 跟踪 10 个来源
近期研究探索了扩散模型的进展，重点是提高其鲁棒性、效率和理论理解。论文解决了逆问题中的异常值数据、用于偏好调整的强化学习扩展以及物种形成和泛化的理论框架开发等挑战。此外，还提出了用于扩散 Transformer 和像素空间扩散模型的高效推理的新方法，旨在提高训练稳定性和生成质量。
-
新方法为模拟内存计算硬件重新校准扩散Transformer
研究人员开发了一种新颖的方法，用于在与模拟内存计算（CIM）硬件一起使用时重新校准扩散Transformer（DiTs）。该方法解决了CIM固有的非理想性如何扭曲分类器自由指导（CFG）信号的问题，而CFG信号对于生成高质量图像至关重要。通过仅在采样过程中调整CFG尺度，该方法有效地恢复了生成质量，显著缩小了由CIM噪声在PixArt-Sigma、PixArt-alpha和DiT-XL/2等各种模型中引起的FID分数差距。