Adalnot
PulseAugur coverage of Adalnot — every cluster mentioning Adalnot across labs, papers, and developer communities, ranked by signal.
-
Diffusion Transformer研究详解AdaLN-Zero的影响
研究人员调查了Diffusion Transformer (DiTs) 中的adaLN-Zero条件机制，DiTs是图像生成领域的一种重要架构。他们的分析表明，零初始化是adaLN-Zero性能优于adaLN的最重要因素。基于这些发现，他们提出了一种名为adaLN-Gaussian的分析引导初始化策略，该策略提高了优化效率，并提出了一种受SE类结构启发的改进条件机制SE-adaLN-Zero。这两种方法在ImageNet1K等各种数据…
-
扩散 Transformer 中的大规模激活解锁增强图像生成
研究人员在扩散 Transformer (DiTs) 中识别出“大规模激活”，它们在图像生成和理解中起着关键作用。这些激活集中在一小部分隐藏状态通道中，对于合成精细细节和组织空间信息至关重要。目前正在开发新的方法来调节这些大规模激活，从而在无需额外训练的情况下提高 DiTs 的生成质量和表示能力。
-
DomainShuttle 实现灵活的主题驱动文本到视频生成
研究人员推出了一种新颖的开放域主题驱动文本到视频生成方法 DomainShuttle。该方法通过解耦视频和参考特征，旨在实现域内和跨域场景下的高保真度和灵活性。DomainShuttle 利用域感知 AdaLN 进行特定建模，并采用视频-参考 DualRoPE 方案实现精确的主题级空间建模，同时通过跨对一致性损失提取内在主题特征。
-
何恺明本科团队发布MiniT2I文本到图像模型，参数量2.58亿
研究人员，包括由何恺明领导并主要由本科生组成的团队，推出了一种新颖的文本到图像生成模型MiniT2I。该模型以显著更少的参数（2.58亿）和更低的训练成本取得了具有竞争力的结果，与标准的ImageNet实验相当。MiniT2I采用了一种新的MM-JiT架构，直接在像素空间操作，无需VAE，并通过移除AdaLN等机制简化了扩散过程，这些机制在其他大型文本到图像模型中很常见。