研究人员提出了 Ortho-Hydra，一种新颖的重新参数化技术，旨在改进扩散 Transformer (DiT) 在多风格数据上的 LoRA 微调。该方法解决了“风格泄露”问题，即单个低秩残差难以表示多样化的艺术风格，导致输出平均化。Ortho-Hydra 通过结合正交共享基和每个专家分离的输出子空间来实现这一点，从而在初始训练阶段就能实现专业化。 AI
影响 提出了一种改进扩散 Transformer 多风格微调的方法，可能增强生成模型的灵活性。
排序理由 这是一篇详细介绍微调扩散 Transformer 新技术的学术论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2605.03252v1 Announce Type: cross Abstract: LoRA fine-tuning of diffusion transformers (DiT) on multi-style data suffers from \emph{style bleed}: a single low-rank residual cannot represent several distinct artist fingerprints, and the optimizer converges to their average. …
LoRA fine-tuning of diffusion transformers (DiT) on multi-style data suffers from \emph{style bleed}: a single low-rank residual cannot represent several distinct artist fingerprints, and the optimizer converges to their average. Mixture-of-experts LoRA in the HydraLoRA style rep…