研究人员开发了ALLOT,一种新颖的无训练方法,旨在优化视频扩散Transformer中的稀疏性分配。该技术专门针对块稀疏注意力,这是降低视频数据处理计算成本的关键组成部分。通过估计不同层-步长对对最终视频保真度的敏感性,ALLOT在给定的延迟预算内智能地分配注意力密度。实验表明,ALLOT在HunyuanVideo上与XAttention相比,PSNR提高了11.8 dB,显著优于现有方法。 AI
影响 该方法有望通过降低计算要求,实现更高效的视频生成模型。
排序理由 该集群包含一篇详细介绍AI模型架构新优化方法的学术论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →