研究人员推出了一种名为 DecoupAttn 的新方法,通过采用解耦稀疏注意力来加速视频扩散 Transformer。该方法精确计算关键模块,同时补偿其他模块,解决了识别开销和次优预算分配等挑战。DecoupAttn 使用失真预算进行分配,并使用重新分配缓存机制来管理漂移键,所有这些都无需额外训练。使用校准剪辑离线编译单个计划,从而能够使用标准内核和融合补偿内核进行高效推理。 AI
影响 该方法可以显著加速视频生成模型,使其对研究人员和开发人员来说更加易于访问和高效。
排序理由 详细介绍新技术方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →