Haopeng Li

PISA 方法通过分段稀疏注意力提高扩散 Transformer 的效率

研究人员开发了 PISA，一种新的无训练分段稀疏注意力方法，旨在提高扩散 Transformer 的效率。PISA 通过泰勒展开近似非关键注意力块来解决这些模型中注意力的二次复杂度，而不是丢弃它们。这种方法可以在不牺牲质量的情况下实现显著的加速，在 Wan2.1-14B 和 Hunyuan-Video 模型上分别实现了 1.91 倍和 2.57 倍的加速，在 FLUX 上实现了 1.2 倍的图像生成加速。