DiRotQ

新的DiRotQ方法增强了4位扩散Transformer的量化性能

研究人员开发了DiRotQ，一种用于扩散Transformer（DiTs）的新型4位量化框架，可在保持图像生成质量的同时显著降低内存和计算成本。该方法通过主成分分析（PCA）识别低秩子空间，利用旋转感知激活量化来维持主导激活方差的更高精度。DiRotQ在PixArt模型上取得了最先进的成果，优于以往的量化技术，并在RTX 4090和采用Blackwell架构的Nvidia RTX PRO 6000等硬件上实现了显著的加速和内存缩减。