研究人员开发了DiRotQ,一种用于扩散Transformer(DiTs)的新型4位量化框架,可在保持图像生成质量的同时显著降低内存和计算成本。该方法通过主成分分析(PCA)识别低秩子空间,利用旋转感知激活量化来维持主导激活方差的更高精度。DiRotQ在PixArt模型上取得了最先进的成果,优于以往的量化技术,并在RTX 4090和采用Blackwell架构的Nvidia RTX PRO 6000等硬件上实现了显著的加速和内存缩减。 AI
影响 这项研究有望使大型扩散模型在消费级硬件上更高效地部署,从而加速其在各种应用中的普及。
排序理由 该集群包含一篇详细介绍AI模型优化新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Blackwell
- Diffusion Transformers
- DiRotQ
- FLUX.1-dev
- MJHQ-30K
- NVFP4
- Nvidia RTX PRO 6000 Blackwell Workstation Edition
- PixArt
- Principal Component Analysis
- RTX 4090
- SVDQuant
- Triton
- VLM-as-a-Judge
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →