研究人员开发了 OrbitQuant,一种用于扩散 Transformer (DiTs) 的新型训练后量化方法。该技术通过在归一化、旋转基中进行量化来实现高效推理,无需在不同的时间步、提示或模态之间进行重新校准。OrbitQuant 在 FLUX.1、Z-Image-Turbo、Wan 2.1 和 CogVideoX 等图像和视频生成模型的低比特设置下实现了最先进的性能,甚至在 2 位权重下也能实现可用的生成质量。 AI
影响 降低了扩散模型推理的计算成本,可能使其能够在资源受限的设备上更广泛地部署。
排序理由 详细介绍模型量化新方法的学术论文。 [lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →