研究人员开发了一种新的训练后量化框架，名为 Timestep-Aware SVDQuant-GPTQ，以解决大型视频扩散 Transformer 中的内存挑战。该方法专门针对 W4A4 量化，后者可显著节省内存，但由于激活值异常和依赖于时间步长的分布而变得复杂。该框架旨在处理 Wan2.2-I2V 的混合专家设计中两个专家的不同量化敏感性，从而在对 VBench 和成像质量等性能指标影响极小的情况下，将峰值 GPU 内存减少 59.3%。 AI
影响 这项量化技术可能有助于在内存有限的硬件上更有效地部署大型视频扩散模型。
排序理由 该集群包含一篇学术论文，详细介绍了一种新的模型量化技术方法。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2605.27003v1 Announce Type: cross Abstract: W4A4 quantization of large video diffusion Transformers offers substantial memory savings but is hindered by two main challenges: sparse large-magnitude activation outliers, and strongly timestep-dependent activation distributions…
W4A4 quantization of large video diffusion Transformers offers substantial memory savings but is hindered by two main challenges: sparse large-magnitude activation outliers, and strongly timestep-dependent activation distributions across the multi-step denoising trajectory. These…