研究人员开发了一种新的后训练量化(PTQ)方法,称为通道感知、Token平衡、输出感知裁剪(CTOAC),以解决视觉状态空间对偶(VSSD)模型中的低比特量化挑战。该研究确定激活量化是关键瓶颈,并提出CTOAC学习每输入通道的裁剪边界,从而最小化重建损失。该方法在各种VSSD模型尺寸的激进精度设置下成功保持了ImageNet-1K的准确性并提高了鲁棒性,同时在COCO和ADE20K数据集上的目标检测和分割任务中也保持了性能。在RTX 4090上的部署显示,速度比FP32快1.42倍。 AI
影响 提高了视觉模型的效率和鲁棒性,可能使其在资源受限的硬件上得到更广泛的部署。
排序理由 该集群描述了一篇研究论文,其中详细介绍了一种用于优化模型量化的新方法。
在 Hugging Face Daily Papers 阅读 →
- ADE20K
- Channel-wise Token-balanced Output-Aware Clipping
- COCO
- CTOAC
- Mamba
- RTX 4090
- Vim
- Visual State Space Duality
- VmambaSCI: Dynamic Deep Unfolding Network with Mamba for Compressive Spectral Imaging
- VSSD-Base
- VSSD-Small
- VSSD-Tiny
- ImageNet-1K
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →