两篇新研究论文介绍了用于Vision Transformer(ViTs)的先进训练后量化(PTQ)技术,以提高在资源受限设备上的效率。MixFrag通过估计组件脆弱性并将比特分配制定为背包问题,专注于自适应的层级精度分配,在ImageNet-1K上取得了有竞争力的性能,并在COCO目标检测上取得了最先进的结果。DopQ-ViT通过将量化与激活分布对齐并处理异常值来解决性能下降问题,提出了一种Tan量化器和一种MAD引导的最优缩放因子,在分类和检测任务上优于之前的PTQ方法。 AI
影响 这些技术可以实现更高效的部署,将先进的Vision Transformer模型部署到计算资源有限的边缘设备上。
排序理由 两篇在arXiv上发表的学术论文,详细介绍了Vision Transformer的训练后量化新方法。
- arXiv
- DopQ-ViT
- Hugging Face
- Lianwei Yang
- MAD-guided Optimal Scaling Factor
- Tan Quantizer
- Vision Transformers
- Vits
- COCO
- ImageNet-1K
- Kullback--Leibler
- MixFrag
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →