研究人员开发了一种名为COD-TDQ的新方法,用于在采用激进的训练后W4A4量化时,提高基于Transformer的模型在伪装目标检测(COD)方面的性能。他们发现,COD任务中的重尾背景Token会扩大激活范围,导致关键边界线索丢失。COD-TDQ通过使用Direct-Sum Token-Group抑制范围主导,并使用Dual-Constraint Range Projection来维持有界的步长-离散比和零箱质量来解决这个问题。与现有的量化方法相比,该方法在COD基准测试中始终取得显著更高的分数,且无需重新训练。 AI
影响 这项研究有望在资源受限的设备上更有效地部署计算机视觉模型。
排序理由 该项目是一篇研究论文,详细介绍了一种用于改进特定计算机视觉任务模型量化方法的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- Camouflaged object detection via boundary refinement
- CFRN
- COD-TDQ
- Direct-Sum Token-Group
- Dual-Constraint Range Projection
- ESCNet: Entity-enhanced and Stance Checking Network for Multi-modal Fact-Checking
- Tianqi Li
- Transformer++
- W4A4
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →