PulseAugur
实时 11:00:54

新方法改进Vision Transformers的无数据量化

研究人员开发了一种名为掩码注意力对齐(Masked Attention Alignment, MaskAQ)的新方法,用于Vision Transformers的无数据量化。该技术识别并聚焦于图像块中最具信息量的区域,这些区域对于自注意力机制至关重要。MaskAQ对全精度模型和量化模型之间的这些关键区域进行对齐,从而提高了合成数据的质量并增强了各种任务的量化性能。 AI

影响 通过改进无数据量化技术,提高了Vision Transformers的效率。

排序理由 该集群包含一篇详细介绍特定AI任务新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Biao Qian, Yang Wang, Yong Wu, Jungong Han ·

    Selective Coupling of Decoupled Informative Regions: Masked Attention Alignment for Data-Free Quantization of Vision Transformers

    arXiv:2606.04373v1 Announce Type: cross Abstract: Data-Free Quantization (DFQ) addresses data security concerns by synthesizing samples, without accessing real data. It has garnered increasing attention in the context of Vision Transformers (ViTs), owing to the superiority of the…