English(EN) Activation Quantization of Vision Encoders Needs Prefixing Registers

RegCache 算法通过缓解异常值来改进 Vision Encoders 的量化

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-09 04:00

研究人员开发了一种名为 RegCache 的新型无训练算法，以解决量化 Vision Encoders 中的异常值问题。该方法引入前缀标记来缓解异常值，尤其是在低比特量化场景下能提高性能。RegCache 被设计为一个即插即用模块，可以与现有的量化技术集成。 AI

影响该方法可以降低 Vision Encoders 的推理成本，从而实现更高效的设备端处理和 Vision-Language 模型。

排序理由该集群包含一篇详细介绍用于改进 Vision Encoders 量化新算法的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.LG TIER_1 English(EN) · Seunghyeon Kim, Taesun Yeom, Jinho Kim, Wonpyo Park, Kyuyeun Kim, Jaeho Lee · 2026-07-09 04:00

Activation Quantization of Vision Encoders Needs Prefixing Registers

arXiv:2510.04547v5 Announce Type: replace Abstract: Large pretrained vision encoders are central to multimodal intelligence, powering applications from on-device vision processing to vision-language models. Since these applications often demand real-time processing of massive vis…