PulseAugur
中
实时 07:43:13
English(EN) MARR: Module-Adaptive Residual Reconstruction for Low-Bit Post-Training Quantization

新的MARR技术提升了LLM和ViT的低比特量化性能

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种名为模块自适应残差重构（MARR）的新技术，以改进大型语言模型和视觉变换器的低比特训练后量化。MARR通过自适应地平衡不同模型模块之间的误差校正和偏差来解决现有方法的局限性。该方法使用特定于模块的缩放系数和基于PID的更新策略来优化系数，从而在4位或更低的量化级别上带来显著的性能提升。 AI

影响 通过改进低比特量化技术，提高了LLM和ViT的效率。

排序理由 详细介绍模型量化新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的MARR技术提升了LLM和ViT的低比特量化性能

报道来源 [1]

  1. arXiv cs.CV TIER_1 English(EN) · Zhi Jin ·

    MARR：低比特训练后量化的模块自适应残差重构

    Recently, residual reconstruction-based model quantization methods have achieved promising performance in low-bit post-training quantization (PTQ) by introducing cross-layer residuals to reduce error accumulated from previous layers.However, these residuals may also introduce add…

相关实体

相关话题