研究人员开发了一种名为零样本量化的新方法,该方法利用权重空间算术来提高模型对量化的鲁棒性。该技术从供体任务中提取“量化向量”并将其应用于受体模型,在不进行量化感知训练的情况下,将量化后训练的准确性在3位设置下提高了高达60%。该方法在各种视觉和语言模型以及30多个任务中都显示出显著的收益,表明量化鲁棒性可以通过模型权重的代数运算来分离和转移。 AI
影响 该方法通过减小模型尺寸而不会显著降低准确性,从而能够更有效地在资源受限的设备上部署大型模型。
排序理由 该集群包含一篇详细介绍模型量化新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- DagsHub
- Daniele Solombrino
- Gotit.pub
- Hugging Face
- Influence Flower
- ScienceCast
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →