实体
Yet Another Quantization Approach
Yet Another Quantization Approach
PulseAugur coverage of Yet Another Quantization Approach — every cluster mentioning Yet Another Quantization Approach across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
新方法提高神经网络量化效率和准确性
研究人员开发了新的神经网络量化方法，该过程可减少 AI 模型对内存和计算的要求。第一篇论文介绍了 BaKron，一种使用 Kronecker 分解的 Hessian 近似来提高量化准确性同时保持与 GPTQ 等现有方法相当的计算效率的高效求解器。第二篇论文提出了归一化仿射预处理 (NAP)，它针对参数的特定子空间（归一化仿射参数）来显著增强量化鲁棒性，特别是对于紧凑型网络，其性能优于传统的全参数训练方法。
-
新的量化方法提高了AI模型压缩和光谱性能
研究人员开发了新的模型量化方法，这是一种用于压缩AI模型的技术。一种名为YAQA的方法，为量化中的端到端误差界限提供了理论结果，其性能比GPTQ/LDLQ等现有方法提高了约30%，甚至超过了感知量化训练。另一项研究探索了随机舍入（SR），证明它是一种谱正则化器，不仅增加了矩阵的最小奇异值，还提升了频谱尾部整个奇异值簇。
-
Together AI发布YAQA以改进LLM量化
Together AI推出了一种新颖的大型语言模型后训练量化技术YAQA。该方法旨在通过直接最小化KL散度来比现有算法更有效地保留原始模型的输出。YAQA通过近似KL散度的Hessian来实现这一点，与当前的舍入方法相比，KL散度降低了30%以上，并在下游任务上提高了性能。