PulseAugur
实时 05:59:18
English(EN) Contraction-Gauge Preconditioning for Quantized Matrix Multiplication

新的预处理方法提高了量化矩阵乘法的精度

研究人员开发了一种名为收缩-度量预处理的新方法,以提高量化矩阵乘法的精度,这是深度学习中的一项关键操作。该技术在量化之前联合选择因子表示及其共享模式,旨在减少乘积误差。该方法在图像分类任务上进行了评估,与现有基线相比,在 8 位和 4 位精度下均显示出显著的精度提高。 AI

影响 提高了 AI 模型计算的效率和准确性,有可能在更少的硬件上运行更大的模型。

排序理由 关于量化矩阵乘法新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的预处理方法提高了量化矩阵乘法的精度

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Piyush Sao, Narasinga Miniskar, Pedro Valero-Lara, Keita Teranishi, Sudip Seal ·

    量化矩阵乘法的收缩度量预训练

    arXiv:2607.18745v1 Announce Type: new Abstract: We study low-precision computation of C=AB with both factors quantized. We derive an exact finite-dimensional identity for the expected squared product error under independent, zero-mean entrywise errors with known variance fields; …