研究人员开发了一种名为收缩-度量预处理的新方法,以提高量化矩阵乘法的精度,这是深度学习中的一项关键操作。该技术在量化之前联合选择因子表示及其共享模式,旨在减少乘积误差。该方法在图像分类任务上进行了评估,与现有基线相比,在 8 位和 4 位精度下均显示出显著的精度提高。 AI
影响 提高了 AI 模型计算的效率和准确性,有可能在更少的硬件上运行更大的模型。
排序理由 关于量化矩阵乘法新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →