PulseAugur
实时 10:27:13
实体 Quantization Damage Is Multiplicative, Not Additive

Quantization Damage Is Multiplicative, Not Additive

PulseAugur coverage of Quantization Damage Is Multiplicative, Not Additive — every cluster mentioning Quantization Damage Is Multiplicative, Not Additive across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_191298 ·

    研究发现:大语言模型量化损害呈乘法效应,而非加法效应

    一篇新发表在arXiv上的研究论文探讨了量化对大语言模型(LLMs)的影响,发现量化造成的损害是乘法效应而非加法效应。这意味着,随着模型被压缩到更低的比特宽度,其决策裕度会缩小,导致工具使用和安全拒绝方面出现不可预测的失败,即使基准测试分数在很大程度上保持不变。该研究提出了一个统计模型,根据裕度缩小来预测这些失败,提供了一种比先前加性噪声假设更准确的方法。