PulseAugur
中
实时 10:00:33
实体 Large Language Model Quantization

Large Language Model Quantization

PulseAugur coverage of Large Language Model Quantization — every cluster mentioning Large Language Model Quantization across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_326900 ·

    新的ResCom技术在量化后提升大语言模型准确性

    研究人员开发了一种名为ResCom的新技术，以提高大语言模型量化后的准确性。该方法通过使用低秩校正来补偿层输出中的错误，从而解决了激活舍入造成的性能下降问题。ResCom在Llama-3-8B模型上展示了显著的改进，降低了困惑度，并提高了在WikiText-2、MMLU和GSM8K等基准测试上的准确性。该技术对各种模型尺寸都有效，并在内存减少和性能之间取得了平衡。