SchurQuant

SchurQuant 提升 LLM 量化精度，2 位模型精度提升超 11 pp

研究人员开发了 SchurQuant，一种用于大型语言模型 (LLM) 的逐层量化新方法，可显著提高精度，尤其是在较低比特率下。该技术包含一个名为 SCHUROPT 的组件，通过消除剩余后缀的最佳连续响应并优化离散码来分析优化量化过程。SchurQuant 在 2 位 Qwen3-4B 模型上表现出显著的收益，优于现有的无反向传播方法高达 11.88 个百分点，并在各种 Llama 和 Qwen 模型上实现了最高的零样本精度。