spectral space

新的SAR方法从LLM更新中提取紧凑型推理核心

研究人员开发了子空间对齐重构（SAR），一种新颖的大型语言模型事后编辑方法。SAR识别并分离出强化学习更新中的核心推理组件，这些组件通常集中在模型的谱空间中。通过保留这些基本组件并移除正交的、效果较差的部分，SAR可以在保留超过99%的训练后性能的同时，提高数学推理和代理编码能力。该技术还有助于模型合并和纯化混合域训练，展示了其作为增强LLM性能的无训练机制的潜力。