Ludwig

新框架通过反事实学习提升 LLM 实用推理能力

研究人员开发了 PragReST，一个新颖的自监督框架，旨在增强大型语言模型 (LLM) 的实用推理能力。该框架生成反事实推理轨迹，并使用监督微调和强化学习来训练模型，无需人工标注数据或从更大模型进行蒸馏。在四个实用基准测试中，PragReST 显著优于现有方法，将 Qwen3-8B 和 Qwen3-14B 模型的准确率提高了 5% 以上。至关重要的是，训练过程并未对模型的通用知识和数学推理任务的性能产生负面影响。