Fully Adapted Annealed SMC

新技术在无需重新训练的情况下增强LLM推理能力

研究人员推出了一种名为解耦边际锐化（Decoupled Marginal Sharpening, DMS）的新技术，可以在推理时增强大型语言模型（LLM）的推理能力，而无需更新模型权重或使用外部奖励模型。DMS通过分别控制模型对特定推理路径的偏好及其最终答案的选择，解决了现有幂采样方法中的挑战。这种方法允许探索多样化的推理路径，然后更侧重于具有更大聚合支持的答案。在多个基准测试和LLM上的实验表明，DMS在提高推理任务的准确性方面优于现有方法。