Chopthin

新的LLM解码方法增强了推理的多样性和准确性

研究人员开发了一种名为Chopthin-Consensus Power Sampling (CCPS)的新方法，无需额外训练即可提高大型语言模型（LLM）的推理能力。该方法通过保留更丰富的不同轨迹集来解决现有方法修剪潜在正确推理路径的问题。CCPS还包含一个语义多数选择机制，用于聚合同义答案并返回支持度最高的回应。评估表明，CCPS显著提高了Oracle覆盖率，并在各种推理基准测试中达到或超过了现有方法的准确性。