研究人员推出了一种名为 ARBITER 的新颖方法，旨在通过解决测试时采样中的失败来提高语言模型的准确性。标准的采样方法会生成多个推理路径并通过多数投票选择答案，但这可能导致选择不正确的答案，如果它们属于最稳定而非最准确的推理盆地。ARBITER 仅使用模型自身的采样输出和隐藏状态来模拟这些盆地之间的交互，通过增加证据来增强共识。该方法在各种模型和基准测试中都显示出了一致的准确性提升，在没有外部信息的情况下恢复了很大一部分潜在的性能改进。 AI
影响 通过减轻采样中的多数投票失败来增强 LLM 推理能力，有可能提高在复杂任务上的准确性。
排序理由 这是一篇详细介绍一种改进语言模型性能的新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
