Abiel Malkani Talwar

新研究质疑功率采样在 LLM 推理中的有效性

一篇新的 arXiv 论文批判性地审视了用于增强大型语言模型 (LLM) 推理能力的功率采样技术。研究表明，这些方法，包括马尔可夫链蒙特卡洛 (Markov chain Monte Carlo) 和序列蒙特卡洛 (sequential Monte Carlo)，主要通过锐化现有 LLM 输出的分布来发挥作用，而不是真正地近似目标功率分布。研究发现，简单的“N 中选优”(Best-of-N) 采样可以取得类似的结果，而直接微调模型以匹配…