研究人员调查了大型语言模型中温度采样(一种控制推理过程中可靠性和多样性之间平衡的机制)的使用情况。虽然一些研究表明在不同样本中使用不同的温度可以提高性能,但固定温度方案仍然很常见。本文分析了 pass@K 设置,研究了温度如何影响不同模型和数据集上的成功概率。研究结果表明,虽然最佳的多温度分配可以提高性能,但与单温度基线相比,收益通常很小,尤其是在根据采样预算调整温度时。 AI
影响 阐明了多温度采样何时有利于 LLM 推理以及如何优化温度选择。
排序理由 该集群包含一篇讨论大型语言模型技术方面的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →