研究人员开发了一种新颖的方法来量化大型语言模型 (LLM) 完成的不确定性,称为序列级 Rényi 熵 (SRE)。该技术利用序列蒙特卡洛 (SMC) 解码以零额外计算成本估算序列级熵。与传统的局部 token 熵或自洽性方法相比,SRE 方法为选择性预测和自适应计算提供了更有效的信号,在 MATH500 等基准测试中表现出更好的性能。 AI
影响 这种零成本不确定性量化方法可以提高 LLM 在自适应计算场景中的效率和可靠性。
排序理由 该集群包含一篇研究论文,详细介绍了 LLM 不确定性量化的一种新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv
- MATH500
- Rényi entropy
- ScienceCast
- Sequential Monte Carlo methods in filter theory
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →