研究人员推出了一种名为SAGE（Semantic-Answer Guided Entropy）的新方法，用于改进大型语言模型表达不确定性的方式。SAGE将语言不确定性视为一个校准问题，通过重复的模型输出来设定适当的不确定性目标。该方法旨在确保模型以自然语言表达的不确定性能够更准确地反映其在各种任务上的实际表现和置信度水平。 AI
影响 通过确保LLM声明的不确定性与其性能保持一致，提高了LLM的可靠性，这对于高风险应用至关重要。
排序理由 该集群包含一篇研究论文，详细介绍了一种改进LLM不确定性校准的新方法。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2606.11512v1 Announce Type: new Abstract: Large language models increasingly express uncertainty through natural-language statements, yet these expressions often fail to reflect the model's sampled behavior. We study verbal uncertainty alignment as a distributional calibrat…
Large language models increasingly express uncertainty through natural-language statements, yet these expressions often fail to reflect the model's sampled behavior. We study verbal uncertainty alignment as a distributional calibration problem: the appropriate uncertainty target …