研究人员开发了一种新方法来改进大型语言模型（LLM）的校准，解决了因偏好对齐技术而常常出现的过度自信问题。这种新颖的方法，称为双层优化，通过最大化预测分布的熵来修改模型参数。这直接通过抑制过于集中的预测来对抗过度自信。该方法采用高效的一阶近似，使其能够扩展到LLM，并在问答任务中展示了改进的校准和域外泛化能力。 AI
影响 这项研究为校准LLM提供了一种更鲁棒的方法，有望带来更可靠和值得信赖的AI系统，尤其是在域外场景中。
排序理由 该集群包含一篇详细介绍LLM校准新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
