研究人员推出RL-ARC,一个新颖的训练框架,旨在提高用于推理任务的大型语言模型(LLM)的校准并减少其过度自信。与以往忽略校准或牺牲推理性能的方法不同,RL-ARC联合优化推理置信度和答案置信度。该方法使用推理置信度作为信号,以惩罚错误答案的过度自信并规范正确答案,从而在不显著影响推理能力的情况下实现更可靠的置信度估计。 AI
影响 通过在不牺牲性能的情况下提高置信度估计,增强了推理模型的可靠性。
排序理由 该集群包含一篇详细介绍语言模型新训练框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- Connected Papers
- DagsHub
- Gotit.pub
- Hugging Face
- Language Models
- Litmaps
- Reinforcement Learning with Verifiable Rewards
- RL-ARC
- ScienceCast
- Scite
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →