CalibraRL

新的强化学习框架CalibraRL解决了RAG中LLM的幻觉问题

研究人员开发了CalibraRL，一个新颖的强化学习框架，旨在减少检索增强生成（RAG）中使用的语言大模型（LLMs）的幻觉。这种新方法将响应置信度和查询特定证据纳入奖励系统，旨在更好地惩罚过于自信的错误答案并阻止不必要的弃权。在问答数据集上的实验表明，CalibraRL提高了答案的准确性，并显著降低了平均预期校准误差，从而提高了LLM在网络搜索等应用中的可靠性。