ConfRAG

新策略使用置信度引导将大语言模型幻觉率降至5%以下

研究人员开发了ConfQA，一种旨在显著减少大语言模型（LLMs）幻觉的微调策略。通过训练模型在缺乏置信度时回答“我不确定”，在各种事实性基准测试中，幻觉率已从20-40%降至5%以下。该方法使用阻尼提示和源自事实陈述的训练数据来提高模型的置信度校准。在ConfQA的基础上，ConfRAG被引入作为一种检索增强生成策略，仅在模型指示不确定时触发外部检索，实现了超过95%的准确率，同时将不必要的检索减少了30%以上。