Faithful Calibration

新的强化学习方法增强了大型语言模型的不确定性表达和可信度

研究人员开发了一种名为“基于元认知反馈的强化学习”（RLMF）的新方法，以改进大型语言模型（LLMs）表达其不确定性的方式。该方法利用模型对其性能的自我评估来优化其响应并识别有价值的训练数据，其表现优于标准的活动学习技术。实验表明，RLMF显著增强了“忠实校准”，使表达的不确定性与内在置信度保持一致，并提高了LLMs识别和传达其知识边界的能力。