RLEC

新的RLEC方法训练LLM以实现明确的置信度目标

研究人员开发了RLEC，一种新颖的强化学习方法，旨在训练大型语言模型（LLM）以遵循明确的置信度目标。与以往难以区分置信度水平的方法不同，RLEC成功地使单个LLM能够根据用户指定的置信度要求来控制其响应行为。这是通过保留学习信号、引入稳定的奖励族和采用奖励调度来实现训练稳定性的。实验表明，RLEC在保持LLM通用能力的同时，提供了具有竞争力的校准性能和细粒度控制，无需进行训练后调整。