TrajVal

新TrajVal方法通过任务可学性预测提升LLM推理能力

研究人员推出TrajVal，一种用于提高大型语言模型（LLM）训练后强化学习（RL）效率的新颖方法。与以往关注任务当前可解性的方法不同，TrajVal衡量“任务可学性”，预测任务对进一步训练的响应程度。该指标源自对奖励轨迹的分析，具有可复现性并能预测下游效用。实验表明，TrajVal提高了数学和逻辑推理任务中的数据效率，无论是在作为任务采样独立的先验，还是与现有在线调度方法集成时，都能带来好处。