generative reward models

新的EnGRICH框架通过人类批评的泛化能力增强了LLM奖励模型

研究人员开发了EnGRICH，一个旨在改进用于优化大型语言模型（LLM）的生成式奖励模型（GRM）的新框架。GRM在偏好判断的同时提供详细的批评，但其可靠性至关重要。EnGRICH采用在稀疏人类批评上训练的“MetaCritic”来构建评分标准并评估生成批评的质量。这种方法使GRM能够将从人类反馈中学到的评估标准泛化到仅提供基于结果的偏好的大型数据集上，从而在七个奖励模型基准测试中提高了性能。