Budget Relative Policy Optimization

新方法增强 LLM 推理和基准生成 · 跟踪 3 个来源

研究人员正在开发新方法来增强大型语言模型（LLM）的推理能力。一种名为 AnytimeReasoner 的方法通过适应不同的 token 预算并改进可验证的密集奖励的信用分配来优化推理效率。另一种技术，减弱诱导的策略内自蒸馏（WISD），通过创建较弱的对应模型进行对比训练来提高模型性能，而无需特权信息。此外，一个名为 DeoGen 的新基准生成器可自动创建规范推理的数据集，这对于在受监管环境中部署 LLM 至关重要。