实体
LLM+RL
LLM+RL
PulseAugur coverage of LLM+RL — every cluster mentioning LLM+RL across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的预测性散度掩码增强了 LLM 强化学习
研究人员引入了一种名为预测性散度掩码的新方法，用于改进大型语言模型 (LLM) 的强化学习 (RL)。该技术旨在通过更好地使方向标准与信任区域掩码中使用的邻近标准保持一致来稳定离策略更新。所提出的掩码预测下一个策略梯度步骤是会增加还是减少散度，比传统的基于比率的方法提供了更精确的一致性。这种方法在各种模型规模和精度设置的 RL 训练中都显示出了改进。
-
新的RIPO算法增强了LLM强化学习
研究人员推出了一种新颖的强化学习算法——黎曼等距策略优化（RIPO），旨在解决大型语言模型（LLM）中的探索崩溃问题。该算法纠正了现有方法（如PPO-Clip）的一个根本性缺陷，这些方法在策略的黎曼流形上错误地使用了欧几里得度量，导致更新不平衡。RIPO确保了等距策略更新，从而稳定了优化并改善了偏差-方差权衡。实验表明，RIPO在LLM强化学习算法方面显著优于其他算法，在AIME24基准测试上取得了高达60%的提升。