研究人员开发了STAPO(选择性轨迹感知策略优化),一个新颖的层次强化学习框架,旨在改进大型语言模型(LLM)代理的训练。STAPO解决了“轨迹忽略”问题,即代理因稀疏或延迟的奖励而失去对任务目标的关注。通过利用新颖的“归一化熵”指标,STAPO识别并优化与被忽略轨迹相关的异常步骤,增强了代理的意识和训练稳定性。在ALFWorld、WebShop和Search-Augmented QA基准上的实验表明,STAPO取得了最先进的性能,并有效缓解了轨迹忽略问题。 AI
影响 通过提高对长时任务的关注来增强LLM代理训练,并可能带来更强大、更具目标导向性的AI代理。
排序理由 该集群描述了一篇详细介绍LLM代理训练新方法的最新研究论文。
- ALFWorld
- arXiv
- Large Language Model
- LLM Agent Training
- reinforcement learning
- Search-Augmented QA
- Selective Trajectory-Aware Policy Optimization
- STAPO
- WebShop
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →