一篇新研究论文介绍了“LLM强化学习中的马太效应”，该效应观察到强化学习不成比例地使大型语言模型的简单任务受益，而困难任务的改进却很小。为了解决这个问题，该论文提出了“永不放弃”（NGU），一种自适应采样方法，重新分配计算资源。NGU通过持续生成样本直到找到正确解决方案来优先处理更难的问题，从而提高每计算的性能，尤其是在具有挑战性的任务上。 AI
影响 这项研究可能导致LLM更有效率和更有效地进行训练，尤其是在目前通过标准强化学习方法改进有限的复杂任务方面。
排序理由 详细介绍LLM训练新方法的学术论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
arXiv:2609.13443v1 Announce Type: cross Abstract: We demonstrate that training LLMs with RL does not improve performance equally across a dataset. RL shows large improvements on easy problems that an LLM is already good at solving, but small improvements on hard problems. We call…
Reinforcement learning for large language models disproportionately improves easy tasks, and an adaptive sampling method called NGU reallocates compute to harder problems to boost overall performance.
Learning to solve hard problems in RL for LLMs by never giving up https:// arxiv.org/abs/2609.13443 Comments URL: https:// news.ycombinator.com/item?id=4 9717280 Points: 5 # Comments: 0 https:// mnoukhov.github.io/posts/ngu/ # Tech # Technology # TechNews # AI # Gadgets # Softwar…