Michael Noukhovitch

新的强化学习方法NGU解决了LLM训练中的“马太效应”·跟踪2个来源

一篇新研究论文介绍了“LLM强化学习中的马太效应”，该效应观察到强化学习不成比例地使大型语言模型的简单任务受益，而困难任务的改进却很小。为了解决这个问题，该论文提出了“永不放弃”（NGU），一种自适应采样方法，重新分配计算资源。NGU通过持续生成样本直到找到正确解决方案来优先处理更难的问题，从而提高每计算的性能，尤其是在具有挑战性的任务上。