研究人员推出了一种新颖的框架 HölderPO，通过统一 Hölder 均值的 token 级概率聚合来优化大型语言模型。该方法为梯度集中和方差之间的权衡提供了持续控制，解决了固定聚合机制可能导致训练崩溃或性能不佳的局限性。采用动态退火算法在训练生命周期中调度 Hölder 均值参数，展示了卓越的稳定性和收敛性。大量评估表明，HölderPO 在数学基准测试中达到了最先进的准确率，并在 ALFWorld 上取得了高成功率。 AI
影响 引入了一个新的优化框架，提高了 LLM 在数学和推理任务上的稳定性和性能。
排序理由 该集群包含一篇详细介绍优化大型语言模型新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →