Online Self-Weighted Fine-Tuning

新研究探索大语言模型高级微调技术 · 跟踪 3 个来源

三篇新研究论文探讨了大型语言模型监督微调 (SFT) 的高级技术。第一篇论文研究了包括 Qwen3 和 Llama 在内的不同模型规模和系列在 LoRA 和完全微调中的学习率和批次大小等最优超参数。第二篇介绍了在线自加权微调 (OSW-FT) 方法，该方法根据模型估计的成功率调整更新幅度，在 Qwen3 模型推理任务上显示出改进。第三篇论文《Stick to What You Know》专注于知识对齐 SFT，通过确保训练目标与基础模…