LR-LoRA

新方法提升LLM微调效率和鲁棒性

研究人员开发了新的方法来提高微调大型语言模型（LLM）的效率和鲁棒性。一种方法是可学习秩LoRA（LR-LoRA），它为不同层动态调整适配器的秩，在各种基准测试中表现优于固定秩方法。另一种技术是状态自适应提示优化（SAPO），它优化训练提示词以减轻灾难性遗忘并增强泛化能力。此外，一项关于仅有用模型的研究揭示了潜在问题，如涌现式失准和糟糕的可控性，并提出通过合成文档微调和以角色为中心的训练来解决这些不足。