Kajetan Dymkiewicz

LLM 微调在跨任务和跨语言方面显示出非对称收益

一篇新的研究论文探讨了在使用 LoRA+ 等参数高效方法进行微调时，大型语言模型 (LLM) 中非对称迁移的现象。Kajetan Dymkiewicz 进行的研究分析了在单一任务和语言上微调 LLM 如何影响其在其他任务-语言对上的性能。研究结果表明，虽然微调通常会提高性能，但收益分布不均，其中匹配任务、跨语言迁移是最有效和可预测的。研究表明，理解这些“捐赠者-接收者”的角色对于最大化下游收益和最小化其他能力退化至关重要。