SemiAdapt-Instruct

新框架可在无需重新训练的情况下实现可扩展的LLM指令调优

研究人员开发了SemiAdapt-Instruct，一个用于指令调优大型语言模型（LLM）的新颖框架。这个模块化系统解决了在不完全重新训练的情况下，将微调模型适应不断变化的领域所面临的挑战。它通过发现潜在指令领域，为每个领域训练单独的LoRA适配器，并使用无参数路由通过单适配器更新来整合新领域来实现这一点。SemiAdapt-Instruct在性能上优于完整的模型微调，并提供了单一方法所缺乏的可扩展性。