Shiyi Yang

AirLLM框架实现高效大模型远程微调

研究人员开发了AirLLM，一个用于在边缘设备上高效微调大语言模型（LLMs）的新框架。该方法通过采用分层扩散策略，解决了通信带宽和计算资源有限的挑战。AirLLM根据无线条件和语言复杂度自适应地确定LoRA参数配置，并使用去噪扩散隐式模型（Denoising Diffusion Implicit Models）来优化这些决策。实验表明，AirLLM显著降低了传输成本，同时提高了微调性能。