K-Merge 提供高效的设备端 LLM 适配器合并

研究人员推出了一种名为 K-Merge 的新策略，用于高效合并设备端大型语言模型 (LLM) 的多个低秩适配器 (LoRA)。该方法解决了在保持现有任务性能的同时增量添加新 LoRA 的挑战，这对于存储空间有限的设备至关重要。实验表明，K-Merge 在实际场景中优于其他策略，并符合存储和计算限制。 AI

影响 通过优化存储和任务性能，实现了更高效的设备端 LLM 部署。

排序理由 该集群包含一篇详细介绍 LLM 适配器合并新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• DagsHub
• Donald Shenaj
• Gotit.pub
• Hugging Face
• K-Merge
• large-language models
• LorAs
• Low-Rank Adapters
• ScienceCast

• 论文
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →