新的LoRDBA方法可实现高效的设备端LLM微调

作者 PulseAugur 编辑部 · [1 个来源] · 2026-05-26 04:00

研究人员开发了一种名为LoRDBA的新方法，用于在设备上微调大型语言模型。该技术用二元符号载体替换标准的低秩因子，显著减小了适配器的存储占用空间，同时保持了与全精度LoRA适配器相当的质量。实验表明，LoRDBA引入的延迟开销极小，训练内存使用量适中，使得设备端适配更加高效。 AI

影响实现了更高效的LLM设备端适配，可能降低本地部署的成本并提高可访问性。

排序理由该集群包含一篇详细介绍LLM微调新颖方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Yoshihiko Fujisawa, Yuma Ichikawa, Yudai Fujimoto, Akira Sakai, Katsuki Fujisawa · 2026-05-26 04:00

Signs Beat Floats: Low-Rank Double-Binary Adaptation for On-Device Fine-Tuning

arXiv:2605.24058v1 Announce Type: cross Abstract: On-device adaptation of large language models commonly keeps a quantized base model frozen while training and deploying a small, task-specific LoRA adapter. In the unmerged adapter-mode setting, however, the adapter is more than a…