PulseAugur
中
实时 16:23:25
English(EN) Can LoRA Fusion Support Cross-Domain Tasks in Cloud-Edge Collaboration?

新框架支持隐私保护的LoRA融合，用于跨域AI任务

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一个名为prune-train-recover的新框架，以支持在剪枝模型上进行本地LoRA训练，实现云边协同。该方法通过允许在边缘设备上训练LoRA适配器而不上传敏感域数据来解决隐私问题。研究还引入了跨域基准MMLU-CD，并发现现有的LoRA融合方法在此类任务上的表现不佳，通常性能低于基础LLM。为了解决这个问题，提出了一种冲突解决模块LoRA-CR，通过缓解参数冲突，性能提高了高达3.8%。 AI

影响 这项研究可能有助于在分布式云边环境中实现更有效、更注重隐私的AI模型适应。

排序理由 学术论文，提出了一个新的LLM域适应框架和基准。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Yatong Wang, Fali Wang, Naibin Gu, Zheng Lin, Zhengxiao Liu, Dingyu Yao, Zhiwei Zhang, Jianxin Shi, Weiping Wang ·

    LoRA Fusion能否支持云边协同中的跨域任务？

    arXiv:2605.23913v1 Announce Type: cross Abstract: Cloud-hosted large language models (LLMs) commonly rely on LoRA for domain adaptation, yet domain data are distributed across multiple edge devices and cannot be uploaded due to privacy constraints. This raises a fundamental quest…

相关实体

相关话题