研究人员推出了一种新颖的联邦提示调优方法FedSEPT,用于视觉语言模型,该方法增强了隐私保护并解决了数据异构问题。该方法利用子空间分解专家建模,创建具有共享低秩因子和私有残差的多个提示专家,将通信和隐私噪声限制在紧凑的因子空间内。此外,FedSEPT还采用了实例感知专家融合,用于自适应专家组合和使用缓存特征进行高效融合。在11个不同基准上的实验表明,在相同的隐私约束下,FedSEPT与现有方法相比,在本地适应性和全局泛化性之间取得了更优的平衡。 AI
影响 在异构环境中,提高了协作模型适应性的隐私保护和泛化能力。
排序理由 该集群包含一篇详细介绍联邦提示调优新方法的 ist 研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Federated prompt tuning
- FedSEPT
- Hugging Face
- Instance-aware Expert Fusion
- Local differential privacy
- Multi-expert prompts
- Subspace-decomposed Expert Modeling
- Vision--language Models
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →