研究人员开发了一种名为“$\alpha$-split”的新方法,以提高多语言语音大语言模型(speech-LLMs)在联邦学习中的差分隐私保护。标准的逐层差分隐私方法在声学编码器和语言解码器组件更新范数差异显著时会遇到困难,导致“跨组件预算崩溃”。提出的$\alpha$-split方法通过为编码器和LLM参数创建两个独立的池来解决这个问题,在保持原始$(\varepsilon,\delta)$-DP保证的同时,为编码器提供了增强的噪声保护,以抵御梯度反演攻击。 AI
影响 增强了联邦学习环境中以语音为中心的LLM的隐私保证,可能有助于更安全地利用数据。
排序理由 学术论文,详细介绍了一种用于改进特定类型AI模型差分隐私的新技术方法。[lever_c_demoted from research: ic=1 ai=1.0]
- $\alpha$-split
- arXiv
- Component-Aware Differential Privacy
- differential privacy
- federated learning
- Federated Multilingual Speech-LLMs
- Hugging Face
- Speech LLMs
- word error rate
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →