Secure Aggregation
PulseAugur coverage of Secure Aggregation — every cluster mentioning Secure Aggregation across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
联邦学习研究探索信任机制和隐私限制
一篇新研究论文提出了一种用于联邦学习（FL）系统的基于信任的激励机制，以增强可靠性和公平性。该机制根据数据质量、模型准确性和贡献频率动态评估信任分数，奖励高信任度参与者并惩罚低信任度参与者。论文还探讨了集成区块链和智能合约以实现自动化、透明的信任评估和激励分配。另外，一篇技术文章澄清，虽然联邦学习可以防止原始数据离开设备，但它本身并不保证服务器匿名性或防止模型数据泄露，需要额外的协议（如安全聚合）来提供更强的隐私保护。
-
梯度泄露攻击威胁电路设计的GNN
一篇新的研究论文详细介绍了对用于电路设计和硬件安全的图神经网络（GNN）的梯度泄露攻击（GLA）的首次全面评估。研究表明，GLA可能暴露门类型和硬件木马属性等敏感信息，从而可能帮助对手。虽然GIN等一些GNN架构提供了更强的韧性，但GAT等其他架构可能会加剧泄露。现有的防御技术效果有限，并且可能降低模型性能，这表明需要更强大的隐私保护解决方案。
-
联邦学习的进展提高了隐私性并降低了通信成本
研究人员开发了新的方法来增强联邦学习中的隐私和效率。一种方法侧重于通过使用 Top-K 梯度稀疏化来降低通信成本，该方法仅传输必要的梯度信息，同时保持模型准确性。另一个框架 DDP-SA 将本地差分隐私与秘密共享相结合，以确保没有任何单个服务器可以访问单个客户端数据，从而提供比现有方法更强的隐私保证。这些进展旨在使联邦学习更具可扩展性和安全性，特别是对于大型模型和去中心化系统。
-
FedAttr协议实现了联邦LLM微调中隐私保护的归因
研究人员开发了FedAttr，一种新颖的协议，旨在识别联邦学习设置中哪些客户端在微调大型语言模型时使用了带水印的数据。该方法解决了联邦学习中的挑战，在这种学习中，安全聚合通常会掩盖单个客户端的贡献。FedAttr采用配对子集差分机制来估计客户端更新，并采用具有水印检测器的差分评分方法，在经验测试中实现了完美的真阳性率和零假阳性率。