Decentralized federated learning system
PulseAugur coverage of Decentralized federated learning system — every cluster mentioning Decentralized federated learning system across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
新型攻击利用联邦学习漏洞,增强隐蔽性和效率 · 已追踪3个来源
研究人员开发了新的方法来增强联邦学习中的分布式后门攻击,使其更具隐蔽性和效率。一种方法是分形触发的分布式后门攻击(FTDBA),它利用分形特性来增强子触发器,需要更少的中毒数据,同时降低检测率。另一种方法是细粒度分布式后门攻击框架(FDBA),它采用动态触发器生成和嵌入向量优化来实现类似目标,中毒样本更少。此外,还提出了一种基于格的重构攻击,该攻击利用去中心化联邦学习安全聚合中的结构泄露来重构单个模型更新以及潜在的私人训练数据。
-
新的CACTUS方法在去中心化联邦学习中植入语义后门
研究人员开发了CACTUS,一种在去中心化联邦学习系统中植入语义后门的新颖方法。该技术将标签一致的语义对转换为目标导向的表示偏移,隔离触发器效应并将其耦合到样本中。CACTUS在Speech Commands数据集上展示了51.2%的平均攻击成功率,并在各种聚合规则下,在四种测试模态中的三种上实现了最高的平均ASR,表明其在通过重复的去中心化聚合传播后门的有效性。
-
D-FROST算法使用最优传输进行去中心化提示调优
研究人员推出了一种新颖的去中心化联邦学习算法D-FROST,用于提示调优。该方法通过将提示调优构建为基于Wasserstein的优化问题,解决了去中心化环境中的挑战,例如不匹配的提示集和达成共识的需求。D-FROST利用最优传输来匹配和合并邻近提示,确保了客户端之间收敛和共识的理论保证。实验证明了其在异构数据环境中的有效性。
-
联邦学习研究通过新算法和放置策略应对拜占庭攻击
研究人员正在探索提高联邦学习的安全性和效率,特别是针对拜占庭攻击,在这种攻击中,恶意参与者会破坏训练过程。一项研究引入了一种 Nesterov 加速联邦学习算法 (Byrd-NAFL),该算法将动量与鲁棒聚合规则相结合,以确保快速安全的收敛,并在数值实验中展示了卓越的性能。另一篇论文侧重于优化去中心化联邦学习系统中拜占庭节点的放置,提出了一种拜占庭放置影响 (BPI) 指标来量化受损节点对诚实参与者的影响,并开发了识别破坏性配置的算法。
-
新研究强调联邦学习系统的漏洞 · 跟踪到2个来源
研究人员开发了新的框架来解决联邦学习系统中的安全漏洞。一种名为STAIN-FL的方法,通过操纵标签和掩盖梯度,在视频异常检测中引入了隐蔽的、上下文触发的后门攻击,在对干净准确率影响最小的情况下,表现出显著的错误分类率。另一项贡献BackDFL,作为去中心化联邦学习中后门攻击和防御的统一基准,揭示了在现实的、自适应的攻击下,尤其是在异构和依赖图拓扑的场景中,当前鲁棒的方法和适应性防御会失效。
-
新的DFL框架解决了语义通信网络中的偏差问题
研究人员开发了一种新颖的去中心化联邦学习(DFL)框架,旨在减轻异构、多任务语义通信网络中的负迁移和过度共识偏差。所提出的系统采用策略驱动的多路径路由机制,将任务特定特征与共享表示分离,从而保留局部保真度。此外,“边通信边聚合”协议根据任务亲和度校准共识矩阵,使系统能够吸收互补知识,同时阻止不匹配的参数更新。通过Lyapunov漂移分析,该框架确定了平衡拓扑混合和过度共识偏差的最佳聚合深度,从而显著优于现有方法。
-
新方法优化去中心化联邦学习的能效
研究人员开发了一种新的混合矩阵设计方法,以提高无线网络中去中心化联邦学习(DFL)的能效。该方法专门针对节点单位能耗的最小化,这是功率受限设备的关键因素。所提出的框架利用时变通信拓扑和优化预算来平衡能耗和收敛速度,并基于一种新颖的收敛定理。
-
新框架优化去中心化联邦学习的拓扑选择
研究人员推出AIRPLAN,一个用于优化过顶去中心化联邦学习(OTA-DFL)拓扑选择的新颖框架。通过将OTA-DFL与分布式查询处理进行类比,AIRPLAN将拓扑选择构建为一种基于成本的查询优化问题。该系统利用隐私保护的Count-Min Sketch统计数据来估计工作负载特征并评估通信图成本,最终选择能够满足准确性服务级别协议并最大限度地降低训练成本的拓扑。
-
新架构赋能流式AI和物联网的去中心化编排
一篇新论文提出了一种面向流式计算环境的去中心化编排架构,旨在改善跨异构设备(如终端设备、边缘基础设施和云平台)的资源管理。该架构使自主域能够协调并满足部署请求,同时保持本地控制。作为实际演示,该系统应用于一个多域去中心化联邦学习用例,并整合了一个名为FU-HST的SDN赋能的异常检测机制,以增强对拜占庭威胁的安全性。
-
新的WFAgg算法增强了去中心化联邦学习的安全性
研究人员开发了一种名为WFAgg的新型拜占庭鲁棒聚合算法,用于去中心化联邦学习(DFL)。该算法旨在通过识别和缓解拜占庭攻击来增强DFL环境的安全性,即使在动态去中心化拓扑中也是如此。实验结果表明,WFAgg在图像分类任务上能有效保持模型准确性和收敛性,其性能优于现有的中心化拜占庭鲁棒聚合方法,如Multi-Krum和Clustering。
-
SPARK方法通过稳定的NTK更新加速去中心化联邦学习
研究人员开发了SPARK,一种在异构数据条件下提高去中心化联邦学习(DFL)收敛速度和稳定性的新方法。SPARK利用分阶段退火的软标签正则化器结合动量来加速神经切线核(NTK)更新,而NTK在这些场景中传统上面临不稳定的挑战。所提出的方法在各种数据分布和网络设置下,与现有基线相比,收敛速度提高了3倍,通信量减少了约70%,同时保持了更高的准确性,显示出显著的改进。
-
新的去中心化EM算法改进了联邦学习中的高斯混合模型
研究人员开发了用于联邦学习场景中高斯混合模型的新型去中心化算法。这些方法,包括一种基于动量的方法(MNEM)和一种半监督变体(semi-MNEM),解决了数据分布异质性和部分标记带来的挑战。理论分析表明,MNEM可以实现与集中式方法相当的渐近效率,而semi-MNEM则提高了收敛速度,这已通过模拟和对胸部X光数据集的分析得到证明。
-
新研究通过主动客户端选择和隐私分析推进联邦学习
研究人员正在探索改进联邦学习的新方法,这是一种在保护隐私的同时跨分布式数据源训练模型的技术。一种名为“明智且私密地选择”的方法,利用互信息和潜在联邦损失,在训练开始前主动选择其数据能最大化效用和公平性的客户端。另一项研究引入了一种轻量级几何信号,通过测量本地训练与全局模型功能行为的偏差来检测异常客户端。此外,新的理论工作为差分隐私联邦学习协议建立了通用下界,并分析了集中式和分布式联邦学习架构之间的权衡。