FedAvg
PulseAugur coverage of FedAvg — every cluster mentioning FedAvg across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
新的MESH-FL框架提高了边缘设备的联邦学习压缩率
研究人员开发了MESH-FL，一个用于边缘设备联邦学习的新型框架，该框架利用熵引导压缩来处理多模态模型。该方法根据谱熵自适应地分配不同层、模态和设备上的压缩秩，旨在在有效载荷约束下优化性能。在树莓派集群上进行的实验表明，与标准的FedAvg相比，MESH-FL可以在提高准确性和减少数据传输的同时，实现显著的压缩比。
-
新的FDRMFL框架增强了在非独立同分布数据上的多模态联邦回归
研究人员推出了一种新颖的框架FDRMFL，专为联邦回归任务中的多模态特征提取而设计，特别解决了非独立同分布（non-IID）数据带来的挑战。该框架采用了一个包含四个项的局部目标函数：MSE预测损失、互信息代理、用于跨模态分布对齐的对称KL惩罚项，以及用于将局部表示锚定到全局共识的对比损失。在合成和真实世界数据集上的实验表明，FDRMFL的有效性，与PCA和VAE等传统方法相比，平均MSE显著降低，并且优于FedAvg和FedProx等…
-
新型NL-SME方法增强了联邦学习中的梯度反演攻击
研究人员开发了一种新颖的NL-SME方法，旨在对抗联邦学习中的多步梯度反演攻击。该方法构建了一个可学习的非线性代理轨迹来近似隐藏的局部状态，将轨迹级别的信息与校准的梯度匹配相结合。NL-SME还包含一个更新可靠性感知策略，以减轻扰动更新中不可靠组件的影响。实验表明，NL-SME在重建质量和准确性方面显著优于现有方法，突显了即使在联邦学习的多步更新中也存在潜在的隐私泄露风险。
-
FedAvg 算法探索个性化与泛化能力在 HAR 中的权衡
本文探讨了 FedAvg 算法在人类活动识别 (HAR) 领域的有效性，重点关注联邦学习中个性化与泛化准确性之间的平衡。研究人员设计并实施了各种测试场景，以比较集中式、本地式和联邦式学习范式，包括模拟变化的客户端数据。实验结果表明，与传统的集中式学习相比，FedAvg 在保持强大泛化能力的同时提供了更好的个性化，尽管在客户端之间变化的类别分布等挑战性条件下，这种优势会减弱。
-
新框架解决了AI合作中的奖励分配问题
研究人员为AI合作中的奖励分配引入了一个新颖的框架，其中人类代理在不同的价值约束下贡献数据并参与模型更新。该系统被称为价值条件梯度过滤，仅奖励那些符合每个主体价值概况的更新。该方法利用在线边际贡献信号和遍历学习（TL）基底内的累积收入结算，提供了比FedAvg等传统联邦学习方法更精细的归因。
-
新的HybridSGD方法优化分布式内存AI训练
研究人员开发了HybridSGD，一种新颖的二维并行随机梯度下降法，旨在优化分布式内存系统的性能。这种新方法在现有的1D方法（如s-step SGD和Federated SGD with Averaging (FedAvg)）之间提供了连续的权衡。理论分析证实了HybridSGD在收敛性、计算、通信和内存使用方面的优势。在Cray EX超级计算系统上的实证评估表明，在应用于二元分类任务时，HybridSGD比FedAvg具有更好的收敛…
-
联邦学习在医疗生存分析领域展现潜力 · 追踪2个来源
一篇新论文评估了联邦学习在医疗生存分析中的应用，特别是在跨多个机构的乳腺癌数据集上。该研究使用FedAvg、FedProx和FedAdam等联邦优化策略，比较了三种生存模型（Cox比例风险模型、DeepSurv和Random Survival Forest）。结果表明，联邦学习方法在保护患者隐私的同时，其性能可以媲美甚至超越集中式方法。Random Survival Forest模型在准确性和鲁棒性方面取得了最佳平衡，其性能受到客户端…
-
MUFFLe论文提出联邦学习的高效模型更新压缩方法
一篇新论文介绍了一种名为MUFFLe的方法，旨在降低联邦学习相关的通信成本。MUFFLe通过将广义去重集成到FedAvg流程中，有效地识别和移除重复模式来压缩模型更新。在MNIST数据集上的初步测试表明，与8位量化和Top-k稀疏化等其他压缩技术相比，MUFFLe显著降低了上行通信需求，同时仍能达到目标精度。
-
个性化联邦学习改进构音障碍语音识别
研究人员开发了新的个性化联邦学习聚合策略，以改进构音障碍者的语音识别。所提出的方法侧重于基于参数和基于嵌入的平均，旨在解决联邦学习固有的异质性问题。在UASpeech和TORGO数据集上的实验表明，与基线正则化FedAvg方法相比，词错误率（WER）显著降低。
-
联邦自动编码器在边缘设备上增强了具有隐私保护的心电图异常检测
研究人员开发了一种用于在边缘设备上检测心电图（ECG）数据异常的隐私保护联邦自动编码器系统。该系统结合了联邦学习、差分隐私和INT8量化，以维护患者的机密性，实现在Raspberry Pi 4等受限硬件上的实时推理，并在来自不同医院的非独立同分布（non-IID）数据下也能实现高质量的检测。研究发现，联邦学习的性能与集中式基线相当或更优，而INT8量化在准确性损失极小的情况下显著减小了模型大小和延迟，证明了隐私保护和边缘部署可以同时实现。
-
新研究解决QFL噪声和后门漏洞
两篇新研究论文探讨了量子联邦学习（QFL）的挑战和漏洞。一篇论文介绍了Q-ANCHOR，一种旨在缓解QFL中非独立同分布数据和硬件噪声问题的架构，与传统基线相比显示出更稳定的训练。另一篇论文侧重于安全性，详细介绍了一种名为CULT的新攻击模型，该模型利用电路级漏洞引入后门，表明现有防御措施无法抵御这些隐蔽攻击。
-
ChainLearn框架使用区块链实现容量感知的联邦学习
研究人员开发了ChainLearn，一个用于联邦集成学习的新框架，解决了参与机构之间计算能力差异的挑战。该系统使用区块链技术来管理策略和存储指标，而链下学习和加权集成方法则适应不同的医院硬件。实验表明，与传统的联邦学习方法相比，ChainLearn在通信开销显著降低的情况下实现了具有竞争力的准确性。
-
NVIDIA FLARE 教程在非独立同分布数据上比较 FedAvg 和 FedProx
本教程演示了如何使用 NVIDIA FLARE 实现和比较 FedAvg 和 FedProx 联邦学习算法。实验采用了非独立同分布 (non-IID) 的 CIFAR-10 数据集，通过使用狄利克雷分布划分数据来模拟客户端之间现实的标签不平衡。该指南详细介绍了设置 NVFlare 环境、定义用于本地训练和模型交换的客户端脚本，以及可视化全局模型在训练轮次中的准确率进展。
-
FedPLT 通过部分层训练提供资源高效的联邦学习
研究人员推出了一种新颖的联邦学习方法 FedPLT，该方法旨在实现可扩展、资源高效且能适应异构环境。该方法仅在单个客户端上训练模型的特定层，并根据客户端的计算和通信能力进行定制。FedPLT 旨在实现与完整模型训练相媲美的性能，同时显著减少每个客户端的可训练参数数量，有望克服去中心化机器学习中的通信和计算开销。
-
新的联邦学习方法应对数据异构性和可扩展性挑战
研究人员开发了几种新方法来改进联邦学习，这是一种分布式机器学习方法，可以在不共享原始信息的情况下对去中心化数据进行模型训练。FedHarmony 通过引入共识机制解决了跨异构客户端数据建模标签相关性的挑战。“谁来训练很重要”通过提出一种逆概率加权聚合方案来解决联邦学习中的选择偏差，以确保训练的代表性。此外，子空间优化 (SSF)、FedSLoP 和 GradsSharding 等新技术旨在通过减少通信和内存开销来提高效率，尤其是在无服…