PulseAugur
中
实时 01:02:33
English(EN) Optimized Federated Knowledge Distillation with Distributed Neural Architecture Search

联邦学习框架优化模型选择和知识蒸馏

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了 FedKDNAS，一个新颖的联邦学习框架，可优化异构客户端设备的模型选择和知识蒸馏。该方法允许每个客户端自主选择一个轻量级模型，以适应其特定的准确性和资源限制。然后，该框架使用混合目标进行训练，结合了监督学习和知识蒸馏，并且仅共享在公共参考集上的预测。评估表明，FedKDNAS 在非独立同分布（non-IID）条件下显著提高了准确性，降低了 CPU 使用率，并与现有基线相比大幅降低了通信开销。 AI

影响 增强了异构设备上联邦学习的效率和准确性，可能加速协作式人工智能开发。

排序理由 发布了一篇详细介绍新联邦学习框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Feras M. Awaysheh ·

    面向分布式神经架构搜索的优化联邦知识蒸馏

    Federated Learning (FL) enables collaborative model training without centralizing data. However, real-world deployments must simultaneously address statistical heterogeneity across client data (non-IID), system heterogeneity in device capabilities, and communication efficiency. E…

相关实体

相关话题