PulseAugur
中
实时 10:14:15
English(EN) EFFEKT: Efficient Federated Knowledge Transfer to Foundation Models

新的EFFEKT框架支持在边缘设备上对大型模型进行高效联邦学习

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了EFFEKT，一个新颖的联邦学习框架，旨在资源受限的设备上训练大型基础模型。该系统在客户端设备上使用轻量级代理模型，并与中央基础模型协作。EFFEKT能够在服务器端高效训练特定领域的LoRA适配器，同时通过双向交叉蒸馏保持特征空间对齐，在真实世界数据集上展示了优于现有方法的性能。 AI

影响 该框架可能支持在边缘设备上进行更复杂的AI模型训练，从而扩大基础模型的应用范围。

排序理由 该集群包含一篇详细介绍新颖联邦学习框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的EFFEKT框架支持在边缘设备上对大型模型进行高效联邦学习

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Matteo Caligiuri, Francesco Barbato, Pietro Zanuttigh, Francesco Restuccia ·

    EFFEKT：面向基础模型的 efficient 联邦知识迁移

    arXiv:2608.08138v1 Announce Type: cross Abstract: Recent data protection laws have accelerated the adoption of Federated Learning (FL) for privacy-preserving decentralized training. Nevertheless, increasing model sizes impose substantial computational demands on client devices, l…

相关实体

相关话题