实体 $S^3$-MoE

$S^3$-MoE

PulseAugur coverage of $S^3$-MoE — every cluster mentioning $S^3$-MoE across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_344316 · Nov 6 · 05:00

新的 $S^3$-MoE 框架增强了大型语言模型的联邦学习

研究人员开发了一个名为 $S^3$-MoE 的新框架，用于在异构边缘设备上对大型语言模型进行联邦学习。这种服务器端稀疏分配方法旨在通过部分观测来提高专家相关性估计，并为误差和恢复提供理论保证。在 CIFAR-100 上的实验表明，$S^3$-MoE 比现有方法实现了更高的准确率，同时减少了客户端的专家加载。