实体
TinyImageNet-200
TinyImageNet-200
PulseAugur coverage of TinyImageNet-200 — every cluster mentioning TinyImageNet-200 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
FEAST框架增强了异构资源客户端的联邦学习能力
研究人员推出了一种新颖的联邦学习框架FEAST，旨在适应计算资源各异的客户端。FEAST训练一个单一的弹性模型（或称“超网”），通过同时学习多个子网络来适应不同客户端的预算。这种方法确保了参数能够被更广泛的客户端访问，从而提高了异构环境下的准确性。在CIFAR-100等数据集上的实验结果表明，FEAST的性能显著优于现有的权重共享方法，实现了更高的总体平均准确率，并减少了模型参数的传输量。
-
新参数E可预测混合专家模型健康状况，防止专家失效。
研究人员引入了一个新的无量纲控制参数 E = T*H/(O+B)，用于预测混合专家（MoE）模型中专家生态系统的健康状况。该参数源自四个超参数，可以在无需手工设计的负载均衡损失的情况下防止“死专家”。在视觉和语言任务上的实验表明，E 值达到 0.5 或更高即可维持健康的专家生态系统，为 MoE 训练提供了一个统一的诊断工具。