研究人员推出了一种新颖的混合专家(MoE)策略DirMixE,旨在提高对长尾数据集的识别能力,这些数据集的测试标签分布未知且不平衡。该方法通过将专家分配给不同的Dirichlet元分布来解决标签分布的全局和局部变异。该论文还提出了一个通用的潜在技能微调(LSF)框架,用于基础模型的参数高效微调,并推导了泛化误差界限的理论。 AI
影响 这项研究可能带来更强大的AI模型,能够处理不平衡的数据集,从而在数据分布不可预测的实际场景中提高性能。
排序理由 该集群包含一篇详细介绍机器学习新方法和框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- CIFAR-100-LT
- CIFAR-10-LT
- Dirichlet
- DirMixE
- ImageNet-LT
- iNaturalist
- Latent Skill Finetuning (LSF)
- Mixture-of-Expert (MoE)
- Zitai Wang
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →