diffusion process

新研究分析MoE模型校准和不连续性 · 追踪4个来源

两篇新研究论文探讨了专家混合（MoE）模型的复杂性，特别是关于校准和不连续性。第一篇论文研究了专家级校准如何在分布变化下影响MoE性能，并提出了一种对抗性重加权方法来提高软路由模型的准确性和校准性。第二篇论文对稀疏专家混合（SMoE）架构中的不连续性进行了严格的几何和随机分析，发现低阶不连续性占主导地位，并提出了一种平滑机制来增强语言和视觉任务中的连续性和经验性能。