Top-2 routing

新论文发现专家-数据对齐决定了DDM的生成质量

一篇新的研究论文探讨了去中心化扩散模型（DDM）生成的质量，该模型通过独立训练的专家来处理去噪任务。由Marcos Villagra领导的这项研究发现，生成质量主要由专家-数据对齐决定，而不是去噪轨迹稳定性。这意味着当模型将输入路由到其训练数据分布与去噪过程当前状态紧密匹配的专家时，性能最佳。该研究通过分析数据簇距离和专家预测准确性来验证这一点，证明了优先考虑专家-数据对齐而非数值稳定性可以带来更优的结果。