实体
Marcos Villagra
Marcos Villagra
PulseAugur coverage of Marcos Villagra — every cluster mentioning Marcos Villagra across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Paris 扩散模型通过去中心化计算训练
研究人员推出 Paris，这是一种新颖的开放权重扩散模型，完全通过去中心化计算进行预训练，证明了高质量的文本到图像生成无需中心化基础设施即可实现。该模型采用分布式扩散训练框架，使用八个专家扩散模型在分区数据上独立训练，在没有同步梯度更新的情况下近似完整分布。这种方法消除了对专用互连和专用 GPU 集群的需求，能够在异构硬件上进行训练，并以显著减少的数据和计算量实现与中心协调基线相当的生成质量。
-
新论文发现专家-数据对齐决定了DDM的生成质量
一篇新的研究论文探讨了去中心化扩散模型（DDM）生成的质量，该模型通过独立训练的专家来处理去噪任务。由Marcos Villagra领导的这项研究发现，生成质量主要由专家-数据对齐决定，而不是去噪轨迹稳定性。这意味着当模型将输入路由到其训练数据分布与去噪过程当前状态紧密匹配的专家时，性能最佳。该研究通过分析数据簇距离和专家预测准确性来验证这一点，证明了优先考虑专家-数据对齐而非数值稳定性可以带来更优的结果。