MoCoV3

Self-Soupervision 可从无标签数据中生成模型汤

研究人员开发了一种名为 Self-Soupervision 的新方法，该方法允许使用自监督学习 (SSL) 而非传统的监督学习来创建“模型汤”。这项技术能够组合来自多个模型的参数，即使是那些使用不同 SSL 算法或超参数训练的模型，也能提高预测准确性和鲁棒性。实验表明，Self-Souping 提高了在 ImageNet-C 和 LAION-C 等损坏数据集上的鲁棒性，并成功创建了性能优于单个模型的、由各种 SSL 成分组成的模型汤。