GloFND

新方法GloFND解决了自监督学习中的假阴性问题

研究人员开发了GloFND，一种新颖的方法，通过识别和减轻“假阴性”样本的影响来改进自监督对比学习。这些假阴性样本是训练数据中与锚点具有语义相似性的负样本对，它们错误地将它们的嵌入分开。GloFND为每个锚点动态确定一个阈值，以便在整个数据集中检测这些假阴性样本，而不仅仅是在一个小批量内。该方法的计算成本与数据集大小无关，并且在图像和图像-文本数据上的实验已证明了其有效性。