两篇新论文探讨了对比表示学习的理论基础，这项技术对现代基础模型至关重要。第一篇论文介绍了一种统一的统计学习理论，证明了对比损失与最优排序在统计上是一致的，并推导出了泛化界限，解释了使用大量负样本的好处。第二篇论文提供了一个几何力学框架，揭示了单独的成对对齐不足以控制跨模态结构，并强调了边际分布对学习景观的影响。 AI
影响 这些理论上的进步可以通过增进对对比学习机制的理解，从而带来更强大、更高效的基础模型。
排序理由 两篇在arXiv上发表的学术论文对对比表示学习进行了理论分析。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2605.02116v1 Announce Type: new Abstract: Contrastive representation learning (CRL) underpins many modern foundation models. Despite recent theoretical progress, existing analyses suffer from several key limitations: (i) the statistical consistency of CRL remains poorly und…
arXiv:2601.19597v3 Announce Type: replace Abstract: While InfoNCE underlies modern contrastive learning, its geometric mechanisms remain under-characterized beyond the canonical alignment--uniformity decomposition. We develop a measure-theoretic framework in which learning evolve…