研究人员推出了LocaLeJEPA，一个用于自监督学习的新框架，解决了联合嵌入预测架构（JEPA）中的表示坍塌问题。与先前依赖欧几里得几何的方法不同，LocaLeJEPA通过使用流形理论重新构建JEPA的熵最大化特性来整合特定领域的几何先验。附带的LocaLeReg正则化器实现了稳定的实现，并且在ImageNet-1K上的实验表明，LocaLeJEPA在各种骨干模型和下游任务上的表现优于其前身LeJEPA。 AI
影响 通过更好地尊重内在数据几何和适应奇异嵌入几何来增强自监督学习。
排序理由 该集群包含一篇详细介绍自监督学习新框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- hyperbolic ViT-S/8
- ImageNet
- ImageNet-1K
- LeJEPA
- LocaLeJEPA
- LocaLeReg
- ResNet-50
- ViT-L-14
- ViT-S/8
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
