PulseAugur
实时 08:20:25

新的CoCo损失函数增强了嵌入结构和收敛性

研究人员开发了一种名为CoCo的新损失函数,旨在创建规范化且结构良好的数据表示。CoCo鼓励类在内部塌缩,同时与其他类进行对比,目标是获得具有大角度分离的嵌入。理论分析表明,CoCo在初始化、更具信息量的梯度和更快的收敛性等方面优于点回归和交叉熵等目标。在OpenML-CC18基准测试上的实验表明,CoCo在促进更紧密的类聚类和提高预测性能方面,与核SVM和随机森林等现有方法相比具有竞争力。 AI

影响 这种新的损失函数可能导致机器学习模型中更有效和更强大的表示学习。

排序理由 该集群描述了一篇研究论文中提出的一种新的损失函数。[lever_c_demoted from research: ic=1 ai=1.0]

在 Hugging Face Daily Papers 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的CoCo损失函数增强了嵌入结构和收敛性

报道来源 [1]

  1. Hugging Face Daily Papers TIER_1 English(EN) ·

    Contrastive-Collapsed Loss for Flexible and Geometrically Optimal Embeddings and Faster Convergence

    In this work, we introduce CoCo, a loss function aimed at learning normalized and well-structured representations. The proposed loss encourages intra-class collapse and inter-class contrast while preserving sufficient flexibility for neural networks to approximate geometrically o…