PulseAugur
实时 05:58:01

新的损失函数可加速监督学习中的神经坍塌

研究人员引入了新的方法NTCE和NONL,通过更有效地实现神经坍塌(NC)来改进监督分类。这些技术解决了现有范式(如交叉熵和监督对比学习)的局限性。通过将监督学习视为超球体上的原型学习,新的损失函数能够更快地收敛到NC,并在迁移学习和鲁棒性方面取得显著改进,尤其是在类别不平衡的情况下。 AI

影响 引入了新的损失函数,可加速收敛到最优分类几何并提高模型鲁棒性。

排序理由 该集群包含一篇学术论文,详细介绍了监督分类的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Panagiotis Koromilas, Theodoros Giannakopoulos, Mihalis A. Nicolaou, Yannis Panagakis ·

    Neural Collapse by Design: Learning Class Prototypes on the Hypersphere

    arXiv:2605.20302v2 Announce Type: replace Abstract: Supervised classification has a theoretical optimum, Neural Collapse (NC), yet neither of its two dominant paradigms reaches it in practice. Cross entropy (CE) leaves radial degrees of freedom unconstrained and converges to a de…