开发了一个新的神经坍塌(NC)理论框架,解决了不平衡数据集和开放集场景带来的挑战。该研究使用类平均损失而非全局损失来重塑NC,证明了标准NC在交叉熵和二元交叉熵的类平均损失最小值处即可实现。该研究还将此扩展到开放集条件,表明未知类的分类器向量会重叠并与已知类正交,而标准NC在已知类上仍然存在。此外,该论文还证明了重新平衡的基于Softmax和Sigmoid的对比损失在不平衡数据集上的最小值处也表现出标准NC。 AI
影响 这项研究为理解和改进具有挑战性数据场景下的分类模型提供了理论基础。
排序理由 该集群包含一篇详细介绍神经网络理论研究的学术论文。
在 Hugging Face Daily Papers 阅读 →
- alphaXiv
- arXiv
- Binary Cross-Entropy
- CatalyzeX
- cross entropy
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv
- neural collapse
- ScienceCast
- sigmoid function
- Softmax
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →