一篇新研究论文介绍了一种名为“视界损失”(horizon loss)的新方法,作为训练分类器的交叉熵替代方案,特别是在强化学习和大型语言模型的背景下。该方法旨在通过考虑学习更新的长期影响,而非仅仅是即时收益,来提高准确性。在MNIST和ImageNet数据集上使用ResNet和ViT等各种架构进行的实验表明,与标准的交叉熵相比,其Top-1准确率有所提高,并且在存在噪声标签的情况下,收益会增加。 AI
影响 引入了一个新的训练目标,可以提高分类器性能,并可能影响LLM的训练后技术。
排序理由 该集群包含一篇详细介绍一种新颖机器学习方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Classification
- ImageNet
- MNIST database
- Policy Gradient Methods for Reinforcement Learning with Function Approximation
- reinforcement learning
- ResNet-101
- ResNet-50
- ViT-S/16
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →