研究人员在神经网络中发现了一种称为BUMP(短暂意外插值中期峰值)的现象,其中测试准确性在插值终点附近会暂时提高,然后下降。这种效应已在各种数据集、架构和训练方法中观察到,并且对早期检查点和极端剪枝等显著扰动具有鲁棒性。研究人员提出了一种新颖的集成方法——权重预测混合集成,该方法将权重混合与预测空间混合相结合。该方法在测试准确性方面始终优于标准的logit集成,并提供了改进的校准,证明了在权重和预测空间中混合的互补优势。 AI
影响 识别出神经网络插值中的一种新颖现象,可能带来改进的集成技术。
排序理由 该集群描述了一篇在arXiv上发表的研究论文,详细介绍了新发现的神经网络现象和提出的集成方法。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- Brief Unexpected Mid-Interpolation Peak
- BUMP
- CatalyzeX
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv
- machine learning
- Scite
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →