PulseAugur
实时 10:35:42
English(EN) Too Sharp, Too Sure: When Calibration Follows Curvature

过于锐利,过于自信:校准如何跟随曲率

研究人员在深度神经网络的训练过程中,发现了模型校准、曲率和边距之间存在着密切的联系。他们的研究表明,在整个优化过程中,预期校准误差(Expected Calibration Error)与基于曲率的锐度(sharpness)密切相关。通过引入一个关注鲁棒边距尾部和局部平滑度的、感知边距的训练目标,他们在不损害准确性的前提下,实现了更好的样本外校准。 AI

影响 增进了对如何在训练过程中实现更好模型校准的理解,有望带来更可靠的AI系统。

排序理由 关于神经网络校准和训练动态的学术论文。

在 arXiv stat.ML 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

过于锐利,过于自信:校准如何跟随曲率

报道来源 [1]

  1. arXiv stat.ML TIER_1 English(EN) · Pierfrancesco Beneventano ·

    过于尖锐,过于自信:当校准追随曲率

    Modern neural networks can achieve high accuracy while remaining poorly calibrated, producing confidence estimates that do not match empirical correctness. Yet calibration is often treated as a post-hoc attribute. We take a different perspective: we study calibration as a trainin…