实体
label smoothing
label smoothing
PulseAugur coverage of label smoothing — every cluster mentioning label smoothing across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新的FedLAS算法改进了神经网络校准
研究人员开发了FedLAS，这是一种旨在改进神经网络分类器校准的新型算法。这种即插即用方法解决了模型预测置信度与其实际准确度不符的问题，导致过度自信的错误预测或信心不足的正确预测。FedLAS利用基于特征范数的置信度指示器（NCI）和双向校准门控（BCG）模块，在训练过程中检测和纠正单个样本的过度自信和信心不足问题。在高分辨率视觉基准上的实验表明，FedLAS能够持续提高校准性能，降低预期校准误差（ECE）等指标，同时保持Top-1准确率。
-
新框架统一并优化鲁棒监督学习方法
研究人员开发了一个统一的鲁棒监督学习框架，该框架结合了分布鲁棒优化和Mixup等多种现有方法。这种新方法沿着三个设计轴组织这些技术，从而实现了一个可处理的训练过程，可以依次解决多种故障模式。通过实现联合超参数优化，这种统一的方法可以配置针对特定任务的鲁棒性策略，在表格、图像和奖励建模基准测试中都表现出竞争力。
-
CutMix 训练协议在视觉 Transformer 中诱导空间局部性
研究人员发现，特定的训练技术可以促进视觉 Transformer 的空间局部性。通过使用涉及 CutMix 和 ColorJitter 等数据增强以及标签平滑的“现代”协议，ViT 的早期层显示出更集中的注意力模式。一项消融研究表明，CutMix 是这种效应的主要驱动因素，与基线方法相比，显著降低了平均注意力距离。