Class-Specific Branch Attention

新的注意力机制方法可解决类别不平衡数据中的梯度干扰问题

研究人员开发了一种名为类别特定分支注意力（CSBA）的新方法，以解决类别不平衡导致的深度神经网络性能下降问题。该技术在训练过程中识别并减轻不同类别之间的梯度干扰，因为多数类别的梯度会抑制少数类别的学习。CSBA 通过实现分支特定的通道重加权来做到这一点，在不改变架构简洁性的情况下促进特征解耦。该方法已显示出显著的改进，例如在严重不平衡的情况下，少数类别的 F1 分数从 0.261 提高到 0.522。