Zixiong Yu

Branch scaling improves ResNet generalization via depth-wise decay

研究人员从理论上证明，通过快速随深度衰减的缩放因子，可以提高宽残差网络（ResNets）的泛化能力。这种方法与提前停止相结合，可以使过参数化的ResNets达到最佳泛化率。该研究通过在合成数据和MNIST、CIFAR-100等常见分类任务上的实验验证了这些发现，为增强网络性能提供了新的途径。