Symmetry-Aware Feature Learning

Symmetry-aware learning offers polynomial advantage in multi-index models

研究人员为多指标模型的对称感知和对称不可知特征学习之间建立了多项式样本复杂度分离。他们对具有循环对称性的高维高斯协变量的分析表明，利用对称性的架构权重共享和数据增强比不利用对称性的学习具有更高的样本效率。这种优势在信息指数为三或更高的多项式链接中尤为明显，对称感知方法在方向恢复方面需要的样本量大大减少。