Awasthi et al.

新算法为非线性人工智能模型提供鲁棒学习能力

研究人员开发了一种新颖的算法，即使在面对重尾噪声和对抗性破坏时，也能鲁棒地学习高斯单索引模型（SIMs）。该新方法首次为广泛的非线性SIMs提供了鲁棒恢复保证，包括那些具有非单调链接函数（如GeLU和Swish）的模型，这些模型在现代神经网络架构中很常见。该算法围绕真实参数建立了一个与维度无关的凸盆地，通过谱初始化和后续的鲁棒梯度下降实现高效恢复，以近线性时间复杂度实现了O(σ√ε)的估计误差。