新算法为非线性人工智能模型提供鲁棒学习能力

研究人员开发了一种新颖的算法，即使在面对重尾噪声和对抗性破坏时，也能鲁棒地学习高斯单索引模型（SIMs）。该新方法首次为广泛的非线性SIMs提供了鲁棒恢复保证，包括那些具有非单调链接函数（如GeLU和Swish）的模型，这些模型在现代神经网络架构中很常见。该算法围绕真实参数建立了一个与维度无关的凸盆地，通过谱初始化和后续的鲁棒梯度下降实现高效恢复，以近线性时间复杂度实现了O(σ√ε)的估计误差。 AI

影响 增强了人工智能模型在对抗攻击和噪声数据下的鲁棒性，从而能够更广泛地应用非线性架构。

排序理由 该集群包含一篇详细介绍机器学习新算法和理论发现的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• Awasthi et al.
• Buna and Rebeschini
• NeurIPS
• Gaussian Single Index Models
• GeLU
• JASA
• Pensia et al.
• Swish

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →