研究人员发现，循环神经网络 (RNNs) 在训练过程中可能会产生对噪声的悖论式偏好。与期望噪声应被消除以获得最佳性能相反，这些网络，特别是连续时间 RNNs，在存在一定程度噪声的情况下通常表现最佳。这种现象与噪声引起的网络内部动态变化有关，尤其是在噪声应用于激活函数内部时，导致某种形式的过拟合到训练噪声本身。 AI
影响 揭示了训练噪声可以成为学习计算的组成部分，影响了鲁棒性人工 RNNs 的设计。
排序理由 该集群包含一篇学术论文，详细介绍了关于 RNNs 行为的新发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →