研究人员为深度残差架构引入了“亚线性增长原理”，为速度场的输入幅度指数建立了严格的稳定性阈值。该原理得到了常微分方程理论和最优控制分析的支持，认为指数 q=1 对于稳定的训练和推理是必要且充分的。实验表明，即使没有层归一化，修改 Mamba 块以符合此 q<=1 标准也能实现稳定训练，这表明该指数比归一化层更关键。 AI
影响 这项研究可能带来更稳定可靠的神经网络训练和推理，对未来人工智能模型的设计产生潜在影响。
排序理由 该集群包含两篇 arXiv 预印本论文，详细介绍了一个新的神经网络稳定性理论原理。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
We propose \emph{the sublinear-growth principle} for deep residual architectures -- a sharp stability threshold on the input-magnitude exponent of every residual block's velocity field: $$\|v(x, t)\| \leq c\,\|x\|^q + b, \qquad q \in [0, 1].$$ The threshold $q = 1$ is established…
arXiv:2607.14576v1 Announce Type: cross Abstract: We propose \emph{the sublinear-growth principle} for deep residual architectures -- a sharp stability threshold on the input-magnitude exponent of every residual block's velocity field: $$\|v(x, t)\| \leq c\,\|x\|^q + b, \qquad q …