ODE theory

New principle establishes stability threshold for residual neural network architectures

研究人员为深度残差架构引入了“亚线性增长原理”，为速度场的输入幅度指数建立了严格的稳定性阈值。该原理得到了常微分方程理论和最优控制分析的支持，认为指数 q=1 对于稳定的训练和推理是必要且充分的。实验表明，即使没有层归一化，修改 Mamba 块以符合此 q<=1 标准也能实现稳定训练，这表明该指数比归一化层更关键。