Parallel-in-Time Training

新方法将混沌系统RNN训练速度提高了100倍以上

研究人员开发了一种新颖的方法，用于在混沌动力系统的长时序数据上训练循环神经网络（RNN）。他们的方法在NeurIPS 2026的重点论文中进行了详细介绍，该方法结合了DEER（一种用于RNN前向传播并行化的技术）和广义教师强制（GTF）。这种组合显著稳定了训练并减少了暴露偏差，与传统方法相比，速度提高了100倍以上。新技术允许在超过100万个时间步的时序数据上进行高效的并行时间训练，在动力系统重构任务中表现优于Mamba等模型。