Layerwise LQR

Layerwise LQR 框架使用几何感知控制优化深度网络

研究人员开发了 Layerwise LQR (LLQR)，一个用于深度学习模型的新优化框架。LLQR 将二阶优化方法（如牛顿法）重新表述为线性二次调节器问题。这种方法可以学习结构化的逆预处理器，在不计算完整曲率矩阵的情况下捕获全局层级动态。在 ResNets 和 Transformers 上的实验表明，LLQR 可以在计算开销极小的情况下提高优化速度和最终模型性能。