NystromPCG

新的PyTorch软件包利用随机线性代数加速大规模优化

一个名为rlaopt的基于PyTorch的新软件包已发布，旨在利用随机数值线性代数（RandNLA）加速大规模优化和科学计算。该软件包为包括线性系统和经验风险最小化在内的各种问题提供了支持GPU的求解器，使用了NystromPCG、NysADMM和SAPPHIRE等方法。rlaopt还提供了一个用于直观问题规范的建模语言，并支持通过其迭代进行微分，以用于超参数调整等应用。实验表明，GPU执行带来了显著的加速，并确定了随机预处理可提高性能的场景。