DSSM

新 PVMC 方法加速深度状态空间模型训练

研究人员开发了一种名为并行变分蒙特卡洛（PVMC）的新训练方法，以应对大规模训练深度状态空间模型（DSSMs）的挑战。现有的方法，例如自动编码 DSSMs 和使用顺序蒙特卡洛（SMC）算法的方法，在可扩展性和硬件效率方面存在局限性。PVMC 弥合了这些方法之间的差距，能够对生成式和判别式任务进行稳健的训练。据报道，这种新方法取得了最先进的成果，并且训练速度比以前的基于 SMC 的技术快十倍。