Newton Matching

新框架统一生成模型微调和采样

研究人员推出了一种名为牛顿匹配（Newton Matching）的新型框架，旨在统一生成模型中的微调和采样过程。该方法将孤立的损失函数转变为在标准模型上的迭代优化，利用标准条件匹配的总体最小化器。该框架表明，在特定的平滑实现假设下，牛顿方向与负费舍尔-Rao梯度一致，从而能够精确地进行密度表征并保证收敛性。牛顿匹配为算法提供了一个模块化设计，将现有方法作为特例进行恢复，并推进了生成模型中强化学习的理论和应用。