Neural CTMC

新的UNIFUSION方法将自回归模型适配到离散扩散模型

研究人员开发了UNIFUSION，一种将自回归语言模型适配到离散扩散模型的新颖方法。该方法在单一的广义Kullback--Leibler目标下统一了现有的扩散目标，允许在掩码和均匀噪声等不同损坏核之间无缝切换。在GPT2检查点上的评估表明，UNIFUSION改善了生成困惑度与一元熵之间的权衡，在WinoGrande和SIQA等基准测试中优于其他扩散模型。