Equivariant Music Transformer

新型Equivariant Music Transformer更好地捕捉音乐结构

研究人员开发了Equivariant Music Transformer (EMT)，这是一种旨在通过强制等变性来更好地捕捉音乐结构的新型模型。与倾向于记忆模式的标准音乐Transformer不同，EMT使用带有辅助等变性正则化损失的自蒸馏。这种方法改进了下一个token预测，并生成了更具等变性的潜在表示，在客观和主观评估中均显示出优于现有方法的性能。