AudioPG

AudioPG 使用合成数据进行高效音频模型预训练

研究人员开发了 AudioPG，一个使用程序化生成的合成数据而非真实录音进行音频模型预训练的新颖框架。这种方法显著降低了训练成本、策展工作量和隐私担忧。使用 AudioPG 训练的基于 Transformer 的模型在各种真实音频基准测试中表现强劲，达到了高准确率，并在单个 GPU 上在 20 分钟内完成了预训练。对模型潜在空间的分析表明，物理声学因素出现在不同的子空间中，从而产生了可解释的表征。