Attribution-Guided Masking

新的AGM技术提高了Transformer在跨领域情感分析中的鲁棒性

研究人员开发了归因引导掩码（AGM），一种新颖的训练技术，旨在提高预训练Transformer模型在情感分类任务中的泛化能力。AGM通过在微调过程中识别并惩罚特定领域的虚假标记来解决模型迁移到域外数据时观察到的性能下降问题。该方法不需要目标域标签，在零样本迁移设置中表现出有竞争力的性能，并通过突出驱动泛化差距的特征来提供可解释性。