研究人员开发了归因引导掩码(AGM),一种新颖的训练技术,旨在提高预训练Transformer模型在情感分类任务中的泛化能力。AGM通过在微调过程中识别并惩罚特定领域的虚假标记来解决模型迁移到域外数据时观察到的性能下降问题。该方法不需要目标域标签,在零样本迁移设置中表现出有竞争力的性能,并通过突出驱动泛化差距的特征来提供可解释性。 AI
影响 该方法可以提高NLP模型在新领域应用时的鲁棒性,减少广泛重新训练的需要。
排序理由 这是一篇详细介绍改进模型泛化新方法的学术论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →