研究人员调查了迁移学习现象,特别是预训练在一个任务上如何加速或提高在不同任务上的性能。他们的研究集中在涉及随机输入-输出映射的记忆任务之间的迁移。他们观察到两种关键的迁移模式:等效迁移,其中每次预训练的 epoch 都能在下游微调中带来一致的节省;以及非等效迁移,其中不匹配的预训练任务可能比直接训练更有效。进一步的分析确定了两种不同的效应促成了这种迁移:最终层中一个简单的幅度驱动效应,以及与层协方差相关的更复杂的结构驱动效应。 AI
排序理由 该集群包含一篇提交到 arXiv 的研究论文,详细介绍了迁移学习机制的发现。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- Bibliographic Explorer
- CatalyzeX Code Finder for Papers
- Connected Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv Recommender
- Influence Flower
- Litmaps
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →