研究人员开发了一种名为TPR-Attention的新型架构组件,旨在提高深度学习模型的组合泛化能力。该机制通过在张量积表示(TPR)上应用注意力机制来嵌入结构化归纳偏置。在组合任务上的实验表明,TPR-Attention在组合泛化方面优于现有的架构组件,为实现具有更系统泛化能力的模型提供了潜在途径。 AI
影响 这项研究可能带来更强大的深度学习模型,使其能够系统地泛化到已知因素的新配置。
排序理由 该集群描述了在arXiv论文中提出的一种新的深度学习架构组件。
在 arXiv cs.NE (Neural & Evolutionary) 阅读 →
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv Recommender
- Influence Flower
- Melisa Civelekoglu
- ScienceCast
- TPR-Attention
- combinatorial generalization
- deep learning
- systematic generalization
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →