研究人员开发了DTA-GT,一种新颖的方向和拓扑感知图Transformer,旨在改进神经网络表示学习。该模型通过保留计算流语义来解决将神经网络架构表示为有向无环图(DAG)的挑战。DTA-GT利用方向感知初始化、磁拉普拉斯谱编码和方向对偶结构注意力,在NAS-Bench-101和NAS-Bench-201的准确性和延迟预测任务上优于现有预测器。 AI
影响 通过更好地表示计算图,提高了神经网络架构搜索的效率和准确性。
排序理由 该集群包含一篇学术论文,详细介绍了用于神经网络表示学习的新模型和方法。
在 arXiv cs.NE (Neural & Evolutionary) 阅读 →
- alphaXiv
- CatalyzeX
- DagsHub
- DTA-GT
- Gotit.pub
- Hugging Face
- IArxiv
- Magnetic Laplacian
- MoE-FFN
- NAS-Bench-101
- NAS-Bench-201
- ScienceCast
- arXiv
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →