DTA-GT

新的DTA-GT模型通过方向感知增强神经网络架构搜索

研究人员开发了DTA-GT，一种新颖的方向和拓扑感知图Transformer，旨在改进神经网络表示学习。该模型通过保留计算流语义来解决将神经网络架构表示为有向无环图（DAG）的挑战。DTA-GT利用方向感知初始化、磁拉普拉斯谱编码和方向对偶结构注意力，在NAS-Bench-101和NAS-Bench-201的准确性和延迟预测任务上优于现有预测器。