NAS-Bench-101
PulseAugur coverage of NAS-Bench-101 — every cluster mentioning NAS-Bench-101 across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的DTA-GT模型通过方向感知增强神经网络架构搜索
研究人员开发了DTA-GT，一种新颖的方向和拓扑感知图Transformer，旨在改进神经网络表示学习。该模型通过保留计算流语义来解决将神经网络架构表示为有向无环图（DAG）的挑战。DTA-GT利用方向感知初始化、磁拉普拉斯谱编码和方向对偶结构注意力，在NAS-Bench-101和NAS-Bench-201的准确性和延迟预测任务上优于现有预测器。
-
EGO框架以50倍的速度生成多样化的离散设计
研究人员开发了EGO（Evolutionary Generators with One-step inference，带单步推理的进化生成器）框架，用于高效生成多样化且有效的离散设计。该方法训练紧凑的生成器，可在一次神经网络评估中产生完整输出，在分子发现和神经架构搜索任务中表现优于现有的单步基线。EGO的速度和多样性有望为各种设计挑战实现实时候选生成。
-
ZAPS 管道通过结合代理信号和拓扑结构来增强神经架构搜索
研究人员开发了 ZAPS，这是一个新颖的四阶段管道，旨在通过有效地将代理信号与架构拓扑相结合来改进神经架构搜索 (NAS)。该方法通过选择非冗余的代理子集并迭代地重新评估它们，解决了现有零成本代理的局限性，这些代理通常嘈杂且相关。ZAPS 利用混合 k-means 策略进行初始种子选择，并使用带有 UCB 获取函数的 XGBoost 集成来对候选者进行排名，在 CIFAR-10 和 CIFAR-100 的 NAS-Bench-201 …
-
新方法以更低的计算成本加速神经架构搜索 · 跟踪3个来源
研究人员开发了改进神经架构搜索（NAS）的新方法，该过程可能计算成本高昂。一种名为RiPPLE的方法使用来自一小组锚定架构的局部训练数据来预测许多其他架构的性能，从而减少了完全训练的需要。另一种方法CoRA-NAS结合了架构的粗略排序和一个细化阶段，该阶段通过外推早期训练曲线来估计性能，成本大大降低。第三种技术通过提出一种无泄漏的、基于块的方法来解决NAS中Leave-One-Subject-Out（LOSO）评估的成本问题，该方法在…