NAS-Bench-201
PulseAugur coverage of NAS-Bench-201 — every cluster mentioning NAS-Bench-201 across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新的LESS方法将神经网络架构搜索时间缩短至数分钟
研究人员开发了一种新颖的神经网络架构搜索方法LESS(Lightweight Evolutionary Supernet Search),该方法显著减少了计算时间。通过结合简短的热身和CMA-ES分布下的离散搜索,LESS能在数分钟内(仅为先前方法所需时间的一小部分)在CIFAR-10等基准测试中达到具有竞争力的准确率。该方法在不同数据集和搜索空间(包括更大的DARTS空间)中都显示出有效性,突显了其效率和广泛的适用性。
-
ZAPS 管道通过结合代理信号和拓扑结构来增强神经架构搜索
研究人员开发了 ZAPS,这是一个新颖的四阶段管道,旨在通过有效地将代理信号与架构拓扑相结合来改进神经架构搜索 (NAS)。该方法通过选择非冗余的代理子集并迭代地重新评估它们,解决了现有零成本代理的局限性,这些代理通常嘈杂且相关。ZAPS 利用混合 k-means 策略进行初始种子选择,并使用带有 UCB 获取函数的 XGBoost 集成来对候选者进行排名,在 CIFAR-10 和 CIFAR-100 的 NAS-Bench-201 …
-
新方法以更低的计算成本加速神经架构搜索 · 跟踪3个来源
研究人员开发了改进神经架构搜索(NAS)的新方法,该过程可能计算成本高昂。一种名为RiPPLE的方法使用来自一小组锚定架构的局部训练数据来预测许多其他架构的性能,从而减少了完全训练的需要。另一种方法CoRA-NAS结合了架构的粗略排序和一个细化阶段,该阶段通过外推早期训练曲线来估计性能,成本大大降低。第三种技术通过提出一种无泄漏的、基于块的方法来解决NAS中Leave-One-Subject-Out(LOSO)评估的成本问题,该方法在…
-
新流水线通过NAS和量化优化边缘AI硬件
研究人员开发了一种新颖的三阶段流水线,用于优化边缘AI部署的神经网络架构,重点关注神经架构搜索(NAS)与训练后量化(PTQ)的相互作用。该流水线包括一个与硬件无关的代理前端、一个带过滤的量化桥梁以及一个用于硬件映射的进化后端。一项实证研究分析了INT4 PTQ如何影响NAS帕累托空间,发现FP32零样本代理在覆盖帕累托空间方面可能优于专用的INT4训练代理。
-
LLM多智能体系统自动化MCU神经网络定制
研究人员开发了AutoMCU,一个利用基于LLM的多智能体方法为微控制器单元(MCU)定制神经网络的新颖系统。该方法通过在设计过程早期整合供应商工具链反馈来优先考虑可行性,与传统的硬件感知神经网络架构搜索方法相比,显著降低了搜索成本和时间。AutoMCU在基准数据集上展示了具有竞争力的准确性,并成功部署在STM32微控制器上,使边缘智能更加易于访问。
-
代码嵌入提升神经架构搜索效率
研究人员开发了一种名为代码导向语言模型嵌入(COLE)的新方法来改进神经架构搜索(NAS)。该技术使用现成的语言模型从神经架构的代码表示中生成嵌入,从而绕过了昂贵的微调或复杂的特征工程的需要。在 NAS-Bench-201 和 einspace 上的实验表明,COLE 嵌入的性能优于其他基于文本的编码,并显著降低了找到高性能架构所需的评估预算。