FairNAS

新的LESS方法将神经网络架构搜索时间缩短至数分钟

研究人员开发了一种新颖的神经网络架构搜索方法LESS（Lightweight Evolutionary Supernet Search），该方法显著减少了计算时间。通过结合简短的热身和CMA-ES分布下的离散搜索，LESS能在数分钟内（仅为先前方法所需时间的一小部分）在CIFAR-10等基准测试中达到具有竞争力的准确率。该方法在不同数据集和搜索空间（包括更大的DARTS空间）中都显示出有效性，突显了其效率和广泛的适用性。