ES-HyperNEAT
PulseAugur coverage of ES-HyperNEAT — every cluster mentioning ES-HyperNEAT across labs, papers, and developer communities, ranked by signal.
-
新方法优化 ES-HyperNEAT 训练,成本降低 41.6%
研究人员开发了一种数据驱动的方法,用于 ES-HyperNEAT(一种进化算法)的超参数配置的提前停止。该方法使用适应度轨迹的二元分类来识别网络性能何时停滞,从而减少计算浪费。所提出的规则在验证试验中达到了 0.872 的 F1 分数,保留了超过 90% 的成功试验,同时将计算成本降低了 41.6%,并证明比 Hyperband 更有效。
-
空间划分专家将神经演化准确性提高了 106%
研究人员开发了一种名为空间划分专家(SPE)的新型神经演化方法,以解决可演化基底 HyperNEAT (ES-HyperNEAT) 中的中心偏差问题。这种偏差导致 ES-HyperNEAT 专注于输入数据的一小块中心区域,限制了其在 MNIST 等基准测试上的准确性。通过将输入空间划分为多个区域并将专家网络分配给每个区域,SPE 在准确性上实现了 106% 的相对提升,平均准确率达到 43%。该方法显著扩大了网络的活动像素覆盖范围,并…
-
ES-HyperNEAT 超参数优化在 MNIST 上显示出可迁移性
研究人员使用基于树的 Parzen 估计器 (TPE) 方法研究了 ES-HyperNEAT 算法的超参数优化。将其应用于 MNIST 分类任务,TPE 成功导航了超过 30 亿种潜在组合,实现了 29.00% 的准确率,并且比之前的研究使用了更少的代数和更小的种群规模。优化后的超参数在 Fashion-MNIST 数据集上表现出可迁移性,尽管它们在更简单的逻辑运算上的有效性有限。
-
ES-HyperNEAT 超参数优化使用 TPE 方法显示出潜力
一项新研究探索了使用树状结构 Parzen 估计器 (TPE) 方法优化 ES-HyperNEAT(一种神经进化算法)的超参数。研究人员针对 MNIST 分类任务调查了超过 30 亿种超参数组合,发现 TPE 的性能显著优于随机搜索。最佳配置在 MNIST 上达到了 29.00% 的准确率,并且比先前研究使用了更少的资源。该研究还考察了这些优化后的超参数在逻辑运算和 Fashion-MNIST 数据集上的可迁移性,结果显示在 Fash…
-
新的EMR-HyperNEAT方法通过张量化加速神经演化
研究人员开发了EMR-HyperNEAT,这是一种新颖的神经演化方法,可显著加速演化大规模神经网络基底的过程。该新方法通过预先评估所有分辨率下的所有位置,克服了先前基于四叉树技术的局限性,实现了并行处理并获得了显著的加速。实验表明,在XOR任务上GPU性能提高了12-34倍,并在各种基准测试中提高了求解率。
-
新的JAX实现解决了ES-HyperNEAT的扩展性瓶颈
研究人员开发了JAX-ESHN,一个基于JAX的新实现,旨在GPU上并行化ES-HyperNEAT。该实现解决了先前限制坐标基神经演化扩展性的四叉树瓶颈。基准测试表明,JAX-ESHN在XOR和CartPole等任务上,尤其是在深度基底上,通过提供更低的运行时方差和更可靠的成功率,显著优于基于CPU的方法。该研究还确定了可扩展神经演化的结构约束,并提出EMR-HyperNEAT作为克服这些限制的重新表述。