N-bit parity tasks

New Spectral Higher-Order Neural Networks Offer Expressivity Bounds

研究人员推出了一种新颖的神经网络参数化方法——谱高阶神经网络（SHONNs），用于处理神经超图并解决参数爆炸问题。这种新方法利用谱属性和权重共享方案，显著降低了计算成本，同时可能提高了性能和可解释性。在具有挑战性的 N 位奇偶校验任务基准上的初步评估表明，SHONNs 提供了一个多功能且可调的假设空间。