resolvent-RNNs

研究人员探索神经网络的复杂性、计算和图论的联系

研究人员正在探索神经网络的新理论框架和计算模型。一篇论文通过对张量运算建模，引入了一个统一的框架来分析和构建深度神经网络，揭示了历史上的架构复杂性趋势，并识别了未被探索的高复杂度架构。另一项研究将动力系统和图论统一起来，以理解循环神经网络中的计算，并提出了 resolvent-RNNs，它约束多跳路径以提高时间稀疏性和性能。第三篇论文建立了循环图神经网络的表达能力与循环算术电路之间的精确对应关系，从电路复杂性理论提供了新的视角。