Structural Evolution RNNs

新的RNN框架从多个有序数据投影中学习

研究人员引入了一个新的循环神经网络（RNN）框架，该框架超越了传统的时间序列学习。该框架基于有序结构依赖假设（OSDH），提出同一数据的多个有效排序可以揭示单一序列组织所遗漏的互补结构依赖。为了实现这一点，他们提出了独立结构专家原理（ISEP），其中特定投影的序列模型被单独训练，并通过融合模型整合它们的表示。一个具体的实现，结构演化RNN（SE-RNN），使用标准的RNN作为特定投影的专家，而不改变核心的循环计算。