ELM Network

新型ELM网络模仿皮层神经元，改进序列建模

研究人员推出了一种新型循环神经网络架构——表达性泄漏记忆（ELM）网络，旨在更好地模仿皮层神经元的功能组成部分。与使用更简单单元的主流机器学习模型不同，该新模型允许独立调整单元数量、每个单元的复杂度和连接性。在SHD-Adding任务和Enwik8语言建模等序列基准测试上的实验表明，性能随着复杂性、宽度和连接性的增加而提高，并且开发了一个理论框架来解释这些扩展定律和权衡。