SoftModel

SoftModel 引入动态神经网络拓扑以实现终身学习

研究人员推出了一种名为 SoftModel 的新型神经网络架构，专为持续在役学习而设计。与训练后固定的传统模型不同，SoftModel 保持完全的可塑性，允许其结构根据需求动态适应和生长。这种受控的结构生长由一套有预算和经过审计的算子进行管理，确保在不影响非平稳数据流性能的情况下实现稳定性和容量扩展。该模型在标准的持续学习基准测试中已证明其有效性，能够跨越长任务序列保持学习能力。