研究人员推出了一种名为流式递归记忆(SRM)的新型递归记忆系统,该系统专为从高带宽数据流中进行连续学习而设计。与依赖存储数据集的传统深度学习模型不同,SRM 在不存储原始数据的情况下处理接收到的经验,从而能够适应延迟反馈。该系统可以通过单步反向传播随时间进行训练,并能够通过内容或时间回忆过去的信息,跟踪已过去的步骤,并根据输入顺序组合变换。实验表明,SRM 在流式环境中能有效学习,在联想回忆和在线语言建模方面优于基线递归模型,并在具有延迟奖励的联想T迷宫任务中取得了高成功率。 AI
影响 通过处理数据而无需大量存储,从而能够实现实时系统中更有效的学习。
排序理由 该项目是一篇详细介绍新模型架构的研究论文。[lever_c_research降级:ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- Connected Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv Recommender
- Litmaps
- ScienceCast
- scite Smart Citations
- SRM
- Streaming Recurrent Memory
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →