PulseAugur
中
实时 07:49:03
实体 Sparse Delta Memory

Sparse Delta Memory

PulseAugur coverage of Sparse Delta Memory — every cluster mentioning Sparse Delta Memory across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_133191 ·

    稀疏增量记忆架构提升RNN长上下文回忆能力

    研究人员推出了一种名为稀疏增量记忆（Sparse Delta Memory, SDM）的新型架构，旨在增强线性循环神经网络（RNN）的长上下文回忆能力。与在固定状态大小方面难以处理长距离依赖的传统线性注意力模型不同，SDM采用稀疏寻址方案来管理大型显式记忆。这种方法允许在计算成本不成比例增加的情况下显著提高状态容量，从而在上下文学习和长上下文检索任务上获得更好的性能。此外，通过将SDM记忆的初始状态视为参数化记忆，该模型在常识和推理基…