实体
Gu & Dao
Gu & Dao
PulseAugur coverage of Gu & Dao — every cluster mentioning Gu & Dao across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Mamba-3 架构解决了逻辑失败和 KV 缓存问题
Mamba-3 架构已推出，其特点是数据依赖的旋转位置嵌入 (data-RoPE) 和其他先进技术，以解决序列建模中的局限性。据报道，这种新架构在形式逻辑任务上达到了完美的准确率，相比之前的线性模型有了显著改进，并消除了困扰 Transformer 模型的 KV 缓存内存开销。Mamba-3 在处理长上下文窗口方面也表现出优于 Transformer 基线模型的性能，这对于新兴的代理 AI 工作流至关重要。
-
HiPPO Zoo 通过显式、可解释的记忆增强 SSM
研究人员推出了“HiPPO Zoo”框架，通过使状态空间模型（SSM）的记忆机制显式化和可解释化来对其进行增强。该方法建立在原始 HiPPO 框架的基础上，该框架使用正交多项式和线性常微分方程来压缩序列数据。新的扩展允许自适应内存分配和联想记忆，类似于 Mamba 等现代 SSM，但对历史数据的处理和优先级排序方式更加透明。这些模型专为高效的流式更新而设计，并在合成序列建模任务中展示了其能力。