Selective State Space Models
PulseAugur coverage of Selective State Space Models — every cluster mentioning Selective State Space Models across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Vision Mamba vs. MambaOut：解码不同的视觉编码策略
一篇新的研究论文调查了 Vision Mamba (VMamba) 和 MambaOut 模型不同的编码策略，它们都利用选择性状态空间模型 (SSM) 作为传统自注意力机制在视觉任务中的替代方案。研究发现，VMamba 在令牌幅度和方向上组织语义证据，尤其在处理高分辨率分类和语义分割方面表现出色。相比之下，MambaOut 将区分类别的信��集中在前台令牌中，这种方法在令牌数量增加时稳定性较差。这些不同的方法表明，VMamba 在密集…
-
新研究分析了类Mamba选择性SSM的稳定性性质
研究人员发表了一篇关于选择性状态空间模型（SSM）的正则性和稳定性性质的论文，SSM是一类用于长序列建模的模型，Mamba是其中的一个突出代表。该研究应用了诸如无源性、耗散性和输入状态稳定性（ISS）等控制理论工具来分析这些模型，这些模型由依赖于token的门控信号进行调制。论文提出了关于指数遗忘、冻结选择子系统的典型AUCloc二次存储以及全局ISS的条件。它还为Mamba选择性扫描核心引入了一个采样块LMI，该核心可作为可微分的训…
-
Mamba-FSCIL：用于少样本类别增量学习的选择性状态空间模型
研究人员开发了Mamba-FSCIL，一种利用选择性状态空间模型（SSM）的少样本类别增量学习新方法。该方法通过采用输入依赖参数进行动态适应，解决了顺序学习中平衡静态和动态架构的挑战。Mamba-FSCIL引入了一个双选择性SSM投影仪来解耦基类和新类处理，以及一个类敏感选择性扫描机制，以在适应新类的同时最大限度地减少对现有知识的干扰。在miniImageNet和CIFAR-100等基准数据集上的实验表明，Mamba-FSCIL取得了…