实体
structured state space models
structured state space models
PulseAugur coverage of structured state space models — every cluster mentioning structured state space models across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的S4oP方法剪枝状态空间模型以提高效率
研究人员开发了一种名为S4oP的新方法,用于剪枝结构化状态空间模型(SSM),包括S4和S4D架构,使其在资源受限设备上更高效。这种算子级剪枝技术将结构化掩码与微调相结合,可以在保持预测性能的同时显著降低推理延迟。实验表明,高达70%的模型算子可以在没有明显精度损失的情况下被剪枝,从而便于在实际的低资源场景中部署SSM。
-
ECG基础模型受益于对比学习和状态空间架构
研究人员对心电图(ECG)基础模型的预训练策略和扩展进行了系统性研究。他们评估了五种不同的自监督学习目标,发现对比预测编码(contrastive predictive coding)和JEPA产生了最具迁移性的表示。研究还表明,将预训练数据增加到1100万个样本可以持续提高大多数目标的性能。此外,结构化状态空间模型(structured state space models)在性能上优于Transformer和CNN,表明其归纳偏置…