ECG基础模型受益于对比学习和状态空间架构

研究人员对心电图（ECG）基础模型的预训练策略和扩展进行了系统性研究。他们评估了五种不同的自监督学习目标，发现对比预测编码（contrastive predictive coding）和JEPA产生了最具迁移性的表示。研究还表明，将预训练数据增加到1100万个样本可以持续提高大多数目标的性能。此外，结构化状态空间模型（structured state space models）在性能上优于Transformer和CNN，表明其归纳偏置（inductive biases）是有效ECG表示学习的关键。 AI

影响 表明结构化状态空间模型和对比学习是有效ECG表示学习的关键，可能指导未来的医疗AI发展。

排序理由 该集群包含一篇学术论文，详细介绍了ECG基础模型的预训练策略和模型架构的系统性研究。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• CNNs
• contrastive predictive coding
• ECG
• structured state space models
• transformers

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →