Swin Transformers
PulseAugur coverage of Swin Transformers — every cluster mentioning Swin Transformers across labs, papers, and developer communities, ranked by signal.
-
新型混合CiUNet模型增强医学图像分割
研究人员开发了CiUNet，一种用于医学图像分割的新型混合架构，它结合了Swin Transformer和卷积神经网络（CNN）的优势。该模型旨在通过集成CNN编码器来捕获局部纹理特征，并结合Swin Transformer的推理能力，从而提高临床部署的准确性和效率。该架构采用非对称特征融合和跨层跳跃连接来增强细节恢复，并结合新的损失函数和辅助监督头以实现更好的训练稳定性和边界描绘。在Synapse数据集上的实验表明，CiUNet在D…
-
TERRA框架解决了高分辨率人工智能地球建模的内存需求
研究人员开发了TERRA，一个旨在应对训练高分辨率人工智能地球预测模型内存密集型需求的新框架。TERRA引入了采样感知窗口、序列和张量并行（SAWSTP）来管理注意力成本和内存使用，特别是对于Swin Transformers等模型。该框架还集成了内存编排（MO）以在长周期微调期间进行高效的检查点规划和激活卸载。实验表明，TERRA能够在96个H200 GPU上训练多达114亿参数的模型，实现了显著的扩展效率并降低了峰值GPU内存使用量。
-
神经符号框架通过认知不确定性增强图像分类
研究人员引入了一种新颖的神经符号框架，将认知深度学习与分层图像分类相结合。该方法通过结合焦点集推理和可微分模糊逻辑来增强 Swin Transformers，以更好地捕捉认知不确定性并在不同分类级别上确保逻辑一致性。该方法旨在减少预测中的过度自信，并提供更校准、更可解释的输出，同时保持与现有 Transformer 基线相当的准确性。
-
深度学习模型TREX通过内窥镜检查预测直肠癌复发
研究人员开发了一个名为TREX的深度学习模型，用于从纵向内窥镜检查图像预测直肠癌复发。TREX利用带有Swin Transformers和双交叉注意力的Siamese网络，分析不同时间拍摄的图像对，区分持续反应和局部复发。该模型在检测复发方面表现出高精度，并有望在临床确认前数月实现早期检测，甚至在外科医生调查中达到主治医师级别的准确性。