CT organ segmentation

新的HSMLA方法提高了视觉Transformer在密集预测任务中的效率

研究人员推出了一种名为HSMLA（分层Softmax多尺度线性注意力）的新方法，旨在提高视觉Transformer在处理高分辨率密集预测任务时的效率。该方法结合了用于全局上下文的线性注意力和用于局部特征和多尺度Token表示的选择性softmax细化。HSMLA在多种任务中展示了显著的加速效果，包括CT器官分割和病理WSI分析，推理时间速度提升高达4.2倍。