ViT encoder

医学影像ViT编码器通过持续预训练实现任务对齐获益

研究人员探索了医学影像模型的持续预训练，特别关注将Vision Transformer (ViT) 编码器与下游任务对齐。通过在预训练的ViT编码器上应用低秩适配（LoRA）进行前列腺分割任务，他们旨在提高任务对齐和后续性能。使用中心核对齐（CKA）进行的分析显示，持续预训练的编码器的特征与分割任务的微调编码器的特征显示出更大的相似性，这与在六个下游任务中的三个任务中观察到的性能提升相关。