Sebastian Doerrich

MoPET方法使用混合专家模型进行医学图像分类

研究人员开发了MoPET，一种利用混合专家（MoE）方法进行医学图像分类的新型参数高效微调（PEFT）方法。MoPET通过采用学习到的稀疏路由器，将输入导向冻结基础模型中的低秩专家子集，从而解决了PEFT中的负迁移问题。这使得跨数据集的容量共享，同时减轻了梯度冲突。在MedMNIST基准上的评估证明了MoPET的有效性，显示出比独立的PEFT适配器更高的准确率，并在与辅助数据集联合训练时，在数据受限的临床目标上表现出增强的性能。