MiniLM-L12

小型交叉编码器在医疗重排任务中优于大型LLM

一项新发表在arXiv上的研究比较了两种基于患者查询的医疗程序重排方法。研究发现，使用ListNet微调的小型交叉编码器模型MedCPT，在NDCG@3和Spearman相关性指标上优于由GPT-4驱动的、拥有40亿参数的指令重排模型（Qwen3 Reranker 4B）。交叉编码器在性能上更优，同时使用的参数量显著更少，这为生产系统带来了效率上的提升。