RADIO distillation

Pathryoshka框架压缩病理模型，提升可及性

研究人员开发了Pathryoshka，一个用于压缩大型病理基础模型的新框架。这种受RADIO蒸馏和Matryoshka表示学习启发的、多教师知识蒸馏方法，在保持与大型模型相当的性能的同时，显著减小了模型尺寸（86-92%）。Pathryoshka的表现也优于现有的单教师蒸馏方法，中位数准确率提升了7.0。该框架能够适应嵌入维度，从而实现高效的本地部署，使更广泛的社区能够获得先进的计算病理学。