miniReranker

新型miniReranker提升了MLLM重排效率

研究人员开发了miniReranker，这是一种新颖的方法，可提高多模态大型语言模型（MLLM）作为重排器时的效率。该系统将标准的查询优先公式重新配置为视觉优先方法，从而增强了缓存重用和重排性能。miniReranker通过早期退出、限制跨段注意力以及修剪视觉标记来减少活动参数，从而进一步优化性能，在高度重用场景下实现了超过96%的密集模型性能，同时将运行时间减少到1%以下。