Tomasz Gniazdowski

新框架将大型语言模型提炼为用于搜索相关性的高效多模态模型

研究人员开发了一个新框架，将大型、昂贵的语言模型提炼成更高效的多模态学生模型，用于搜索相关性预测。该方法使用一个大型语言模型作为裁判，通过精心设计的提示在少量人工标注的数据集上进行训练，从而生成用于训练更小、更快的模型的大规模数据集。提炼后的模型在性能上可与较大的教师模型相媲美，但延迟、成本显著降低，且可扩展性得到改善，使其适用于生产环境。