研究人员开发了 MERGED,一个新颖的蒸馏框架,旨在将大型视觉语言模型(VLMs)的推理能力转移到更小、更高效的模型中。这种方法绕过了产品实体消歧任务中成本高昂且耗时的人工标注需求。MERGED 利用多个 VLMs 对产品对进行标注并阐述其推理过程,采用监督微调来处理一致性意见,并使用直接偏好优化(Direct Preference Optimization)来处理分歧。由此产生的紧凑型学生模型在性能和标签-推理一致性方面,相较于大型基线模型均有显著提升,同时还能以适合工业部署的规模快速适应新定义。 AI
影响 实现了产品实体消歧中先进推理能力的有效部署,降低了成本和适应时间。
排序理由 该集群描述了一篇详细介绍新颖模型蒸馏框架的最新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 arXiv cs.IR (Information Retrieval) 阅读 →
- arXiv
- CatalyzeX
- DagsHub
- Direct Preference Optimization
- Gotit.pub
- Hugging Face
- Pedro Herrero-Vidal
- Qwen2.5-32B-VL
- ScienceCast
- Vision--Language Models
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →