一篇新研究论文介绍了一种名为顺序一致评分(OC-SFT)的方法,旨在减轻大型语言模型(LLM)评分器的顺序依赖性。尽管当前的评分器通常基于NDCG@10等排名质量指标进行评估,但它们的决策可能会因处理文档或响应的顺序而产生显著差异。OC-SFT旨在训练评分器,使其决策无论顺序如何都能保持稳定,并在多项任务中展示出比现有方法更高的决策稳定性。 AI
影响 这项研究可能有助于提高依赖评分和排名的LLM应用(如检索增强生成和多文档问答)的决策可靠性和一致性。
排序理由 该集群包含一篇详细介绍LLM评分器新方法的 ist 研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 arXiv cs.IR (Information Retrieval) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →