研究人员开发了一种新的评估方法,用于大型语言模型(LLM)在放射学报告上的问答,旨在将可回答性与提取能力分离开来。该方法将错误回答率和过度回避率与传统的F1分数分开,从而提供对模型性能更细致的理解。当应用于13个LLM时,该评估揭示了具有相似F1分数的模型之间错误回答率的显著差异,并表明提供一个无法回答的示例可以提高回避率,而不会损害提取质量。 AI
影响 这种新的评估方法可能导致在医学影像分析等专业领域中对LLM性能进行更可靠的评估。
排序理由 该项目是一篇提出LLM新评估方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →