一项新的研究论文对使用“大语言模型即评委”框架的任务分解在改进自然语言生成(NLG)评估方面的有效性提出了质疑。研究发现,与不进行分解的基线相比,分解并未带来性能提升。相反,先前观察到的改进被归因于使用人类标签进行训练,而非分解方法本身。研究还表明,“大语言模型即评委”在用人类标签训练后,其性能可与人类标注员相媲美。 AI
影响 对当前评估 NLG 模型的方法提出了挑战,表明在有可用人类标签的情况下,可能采用更简单的方法就足够了。
排序理由 在 arXiv 上发表的关于大语言模型评估方法的论文。
在 Hugging Face Daily Papers 阅读 →
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Gotit.pub
- Hugging Face
- LLM-as-a-Judge
- natural language generation
- ScienceCast
- Sebastian Steindl
- Human annotators
- human labels
- LLMaJ
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →