研究人员发现,中文大语言模型倾向于过度使用纠正性句式“不是X,而是Y”。虽然该句式经常被正确使用,但模型却频繁不必要地使用它,其使用频率远超人类写作者。研究发现,该句式仅有小部分使用存在缺陷,但超过一半的使用是可选项,这表明模型缺乏对适切性的判断,而非正确性。奖励模型和偏好该句式的大语言模型裁判,以及进一步增加开放权重模型中该句式频率的微调技术,都加剧了这种过度依赖。 AI
影响 凸显了大语言模型在沟通能力上的差距,表明模型需要超越单纯的正确性,更好地判断表达的适切性。
排序理由 学术论文,详细阐述了大语言模型中一个特定的语言学问题。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- bushi X, ershi Y
- Five commercial models
- LLM Judge
- open-weight models
- Preference Optimization
- Mandarin
- supervised fine-tuning
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →