研究人员进行了一项评估语言模型对“just”和“only”等语篇助词敏感性的研究。研究发现,在对话语境中,人类和语言模型对这些助词表现出相似的偏好,“just”比“only”引起的反应更强烈。语言模型在这些助词存在时,持续将生成的文本评定为更可能出现,这表明指令调优进一步增强了这种敏感性。机制分析显示,语言模型内部对“just”和“only”的表征部分按意义组织,两种助词之间存在不对称的理解转移。 AI
影响 这项研究强调了语篇助词等细微的语言元素如何影响语言模型的理解和生成,为模型训练和评估提供了改进方向。
排序理由 学术论文,详细介绍了关于语言模型能力的研究。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →