研究人员调查了语言模型中的习语可分解性概念,探讨了构成部分含义如何贡献于比喻语言。他们的发现表明,虽然可分解性被认为可以预测句法灵活性,但强调分布经验的基于用法的解释更为相关。该研究利用了语境化语言模型作为分布学习者,并开发了一种模型内部的可分解性度量,发现它与人类判断的相关性较弱,并且与句法灵活性呈负相关。对模型预训练的分析显示,习语表征的稳定受惊奇度、可分解性和频率的影响,其中可分解性显示出最显著的训练依赖性效应。 AI
影响 这项研究为语言模型如何学习和表征习语提供了见解,可能为未来的模型开发和评估提供信息。
排序理由 这是一篇发表在arXiv上的研究论文,详细介绍了关于语言模型和习语学习的发现。
- arXiv
- Contextualised Language Models
- Idiomaticity Decomposability Hypothesis
- Rethinking the Idiomaticity Decomposability Hypothesis: Evidence from Distributional Learning
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →