研究人员调查了语言模型如何处理差异论标记(DAM),这是一种标记取决于语义突出性的语言特征。使用在合成数据上训练的 GPT-2 模型,他们发现模型可以复制人类对自然标记方向的偏好,倾向于标记语义非典型论点的系统。然而,模型并未重现人类在 DAM 系统中更频繁地标记宾语而非主语的倾向,这表明不同的类型学倾向可能源于不同的起源。 AI
影响 揭示了大型语言模型处理语言结构的细微差别,表明不同的类型学特征具有不同的潜在机制。
排序理由 学术论文,详细介绍语言模型行为的实验结果。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →