对 337 篇文章的系统性综述表明，基于 Transformer 的语言模型 (TLMs) 拥有大量的句法知识。虽然这些模型在形式句法任务上表现良好，但在句法-语义接口和对数字支持较少的语言上的表现较弱。尽管有句法知识的证据，但当前的研究方法过于多样化和观察性，无法完全理解其底层的计算机制，并且研究高度集中在英语和类 BERT 模型上。 AI
影响 证实了当前的 LLMs 拥有大量的句法知识，但对其底层机制的理解仍然有限。
排序理由 这是一篇系统性综述论文，分析了关于语言模型的现有研究。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →