Misra and Mahowald

新方法识别对语言模型泛化至关重要的间接证据

研究人员开发了一种使用影响函数识别有助于语言模型语法泛化的间接证据的新颖方法。通过分析 15 种 BLiMP 语法现象的训练句子对模型预测的影响，他们分离出了并非直接证据的影响性句子。移除这些间接证据会显著降低模型在未见数据上的准确性，证明了其在学习中的关键作用。研究还发现，与随机句子相比，这种间接证据更频繁地部分满足直接证据过滤器的结构条件，并且通过间接证据重叠对现象进行聚类成功地将相关的语言类别分组。