Layer

研究人员量化语言模型中自注意力机制的令牌检索能力

研究人员调查了语言模型中自注意力机制的检索能力，旨在了解模型上下文中有多少令牌被实际使用。该研究提出了一种通过保留具有最高注意力权重的令牌并观察其对负对数似然（NLL）的影响来测量有效注意力集合大小的方法。结果表明，相对较小的选定令牌集合可以使NLL接近全注意力基线，并且性能远超随机选择。研究还探讨了扩展上下文、支持事实的存在以及权重重整化如何影响所需的集合大小和模型的整体性能。