ReClor

新研究探究语言模型脆弱性和失效动力学

研究人员开发了一种新方法，用于理解为何某些文本改动会导致语言模型失效，即使内部变化很小。他们的方法称为方向敏感读出相对分析，揭示了不同的文本修改可以在没有单一、一致的失效方向的情况下，共享相似的几何和读出关系。该框架包括清洁决策储备和表示转换等概念，有助于预测 Qwen3-32B 和 Gemma 4 31B 等模型的失效，并深入了解方向除了简单的标量几何之外所携带的因果信息。