Sarfati et al.

新方法通过在文本中嵌入潜在变量来测试 LLM 的信念状态

研究人员开发了一种新颖的方法来测试大型语言模型（LLM）跟踪“信念状态”的能力，方法是将一个可控的潜在变量嵌入到自然语言文本中。该技术涉及一个 LLM 教师在被微妙地引导沿特定的自编码器方向写作文本，这些方向根据马尔可夫链而变化。一个在该语料库上训练的独立 Transformer 模型成功跟踪了植入的潜在变量的贝叶斯后验信念，甚至按照马尔可夫链的顺序排列了这些状态，这为概念的几何形状受到其潜在变量统计动力学的影响提供了证据。