causal-state

新方法允许AI文本揭示内部计算状态

研究人员开发了一种名为计算溯源的方法，该方法允许生成的文本携带可验证的证据，证明其内部计算过程。在对前馈和基于Transformer的模型进行的对照实验中，他们证明了文本中微妙的统计模式可以揭示使用了哪个特定的内部状态，即使最终答案保持不变。这个概念验证表明，关于已验证的、因果相关的内部状态的信息可以保存在生成的文本中，为提高AI输出的透明度提供了一条潜在途径。