Connor Dilgren

研究发现潜在推理模型常编码可解释过程

一项新的研究论文调查了潜在推理模型（LRM）的可解释性，LRM 以其低推理成本但透明度差而闻名。研究发现，潜在推理令牌对于 LRM 取得正确预测通常不是必需的，这表明它们可能并不总是按照预期使用显式推理过程。然而，当这些令牌对性能至关重要时，研究人员可以解码出高达 93% 的正确推理轨迹。该论文还介绍了一种从潜在令牌中提取已验证的自然语言推理轨迹的方法，这表明 LRM 经常编码可解释的过程，并且可解释性可以作为预测准确性的信号。