maxims of conversation

研究发现：大型语言模型表征用户意图优于实际行动

研究人员发现，大型语言模型内部对用户沟通意图的表征比其外在行为所显示的更为稳健。尽管模型经常根据表面文本而非潜在意图进行响应，但通过线性探针可以准确地从不同架构模型的隐藏状态中解码出这种意图。这种内部表征比最初看起来更细致，能够泛化到语用推断的意图，并区分不同类型的支持。虽然模型能够可靠地表征意图，但其对意图的实际行动却不一致且因模型而异，这表明是读取（readout）而非表征（representation）方面存在缺陷。