Referential Dangling

新研究揭示了大型语言模型提示压缩中的“引用悬空”故障

一篇新研究论文识别出一种用于大型语言模型（LLM）的硬提示压缩技术中的重大故障模式，称为“引用悬空”。当压缩过程保留了包含答案的文本但删除了解释答案的关键上下文时，就会发生这种情况。实验表明，该问题影响了包括GPT-5.5在内的各种数据集和模型中的大量示例，导致准确率下降高达34个百分点。研究人员提出了一种自动恢复被省略句子的方法，在不显著改变压缩率的情况下显著提高了准确率。