Evidence Inference

新研究质疑AI上下文压缩对后续查询的有效性

一篇新研究论文评估了语言模型代理的上下文压缩方法，重点关注压缩后的上下文对后续问题的服务效果。研究发现，虽然像GPT-6 Luna这样由OpenAI Decisions API指导的方法在即时问题上提高了准确性，但对于后续问题，其表现并不比随机删除显著更好。LLMLingua-2忽略问题，通过保留更多内容词，在MultiRC数据集的后续问题上表现更好。