LongBench QA
PulseAugur coverage of LongBench QA — every cluster mentioning LongBench QA across labs, papers, and developer communities, ranked by signal.
-
新方法使大型语言模型能够高效压缩上下文
研究人员开发了新的方法来压缩大型语言模型的上下文，使其能够更有效地处理更多信息。来自arXiv的FlexComp框架通过对每个实例的内存预算进行采样，使单个模型能够处理可变的压缩率，其性能优于固定比率的专用模型。LatentPress是另一种方法，它将对话历史和文档编码成连续的内存令牌，冻结的解码器可以直接读取，绕过文本重建，并显著加快推理速度。
-
新方法超越文本和视觉压缩LLM的长上下文 · 跟踪2个来源
两篇新的研究论文介绍了压缩大型语言模型长上下文的新颖方法。LatentPress利用连续内存令牌，绕过文本重建，实现更快、更高效的处理，在极少的参数训练下实现了显著的压缩率。TopoCompress是一个无需训练且模型无关的框架，采用图连接的语义轨迹来选择连贯的跨度，其性能优于现有的压缩基线，并减少了预算和时间。
-
新的RAG技术增强LLM信息检索与生成能力
研究人员正在开发先进的检索增强生成（RAG）方法，以改进大型语言模型访问和利用信息的方式。一种名为SetwiseEvalKit的方法侧重于整体评估文档集，而非仅仅评估单个相关性，从而提出了一种名为Rubric4Setwise的方法，该方法优化文档选择以获得更好的下游生成效果。另一项开发VizRAG通过整合超图的视觉线索来增强RAG，以利用多模态能力。此外，M-RAG引入了一个语义键值索引层，将检索键与生成载荷分离，提高了效率和准确性，…
-
H2MT Transformer 提升长上下文大模型效率
研究人员开发了一种名为 H$^{2}$MT 的新型 Transformer 模型，旨在更有效地处理长文本输入。该模型离线构建输入数据的语义层次结构，从而在推理过程中更有效地路由查询。通过及早修剪不相关信息，H$^{2}$MT 旨在与提示压缩和检索增强生成等现有方法相比，减少计算量和延迟。