LongBench-v2
PulseAugur coverage of LongBench-v2 — every cluster mentioning LongBench-v2 across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新框架LongCrafter增强LLM长上下文理解能力
研究人员推出了一种名为LongCrafter的新框架，旨在生成多样化的高质量数据，用于微调大型语言模型（LLMs），以提高其长上下文理解能力。该框架通过分层组织任务、将生成指令与证据图关联，并确保可控的难度和忠实度，解决了现有方法的局限性。使用LongCrafter数据微调的模型在LongBench和LongBench-v2等基准测试中表现出优越的性能，尤其在更具挑战性的任务上表现出色，并缓解了“中间丢失”问题。
-
新的TTT-NTP方法提高了LLM在长上下文任务上的性能
研究人员引入了一种名为“测试时训练与下一词预测”（TTT-NTP）的新方法，该方法提高了预训练长上下文语言模型的性能。该技术无需重新设计架构即可适应现有的LLM检查点。TTT-NTP使用模型自身的下一个上下文隐藏状态来监督更新，与自监督的下一词预测目标保持一致。该方法在RULER Full-13和LongBench-v2等基准测试中，在包括Llama 3.1:8b和Mistral-7B-v0.3在内的各种模型上都显示出了一致的改进，同…
-
新框架指导大语言模型在检索增强生成（RAG）和长上下文处理之间进行选择
研究人员开发了一个名为 Pre-Route 的新框架，以帮助大语言模型（LLM）决定在文档理解中使用检索增强生成（RAG）还是长上下文（LC）处理。这个主动系统使用轻量级元数据来分析任务、估算覆盖范围并预测信息需求，从而做出更具可解释性和成本效益的路由决策。实验表明，Pre-Route 在 LaRA 和 LongBench-v2 等基准测试中优于现有方法，证明大语言模型具有潜在的路由能力，可以被有效激发，甚至可以蒸馏到更小的模型中。
-
Telegraph English 使用结构化符号压缩提示，性能优于 LLMLingua-2
研究人员开发了一种名为 Telegraph English (TE) 的新提示压缩协议，该协议将自然语言重写为使用逻辑符号的结构化方言。与删除标记的方法不同，TE 将输入分解为原子事实，并用符号替换短语，使压缩适应信息密度。在 OpenAI 模型上的 LongBench-v2 评估显示，TE 在 50% 的 token 缩减率下保留了 99.1% 的准确率，并且性能优于现有方法，尤其是在较小的模型上。