实体
LongZero
LongZero
PulseAugur coverage of LongZero — every cluster mentioning LongZero across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的LongZero方法在无外部数据的情况下增强了LLM的长上下文推理能力
研究人员推出了一种名为LongZero的新颖方法，旨在增强大型语言模型（LLM）的长上下文推理能力，而无需任何外部训练数据。该方法使LLM能够通过合成带有支持性证据的问题和答案来生成自己的任务，包括多跳推理和多轮检索练习。然后，LongZero使用GRPO将这些证据扩展到长的、多文档的上下文，并训练模型。在五个基准测试中的两个LLM上进行的实验表明，LongZero的表现优于依赖外部合成数据的基线，这表明了改进LLM长上下文推理的一个…
-
LongZero 使 LLM 能够在没有任何外部数据的情况下提高长上下文推理能力
研究人员开发了 LongZero，这是一种新颖的方法，使大型语言模型 (LLM) 能够在无需任何外部数据的情况下增强其长上下文推理能力。该方法涉及 LLM 合成其自身的链式推理和检索任务，生成问题、答案和支持证据。然后将证据扩展为长篇、多文档上下文，并使用 GRPO 进行训练。在两个 LLM 上的评估表明，LongZero 的表现优于现有方法，包括那些依赖于从外部语料库合成的数据的方法，这表明了改进 LLM 长上下文推理的一个有前景的新方向。