Junhao Zhang

新的RAL-Writer框架解决了长文本生成中的“中间迷失”问题

研究人员推出了一种名为RAL-Writer的新型框架，旨在解决长文本生成中的“中间迷失”现象。该问题会导致大型语言模型忽略长输入中嵌入的关键信息，从而产生不连贯的输出。RAL-Writer采用一个Planner来规划写作步骤，以及一个Writer来通过模拟语义相关性和位置偏差来策略性地检索和重述重要的输入片段。该团队还开发了一个新的基准数据集和评估指标，以评估长输入到长输出的生成能力。