Longstraw

LongStraw 在固定GPU预算下实现超过200万Token的强化学习后训练

研究人员开发了LongStraw，这是一个旨在实现强化学习（RL）后训练的执行栈，能够处理超过200万Token的上下文长度，即使在固定的GPU限制下也能实现。该系统解决了推理上下文长度与当前RL后训练能力之间日益增长的差距。LongStraw通过优化共享提示的评估并选择性地保留必要的模型状态来减少计算负载。对Qwen3.6-27B和GLM-5.2模型的初步实现表明，能够处理高达446万Token的提示，确立了极长上下文的执行可行性。