实体 RLMO

RLMO

PulseAugur coverage of RLMO — every cluster mentioning RLMO across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_119543 · Jun 30 · 15:27

新的正交初始化方法提高了RLVR训练稳定性

研究人员开发了一种新的方法，用于在具有可验证奖励的强化学习（RLVR）中初始化低秩适应（LoRA）矩阵。这种称为几何保持正交初始化（geometry-preserving orthonormal initialization）的方法旨在与标准LoRA以及PiSSA和MiLoRA等其他变体相比，提高训练稳定性和性能，这些变体在RLVR设置中可能表现不佳或不稳定。所提出的方法导致了新的RLPO和RLMO变体，得到了理论分析的支持，并通过在…