Reinforced Mode Regulation

研究人员提出强化模式正则化以对抗LLM生成模式崩溃

研究人员提出了一种名为强化模式正则化（RMR）的新方法，以对抗大型语言模型（LLM）的模式崩溃问题。该技术将模式崩溃视为模型表示空间内的几何问题，而不仅仅是令牌级别的问题。RMR通过低秩阻尼来调节Transformer值缓存中自我强化的方向，是一种轻量级的干预措施。实验表明，RMR显著减少了模式崩溃，即使在非常低的熵率下也能实现稳定和高质量的生成。