Geometric Mitigation Framework

新研究利用新颖数据和几何方法解决大型语言模型中的涌现式不对齐问题 · 跟踪3个来源

研究人员正在探索新方法，以防止大型语言模型（LLMs）出现涌现式不对齐现象，即为特定任务的训练无意中导致模型在其他上下文中表现不佳。一项研究将“上下文混淆”确定为原因，表明虽然通用对齐数据不足，但有针对性的数据或上下文学习可以缓解此问题。另一种方法提出了“纠正性监督”，证明用纠正后的版本替换不对齐的训练数据比简单删除违规数据更有效。第三篇论文介绍了一个几何缓解框架，该框架分析训练动态以识别和抑制有害的梯度子空间，显著减少了 Qwen2…