Genesis Steering

新方法通过改进向量和数据使用来增强LLM激活引导 · 跟踪4个来源

研究人员正在开发用于大型语言模型（LLM）激活引导的新方法，以改善行为控制并缓解脆性、混淆因素等问题。一种名为“锐角移除”（sharp removal）的方法侧重于消除引导向量中导致 erratic 行为的“锐角方向”，在控制预期结果方面显示出显著的改进。另一种方法，对比协方差引导（Contrastive Covariance Steering, CCS），将引导向量投影到一个子空间中，将目标概念与附带的混淆因素分离开来，在各种模型和…