Steering Vector Dissection

新框架解耦大语言模型引导向量以实现精确控制

研究人员开发了一个名为“引导向量解剖”（Steering Vector Dissection）的新框架，用于解耦大型语言模型中使用的复合引导向量。传统方法通常将多个概念合并到一个向量中，导致结果不可预测。这种新方法将单个语义特征从这些复合方向中分离出来，从而能够更精确地控制模型的行为。在不同数据集和模型上的评估表明，解耦后的向量是相互可区分的，并允许对大语言模型的输出进行细粒度操作。