Steer2Edit

Steer2Edit 框架将 LLM 引导向量转化为组件级编辑

研究人员开发了 Steer2Edit，一个新颖的框架，可将引导向量转化为大型语言模型的组件级权重编辑。与在推理过程中应用固定、全局修改的传统方法不同，Steer2Edit 选择性地将行为影响重新分配给特定的注意力头和 MLP 神经元。这种方法允许更具可解释性的编辑，它保留了标准的正向传播并与优化推理兼容。与标准的引导方法相比，Steer2Edit 证明了改进的属性-效用权衡，提高了安全性、真实性和推理效率。