Heading-Specific Activation Steering

新方法引导大型语言模型控制不必要的工具使用

研究人员开发了一种名为“特定方向激活控制”（Heading-Specific Activation Steering）的新方法，用于控制大型语言模型（LLM）的工具使用。该技术旨在通过操纵内部表征来阻止模型不必要地调用外部工具。在五个开源模型上的实验表明，方向控制向量可以有效地抑制工具使用，尤其是在参数推理已足够的情况下。然而，研究还发现，这种控制的有效性与简单的线性结构不符，表明模型内部状态与工具调用之间存在复杂的关系。