LLaMA 3B-Instruct

新的“注意力流形”可对大型语言模型的输出进行可控调节

研究人员开发了一种名为“注意力流形”的新技术，用于引导和修改大型语言模型的行为。这些流形以学习到的B样条曲面的形式实现，根据查询-键交互来调节值向量，比标准的注意力机制提供了更细致的控制。当应用于LLaMA模型时，该方法提高了在WikiText-2上的困惑度，并显著改变了大多数多样化提示的输出，纠正了事实错误，提高了精度，并增加了特异性。学习到的曲面也是可编辑的，允许直接引导模型并创建“注意力墙”来阻止特定的值维度，这可能对AI安全产生影响。