Rank-One Safety Injection

新的ROSI技术无需微调即可增强LLM安全对齐

研究人员开发了一种名为秩一安全注入（ROSI）的新技术，以增强大型语言模型（LLM）的安全对齐。ROSI是一种无需微调的方法，通过应用秩一权重修改，永久地将模型的内部激活引导至一个拒绝中介子空间。该方法已被Llama Guard 3评估证明提高了安全拒绝率，同时不影响模型在MMLU和HellaSwag等标准基准上的效用。ROSI也可用于重新对齐“未审查”的模型，作为最后一英里安全程序被证明有效。