Gal Wertheizer

新的 AnchorRep 防御机制可保护 LLM 免受跨模型对抗性攻击

研究人员开发了一种名为 AnchorRep 的新防御机制，用于保护大型语言模型（LLM）免受在不同模型之间转移的对抗性攻击。该方法使用一个轻量级适配器来调整 LLM 的内部表示，在处理有害提示时，使其远离冻结的“锚定”模型的表示。AnchorRep 显著降低了跨模型攻击的成功率，在某些模型上成功率接近于零，同时对良性输入的性能没有显著损害。