Learnable Trust-Boundary Delimiters

新的防御LTBD无需模型重新训练即可解决LLM提示注入问题

一种名为可学习信任边界分隔符（LTBD）的新防御机制已被提出，用于对抗大型语言模型中的提示注入攻击。与需要模型微调或依赖手工制作提示的现有方法不同，LTBD使用一小组可学习的分隔符来区分受信任的用户指令和不受信任的外部数据，而无需更改LLM的参数。这种方法旨在帮助模型更好地理解和维护预期的信任层级。实验表明，LTBD在推理时防御效果显著优于其他方法，并与基于训练的方法具有竞争力，同时还能有效抵御自适应攻击，并对推理速度影响最小。