Ziyu Liu

新型后门攻击利用LLM的情感风格

研究人员开发了一种名为Paraesthesia的新型后门攻击，通过利用输入中的情感风格来针对大型语言模型（LLM）。与依赖固定触发器的先前攻击不同，Paraesthesia将其恶意条件编码在文本的情感基调中，在各种任务和LLM上实现了超过98.25%的攻击成功率。该方法表明，情感风格可以作为后门的触发面，区别于传统的词汇或语法模式，并且能够抵御多种防御机制。