Turn-based Structural Triggers

新型后门攻击利用语言模型对话结构

研究人员开发了一种名为“基于回合的结构化触发器”（Turn-based Structural Triggers, TST）的新型后门攻击，它利用大型语言模型（LLMs）的对话结构，而非用户可见的提示。该攻击使用对话中的回合索引作为触发器，使得被植入后门的模型能够在对话的特定点执行恶意行为，而无需任何可识别的输入触发器。TST在多个语言模型家族中展示了高攻击成功率，同时在非触发任务上保持正常性能，凸显了多轮对话式AI系统中的新漏洞。