backdoor defenses

新的Cordyceps攻击通过数据投毒实现对大型语言模型的隐蔽控制

研究人员开发了一种名为Cordyceps的新型数据投毒技术，能够实现对大型语言模型（LLMs）的隐蔽控制攻击。与依赖固定触发短语的先前方法不同，Cordyceps通过语义关联教会LLMs隐藏恶意指令。该方法在绕过现有防御方面取得了显著成功，包括异常值检测、干净数据正则化和提示注入防御，即使只有一小部分被投毒的数据也能实现高攻击成功率。