CLLMs

新的“Poison-with-Style”攻击以微妙的触发器为目标，攻击代码LLM

研究人员开发了一种名为Poison-with-Style (PwS) 的新型数据投毒攻击，该攻击以代码大型语言模型 (CLLM) 为目标。该攻击巧妙地将触发代码风格嵌入开发者的提示中，导致CLLM在没有明确触发词的情况下生成易受攻击的代码。PwS在对抗现有防御措施方面表现出鲁棒性，并在生成特定漏洞（如CWE-20）方面取得了高成功率，同时对标准代码补全基准测试的性能影响最小。