RollingSockpuppetGCG

新的“Sockpuppetting”攻击方法利用大型语言模型漏洞

研究人员开发了一种名为“sockpuppetting”的新方法，用于绕过大型语言模型的安全措施。该技术结合了预填充攻击（在大型语言模型的输出开头插入一个接受序列）和优化的对抗性后缀。通过集成简单的预填充变体，像 Gemma-7B、Llama-3.1-8B 和 Qwen3-8B 这样的模型被越狱的成功率显著提高。“sockpuppetting”方法进一步提高了与提示无关的攻击成功率，凸显了开放权重模型在输出前缀注入方面的漏洞。