AdvGuard

新的AdvGuard框架应对LLM提示泄露攻击

研究人员开发了AdvGuard，一个旨在检测和缓解针对大型语言模型（LLM）的提示泄露攻击的新型框架。这些攻击旨在提取指导LLM行为的机密系统提示。AdvGuard利用图卷积网络（GCN）来模拟用户查询之间的关系，识别跨多次交互出现的恶意模式。该框架还包括一个用于即时保护的提示级检测器，并在评估中表现出高准确率，显著降低了已知和未知攻击家族的成功率。