Hung et al.

新研究挑战LLM提示注入检测；指南详述攻击向量

一篇新论文评估了用于检测LLM代理中间接提示注入攻击的方法Attention Tracker，发现由于其对注意力分布的假设，该方法在AgentDojo基准测试上的表现不佳。研究人员提出了AttnDA，一种基于分类器的扩展，通过分析每个头的关注分数来提高检测率，但跨域迁移仍然是一个挑战。另外，一份指南解释了提示注入，将其与SQL注入进行比较，并详细介绍了诸如角色扮演操纵、上下文操纵和混淆等攻击模式。